全國政協委員、三六零創始人兼董事長周鴻禕：研究制定大模型安全標準體系 推進更多場景應用落地

全國政協委員、三六零董事長 周鴻禕

證券時報記者 王小偉

2024年全國兩會，全國政協委員、三六零創始人兼董事長周鴻禕的提案聚焦數字安全和AI大模型的發展。

通用大模型的安全性，是周鴻禕提案中關注的重要方面。他認爲，一方面，OpenAI系列模型工具發佈後，AGI加速實現，將引發更加複雜的安全風險，主要包括技術安全、內容安全和人類安全三個方面；另一方面，生成式AI軍事化的趨勢愈發顯著。

爲此，周鴻禕建議，國家要更加重視通用大模型安全問題，給予兼具“安全和AI”能力的企業專項扶持政策，更好發揮其解決通用大模型安全問題的重要作用；同時建議國家研究制定保障通用大模型安全的標準體系，推動通用大模型開展安全評測、接入安全服務，降低通用大模型安全風險。此外，周鴻禕還建議政府、央國企與兼具“安全和AI”能力的企業在大模型安全領域展開深入合作。

周鴻禕認爲，現階段，將安全模塊作爲大模型外掛的做法已不可行，建議國家在內容安全、數據安全、科技倫理、網絡安全等細分領域，牽頭研究制定安全檢測標準，在規範的安全標準體系下，推動通用大模型的安全評測工作，通過接入安全服務來保障大模型的安全。

大模型應用是周鴻禕關注的另一個重要方面。2024年被業內視爲大模型應用場景元年。在《關於深化人工智能多場景應用支持大模型向垂直化、產業化方向發展的提案》中，周鴻禕認爲，百億規模的大模型就足夠賦能百行千業，中國發展大模型的一個重要方向應該是藉助產業和場景的優勢，將大模型與業務流程、產品功能相結合，尋求多場景應用、垂直化和產業化的落地，助力新質生產力發展。

爲此，周鴻禕提出“三個很重要”。首先，場景很重要，建議政府、央國企率先提供更多應用場景，聚焦“小切口、大縱深”，推動大模型垂直化、產業化落地。其次，知識很重要，基於“暗知識”的垂直大模型能更好解決企業問題，建議鼓勵企業在定製AI前，做好知識管理，將企業大數據平臺升級爲企業知識平臺。再次，業務融合很重要，建議鼓勵和引導企業將大模型與數字化業務系統深度融合，同業務流程相結合，充分發揮大模型價值。

在《關於全面建設安全雲、推廣數字安全雲化服務的提案》中，周鴻禕提出，以“安全即服務”的理念，通過建設雲化數字安全基礎設施“安全雲”，集中數字安全能力，以雲服務的方式向各機關企事業單位及個人輸出安全效果。

具體建議包括三個方面：一是統籌建設數字安全公共服務基礎設施，集中數字安全能力；二是改變重建設輕效果的思路，鼓勵各單位購買數字安全雲化服務，作爲傳統網絡安全建設的升級路徑；三是鼓勵網絡安全企業積極轉型，以安全即服務的方式來爲國家整體數字安全水平提升作出貢獻，尤其是鼓勵具備核心技術、被美國製裁的龍頭企業發揮更大作用。