今年以來，國內生成式人工智能熱度高漲，大模型“浪潮”此起彼伏。在產業競速未來賽道的同時，也亟須系上“安全帶”。8月15日，國家網信辦等七部門發布的《生成式人工智能服務管理暫行辦法》（以下簡稱《辦法》）正式施行，這也是我國首個針對生成式人工智能產業的規范性政策。
“制度的出臺不僅僅是規范其發展，更是良性引導和鼓勵創新。”業內專家認為，《辦法》堅持發展和安全并重，一方面劃出法律紅線，另一方面也為創新留足空間，生成式人工智能大規模商用有望加速落地，迎來發展新起點。
(資料圖片)
劃出“紅線”力保技術安全
生成式人工智能技術，是指具有文本、圖片、音頻、視頻等內容生成能力的模型及相關技術。聚焦境外互聯網詐騙的電影《孤注一擲》正在熱映，也讓人工智能等新技術帶來的虛假信息、隱私泄露等風險引起公眾高度關注。
《辦法》將保護使用者的個人信息安全擺在了重要位置，明確提出，生成式人工智能服務提供者應當依法承擔網絡信息內容生產者責任，履行網絡信息安全義務。同時，服務提供者不得收集非必要個人信息，不得非法留存能夠識別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。
“這就將生成式人工智能服務提供者明確納入了網絡平臺責任的規制范圍內，讓違規違法者無灰色地帶可躲。”北京大成律師事務所高級合伙人肖颯說。
生成式人工智能面世之初，就存在“一本正經地胡說八道”現象。對此，《辦法》明確，提供者應當按照《互聯網信息服務深度合成管理規定》對圖片、視頻等生成內容進行標識，以解決其內容真假難辨，甚至出現技術被濫用、誤用等問題。
奇安信集團副總裁張卓表示，對生成式人工智能服務來說，促進發展和防范風險需要兩者并重，從《辦法》可以看出，數據安全和隱私保護貫穿于生成式人工智能數據的標注、模型預訓練、模型訓練、提供服務等各個環節，避免了監管盲區導致的安全風險。
分級分類監管留足創新空間
國家網信辦有關負責人表示，在監管方式上，《辦法》提出，對生成式人工智能服務實行包容審慎和分類分級監管，要求國家有關主管部門針對生成式人工智能技術特點及其在有關行業和領域的服務應用，完善與創新發展相適應的科學監管方式，制定相應的分類分級監管規則或者指引。
其中《辦法》第二條明確提出了“不適用”場景，即“行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等研發、應用生成式人工智能技術，未向境內公眾提供生成式人工智能服務的，不適用本辦法的規定。”
“這一條讓規制對象目標更明確、針對性更強。”肖颯表示，《辦法》對生成式人工智能服務提供者不作“一刀切”，體現出我國對生成式人工智能在研究與應用方面的支持和鼓勵，為創新留足了發展空間。
同時，《辦法》表示，生成式人工智能服務提供者發現違法內容的，應當及時采取停止生成、停止傳輸、消除等處置措施，采取模型優化訓練等措施進行整改，并向有關主管部門報告。提供者發現使用者利用生成式人工智能服務從事違法活動的，應當依法依約采取警示、限制功能、暫停或者終止向其提供服務等處置措施，保存有關記錄，并向有關主管部門報告。
“《辦法》堅持法治化的監管方向，將給予市場一個穩定的預期。”中央財經大學中國互聯網經濟研究院副院長歐陽日輝表示，在法無禁止即可為的前提條件下，更有利于新產業、新技術、新模式、新業態生根發芽，培育出更適合數字經濟發展的營商沃土。
利好大模型多領域加速落地
生成式人工智能底層技術，實際上就是大模型。近段時間以來，國內人工智能領域爆發“群模大戰”，據不完全統計，中國10億級參數規模以上大模型已發布79個。天眼查數據顯示，今年上半年，人工智能領域的投融資熱情明顯高漲，月均融資事件達48起，從地域上看，北京以半年76起融資居全國首位。
面對蓬勃發展的產業，國家網信辦有關負責人表示，《辦法》明確鼓勵生成式人工智能技術在各行業、各領域的創新應用，鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎技術的自主創新，鼓勵采用安全可信的芯片、軟件、工具、算力和數據資源。
“關于生成式人工智能的應用場景問題一直引人爭議。”肖颯稱，《辦法》強調了人工智能技術的“應用”，即有目的性地發展人工智能，要將研究成果轉化為生產成果，鼓勵其與實際應用場景相結合，與各行業、各領域的需求相結合，利好大模型大規模商用的推進和企業級應用的有序發展。
日前，新華社研究院發布《人工智能大模型體驗報告2.0》，訊飛星火位列國產主流大模型測評榜首位，與今年6月首次發布的主流大模型測評相比，當前中國大模型產品進步顯著。科大訊飛董事長劉慶峰認為，“安全可控”、“場景驅動”和“專屬模型”是推動認知大模型在行業深度應用的三大關鍵要素。“實現大模型的安全可控，要解決算力安全和內容安全兩大難題，目前需要行業伙伴一起聯合攻關。”
“當前，我國大模型產品已經初步具備商用能力，《辦法》的落地預示著我國大模型商用浪潮即將開啟。”平安證券一位分析師認為，在政策與技術的共振下，我國生成式人工智能產業未來發展前景廣闊。
