我國首份生成式人工智能監(jiān)管性文件正式實施——立定行業(yè)新規(guī) 指明發(fā)展方向

光明網記者 李政葳 李飛

伴隨新一代信息技術的迅速發(fā)展，各行各業(yè)大模型“浪潮”此起彼伏。國家網信辦等七部門發(fā)布的《生成式人工智能服務管理暫行辦法》（以下簡稱《辦法》），8月15日起正式落地實施。作為我國促進生成式人工智能發(fā)展和規(guī)范應用的專門立法，《辦法》界定了該技術的基本概念，規(guī)定了對服務提供者的制度要求，為未來行業(yè)健康發(fā)展指明了方向。

賦能千行百業(yè)，推動數(shù)字化轉型

日前，新華社研究院中國企業(yè)發(fā)展研究中心發(fā)布的《人工智能大模型體驗報告2.0》顯示，訊飛星火位列國產主流大模型測評榜首位；與今年6月首次發(fā)布的報告相比，當前中國的大模型產品進步顯著。

8月15日，頗受關注的訊飛星火認知大模型再次迎來升級——在提升通用能力的基礎上，升級代碼能力和多模態(tài)能力。科大訊飛董事長劉慶峰表示，代碼能力是支撐認知大模型智慧的關鍵維度，多模態(tài)能力則是實現(xiàn)通用人工智能的必經之路，大模型賦能個體和行業(yè)的大未來正在到來。

“當前，人工智能不斷催生新場景、新業(yè)態(tài)、新模式、新市場，推動數(shù)字化轉型發(fā)展。”中國信息通信研究院政策與經濟研究所所長辛勇飛說。

對外經濟貿易大學數(shù)字經濟與法律創(chuàng)新研究中心主任許可也認為，作為通用人工智能的先行者，生成式人工智能將深刻影響人類經濟、社會、文化、軍事等各個領域。

“生成式人工智能底層技術，實際上就是大模型。”百度創(chuàng)始人、董事長兼首席執(zhí)行官李彥宏表示，大數(shù)據(jù)、大算力、大模型，導致智能產業(yè)涌現(xiàn)；同時，人工智能也發(fā)生了方向性改變，從辨別式人工智能走向生成式人工智能。

在360集團創(chuàng)始人周鴻祎看來，以GPT為代表的大模型，是人工智能第一次能夠比較通用地解決問題，并且解決的都是各行各業(yè)共同的痛點和剛需。“它將會像當年個人電腦一樣，帶來一次‘工業(yè)革命’。”周鴻祎說。

劃定法律紅線，構建良性生態(tài)

今年暑期檔，聚焦互聯(lián)網詐騙主題的電影《孤注一擲》正在熱映。影片生動揭示了詐騙背后，人工智能等新技術帶來的虛假信息、隱私泄露、算法歧視等風險問題。“近年來，人工智能技術取得了突飛猛進的發(fā)展，尤其是大模型的出現(xiàn)帶來了巨大便利；但隨之而來的是人們對大模型的過度依賴，以及可能產生的安全風險。”中國工程院院士鄔賀銓這樣說。

一直以來，我國堅持發(fā)展和安全并重，《辦法》在鼓勵自主創(chuàng)新的同時，也強調了相關主體要依法承擔責任，履行網絡信息安全義務。周鴻祎認為，大模型是數(shù)字化的頂峰，同樣也是一把“雙刃劍”，帶來生產力提升的同時，也存在數(shù)據(jù)和算法安全問題等風險。

“如何將海量的數(shù)據(jù)轉換為能為大模型訓練所用的數(shù)據(jù)是重點。”在近日舉行的第十一屆互聯(lián)網安全大會上，中央網信辦網絡安全協(xié)調局副局長羅鋒盈表示，要提升新技術、新應用安全風險防范能力，善于把數(shù)據(jù)資源轉換為數(shù)據(jù)優(yōu)勢，構建網絡安全教育技術產業(yè)融合發(fā)展的良性生態(tài)。

在全球范圍內，意大利、德國、法國、西班牙等多個國家的監(jiān)管部門對人工智能表達擔憂或發(fā)起調查。中國電子技術標準化研究院黨委書記楊建軍表示，如何發(fā)展好、運用好、管理好生成式人工智能，已成為全世界面臨的共同挑戰(zhàn)。《辦法》作為國際上較早出臺的積極應對生成式人工智能安全風險的專門立法，為有序開展相關管理工作明確了方向。

推動多方協(xié)同，引導“科技向善”

“加強生成式人工智能大模型技術的安全向善、可信可控，是創(chuàng)新發(fā)展的前提，也是我們堅持攻克的方向。”周鴻祎表示，《辦法》內容表明了國家相關部門鼓勵創(chuàng)新，支持人工智能產業(yè)發(fā)展的態(tài)度，為科創(chuàng)領域從業(yè)者提供了信心和保障。

針對未來行業(yè)發(fā)展，第十三屆全國政協(xié)經濟委員會副主任蘇波建議，要持續(xù)完善人工智能數(shù)據(jù)安全監(jiān)管體系，用規(guī)范監(jiān)管保障安全發(fā)展。“比如，可以制定人工智能產品應用服務的數(shù)據(jù)安全服務產品體系，通過檢測驗證提升產品安全性、成熟度，降低人工智能數(shù)據(jù)安全風險。”

中國工程院院士鄔江興也提到，人工智能大模型存在神經網絡“黑箱”特點導致人工智能存在不可解釋性、深度學習對訓練樣本過度依賴導致學習結果不可判定性、神經網絡推進過程不可逆導致結果不可推論性等內生安全的個性問題，以及漏洞、后門等內生安全的共性問題。未來，尚需監(jiān)管部門、企業(yè)共同發(fā)力，從政策、文化、人才等多方面入手。

除了本次實施的新規(guī)新策外，為應對人工智能風險問題，我國在網絡安全法、數(shù)據(jù)安全法、個人信息保護法的基礎上，已陸續(xù)實施了《互聯(lián)網信息服務算法推薦管理規(guī)定》《互聯(lián)網信息服務深度合成管理規(guī)定》。楊建軍表示，通過加強監(jiān)管，探索優(yōu)化應用場景，支持專業(yè)機構在技術創(chuàng)新、數(shù)據(jù)資源建設、風險防范等方面開展跨行業(yè)、跨領域協(xié)作，構建良性的應用生態(tài)體系。

騰訊集團高級執(zhí)行副總裁湯道生也充滿期待：“大模型只是開端，人工智能與產業(yè)融合必將持續(xù)綻放更有創(chuàng)造力的可能性。我們要堅持生態(tài)開放共建，加速人工智能產業(yè)的創(chuàng)新探索。”

《光明日報》（2023年08月16日 08版）

來源：光明網-《光明日報》