人民網(wǎng)訊：今年以來(lái)，國內人工智能領(lǐng)域爆發(fā)“群模大戰”，業(yè)界三句話(huà)不離“大模型”；截至今年5月底，國內10億參數規模以上的大模型已發(fā)布79個(gè)；與人“對話(huà)”、翻唱歌曲、編寫(xiě)劇本、撰寫(xiě)合同，生成式人工智能（AIGC）不斷刷新人類(lèi)認知，照進(jìn)現實(shí)生活……

生成式人工智能技術(shù)，是指具有文本、圖片、音頻、視頻等內容生成能力的模型及相關(guān)技術(shù)。發(fā)展一路“狂飆”的同時(shí)，生成式人工智能應用也伴生了真假難辨、換臉詐騙等諸多亂象。

近日，為促進(jìn)生成式人工智能健康發(fā)展和規范應用，維護國家安全和社會(huì )公共利益，保護公民、法人和其他組織的合法權益，國家網(wǎng)信辦等七部門(mén)聯(lián)合公布《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱(chēng)《辦法》），自2023年8月15日起施行。

如何用好法治之“舵”、創(chuàng )新之“槳”，更好地釋放生成式人工智能創(chuàng )新活力，指引人工智能產(chǎn)業(yè)發(fā)展行穩致遠？對此，人民網(wǎng)記者采訪(fǎng)了相關(guān)行業(yè)專(zhuān)家。

提出“不適用”場(chǎng)景 為創(chuàng )新發(fā)展留足空間

與今年4月發(fā)布的《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》（以下簡(jiǎn)稱(chēng)《征求意見(jiàn)稿》）相比，《辦法》在規制對象上作出了調整。

《辦法》第二條明確提出了“不適用”場(chǎng)景，即“行業(yè)組織、企業(yè)、教育和科研機構、公共文化機構、有關(guān)專(zhuān)業(yè)機構等研發(fā)、應用生成式人工智能技術(shù)，未向境內公眾提供生成式人工智能服務(wù)的，不適用本辦法的規定?！?/p>

“此提法可以講是一個(gè)重大突破?！眰鞑热菡J知全國重點(diǎn)實(shí)驗室研究員郭俊波指出，這說(shuō)明《辦法》的目的是兼顧生成式人工智能的發(fā)展與安全，為生成式人工智能的研究與發(fā)展留足空間。

他同時(shí)指出，與《征求意見(jiàn)稿》相比，《辦法》依據的法律還增加了《中華人民共和國科學(xué)技術(shù)進(jìn)步法》，更加突出了其目的是促進(jìn)生成式人工智能健康發(fā)展和規范應用。

北京大成律師事務(wù)所高級合伙人肖颯也坦言，《辦法》提出“不適用”場(chǎng)景 ，讓規制對象目標更明確、針對性更強，體現出我國對生成式人工智能在研究與應用方面的支持和鼓勵。

此外，《辦法》在處罰措施方面也較為“柔和”?！掇k法》第二十一條提出，提供者違反本辦法規定的，由有關(guān)主管部門(mén)依照《中華人民共和國網(wǎng)絡(luò )安全法》等法律、行政法規的規定予以處罰；法律、行政法規沒(méi)有規定的，由有關(guān)主管部門(mén)依據職責予以警告、通報批評，責令限期改正；拒不改正或者情節嚴重的，責令暫停提供相關(guān)服務(wù)。

“第二十一條采用的是逐漸加重的處罰措施，允許服務(wù)提供者不斷完善修正，而不是簡(jiǎn)單的‘一棍子打死’?！惫〔ㄕJ為，生成式人工智能的應用范圍極廣，充分“松綁”將有助于推動(dòng)人工智能領(lǐng)域各組織機構快速進(jìn)行技術(shù)革新，并探索技術(shù)在各應用場(chǎng)景下的磨合與演進(jìn)，進(jìn)而促進(jìn)生成式人工智能產(chǎn)業(yè)繁榮發(fā)展。

劃出“紅線(xiàn)”、明確“標識” 力保個(gè)人信息安全

前段時(shí)間，我國某地警方公布，有詐騙分子運用人工智能技術(shù)，通過(guò)換臉視頻與受害者進(jìn)行視頻通話(huà)，十多分鐘內詐騙受害者數百萬(wàn)元。隨著(zhù)人工智能與日常生活場(chǎng)景結合越來(lái)越密切，在此基礎上產(chǎn)生的隱私泄露、造謠詐騙等問(wèn)題也不斷凸顯。對此，《辦法》將保護使用者的個(gè)人信息安全擺在了重要位置。

《辦法》第九條提出，生成式人工智能服務(wù)提供者應當依法承擔網(wǎng)絡(luò )信息內容生產(chǎn)者責任，履行網(wǎng)絡(luò )信息安全義務(wù)?！斑@就將生成式人工智能服務(wù)提供者明確納入了網(wǎng)絡(luò )平臺責任的規制范圍內，讓違規違法者無(wú)灰色地帶可躲?！毙わS說(shuō)。

同時(shí)，《辦法》第十一條要求服務(wù)提供者不得收集非必要個(gè)人信息，不得非法留存能夠識別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄?！掇k法》第十四條提出，提供者發(fā)現違法內容的，應當及時(shí)采取停止生成、停止傳輸、消除等處置措施并采取模型優(yōu)化訓練等措施進(jìn)行整改。

而針對目前生成式人工智能內容難以被分辨，甚至出現技術(shù)被濫用、誤用等問(wèn)題，《辦法》明確服務(wù)提供者應當按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規定》對相關(guān)生成內容進(jìn)行標識。

郭俊波提醒，“標識的作用在于警示和提醒用戶(hù)，該內容是由AI生成的，但不能保證內容的真實(shí)性?！毙わS則表示，“目前來(lái)看，標識人工生成、深度合成的內容，是成本最低且有望從根本杜絕上述相關(guān)問(wèn)題的方法?！?/p>

擴展公共訓練數據 指引行業(yè)發(fā)展行穩致遠

伴隨全球生成式人工智能技術(shù)迭代，更“聰明”的大模型必將滲透進(jìn)更多的產(chǎn)業(yè)領(lǐng)域和生活場(chǎng)景。當前，如何進(jìn)一步抓住產(chǎn)業(yè)變革機遇，推動(dòng)行業(yè)發(fā)展行穩致遠，備受各界關(guān)注。

國家網(wǎng)信辦有關(guān)負責人表示，《辦法》明確鼓勵生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng )新應用，生成積極健康、向上向善的優(yōu)質(zhì)內容，探索優(yōu)化應用場(chǎng)景，構建應用生態(tài)體系。

“當前我國生成式人工智能技術(shù)處于追趕階段，不發(fā)展是最大的不安全?！惫〔ㄖ赋?，《辦法》提出“對生成式人工智能服務(wù)實(shí)行包容審慎和分類(lèi)分級監管”，將加速?lài)鴥壬墒饺斯ぶ悄芗夹g(shù)落地。以國內龐大的用戶(hù)數量為依托，國內生成式人工智能有望迅速積累真實(shí)數據，帶動(dòng)對技術(shù)的迭代與優(yōu)化，促進(jìn)人工智能的創(chuàng )新和發(fā)展。

值得注意的是，在促進(jìn)產(chǎn)業(yè)發(fā)展方面，《辦法》具體提出，“鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎技術(shù)的自主創(chuàng )新，平等互利開(kāi)展國際交流與合作，參與生成式人工智能相關(guān)國際規則制定?！蓖瑫r(shí)，《辦法》還提出“推動(dòng)公共數據分類(lèi)分級有序開(kāi)放，擴展高質(zhì)量的公共訓練數據資源?！?/p>

“這體現出國家對生成式人工智能發(fā)展持看好的態(tài)度?！痹谛わS看來(lái)，數據壁壘以及龐大的公共數據閑置，是妨礙生成式人工智能發(fā)展的兩個(gè)關(guān)鍵性問(wèn)題?！掇k法》實(shí)施后，將有望大幅擴充人工智能訓練數據庫，極大促進(jìn)我國人工智能應用的深度與廣度。

郭俊波坦言，大模型時(shí)代，訓練一個(gè)動(dòng)輒上千億參數的模型需要海量算力資源，加之長(cháng)期以來(lái)中文領(lǐng)域開(kāi)放的高質(zhì)量數據集在數量上落后于英文，限制了以中文為語(yǔ)料的人工智能技術(shù)水平的進(jìn)一步提升?！掇k法》的出臺，有助于推動(dòng)算力、數據等人工智能底層基礎資源的開(kāi)放共享、提量增質(zhì)。

“預計下一步，監管部門(mén)還將會(huì )針對某些特定領(lǐng)域，如醫療、金融等，根據行業(yè)法規，對其領(lǐng)域的生成式人工智能做出相應規范?！惫〔ㄕf(shuō)。