人民網(wǎng)訊：今年以來(lái)，國(guó)內(nèi)人工智能領(lǐng)域爆發(fā)“群模大戰(zhàn)”，業(yè)界三句話不離“大模型”；截至今年5月底，國(guó)內(nèi)10億參數(shù)規(guī)模以上的大模型已發(fā)布79個(gè)；與人“對(duì)話”、翻唱歌曲、編寫劇本、撰寫合同，生成式人工智能（AIGC）不斷刷新人類認(rèn)知，照進(jìn)現(xiàn)實(shí)生活……

生成式人工智能技術(shù)，是指具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)。發(fā)展一路“狂飆”的同時(shí)，生成式人工智能應(yīng)用也伴生了真假難辨、換臉詐騙等諸多亂象。

近日，為促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，維護(hù)國(guó)家安全和社會(huì)公共利益，保護(hù)公民、法人和其他組織的合法權(quán)益，國(guó)家網(wǎng)信辦等七部門聯(lián)合公布《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱《辦法》），自2023年8月15日起施行。

如何用好法治之“舵”、創(chuàng)新之“槳”，更好地釋放生成式人工智能創(chuàng)新活力，指引人工智能產(chǎn)業(yè)發(fā)展行穩(wěn)致遠(yuǎn)？對(duì)此，人民網(wǎng)記者采訪了相關(guān)行業(yè)專家。

提出“不適用”場(chǎng)景 為創(chuàng)新發(fā)展留足空間

與今年4月發(fā)布的《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》（以下簡(jiǎn)稱《征求意見(jiàn)稿》）相比，《辦法》在規(guī)制對(duì)象上作出了調(diào)整。

《辦法》第二條明確提出了“不適用”場(chǎng)景，即“行業(yè)組織、企業(yè)、教育和科研機(jī)構(gòu)、公共文化機(jī)構(gòu)、有關(guān)專業(yè)機(jī)構(gòu)等研發(fā)、應(yīng)用生成式人工智能技術(shù)，未向境內(nèi)公眾提供生成式人工智能服務(wù)的，不適用本辦法的規(guī)定。”

“此提法可以講是一個(gè)重大突破。”傳播內(nèi)容認(rèn)知全國(guó)重點(diǎn)實(shí)驗(yàn)室研究員郭俊波指出，這說(shuō)明《辦法》的目的是兼顧生成式人工智能的發(fā)展與安全，為生成式人工智能的研究與發(fā)展留足空間。

他同時(shí)指出，與《征求意見(jiàn)稿》相比，《辦法》依據(jù)的法律還增加了《中華人民共和國(guó)科學(xué)技術(shù)進(jìn)步法》，更加突出了其目的是促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用。

北京大成律師事務(wù)所高級(jí)合伙人肖颯也坦言，《辦法》提出“不適用”場(chǎng)景 ，讓規(guī)制對(duì)象目標(biāo)更明確、針對(duì)性更強(qiáng)，體現(xiàn)出我國(guó)對(duì)生成式人工智能在研究與應(yīng)用方面的支持和鼓勵(lì)。

此外，《辦法》在處罰措施方面也較為“柔和”。《辦法》第二十一條提出，提供者違反本辦法規(guī)定的，由有關(guān)主管部門依照《中華人民共和國(guó)網(wǎng)絡(luò)安全法》等法律、行政法規(guī)的規(guī)定予以處罰；法律、行政法規(guī)沒(méi)有規(guī)定的，由有關(guān)主管部門依據(jù)職責(zé)予以警告、通報(bào)批評(píng)，責(zé)令限期改正；拒不改正或者情節(jié)嚴(yán)重的，責(zé)令暫停提供相關(guān)服務(wù)。

“第二十一條采用的是逐漸加重的處罰措施，允許服務(wù)提供者不斷完善修正，而不是簡(jiǎn)單的‘一棍子打死’。”郭俊波認(rèn)為，生成式人工智能的應(yīng)用范圍極廣，充分“松綁”將有助于推動(dòng)人工智能領(lǐng)域各組織機(jī)構(gòu)快速進(jìn)行技術(shù)革新，并探索技術(shù)在各應(yīng)用場(chǎng)景下的磨合與演進(jìn)，進(jìn)而促進(jìn)生成式人工智能產(chǎn)業(yè)繁榮發(fā)展。

劃出“紅線”、明確“標(biāo)識(shí)” 力保個(gè)人信息安全

前段時(shí)間，我國(guó)某地警方公布，有詐騙分子運(yùn)用人工智能技術(shù)，通過(guò)換臉視頻與受害者進(jìn)行視頻通話，十多分鐘內(nèi)詐騙受害者數(shù)百萬(wàn)元。隨著人工智能與日常生活場(chǎng)景結(jié)合越來(lái)越密切，在此基礎(chǔ)上產(chǎn)生的隱私泄露、造謠詐騙等問(wèn)題也不斷凸顯。對(duì)此，《辦法》將保護(hù)使用者的個(gè)人信息安全擺在了重要位置。

《辦法》第九條提出，生成式人工智能服務(wù)提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù)。“這就將生成式人工智能服務(wù)提供者明確納入了網(wǎng)絡(luò)平臺(tái)責(zé)任的規(guī)制范圍內(nèi)，讓違規(guī)違法者無(wú)灰色地帶可躲。”肖颯說(shuō)。

同時(shí)，《辦法》第十一條要求服務(wù)提供者不得收集非必要個(gè)人信息，不得非法留存能夠識(shí)別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。《辦法》第十四條提出，提供者發(fā)現(xiàn)違法內(nèi)容的，應(yīng)當(dāng)及時(shí)采取停止生成、停止傳輸、消除等處置措施并采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改。

而針對(duì)目前生成式人工智能內(nèi)容難以被分辨，甚至出現(xiàn)技術(shù)被濫用、誤用等問(wèn)題，《辦法》明確服務(wù)提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)相關(guān)生成內(nèi)容進(jìn)行標(biāo)識(shí)。

郭俊波提醒，“標(biāo)識(shí)的作用在于警示和提醒用戶，該內(nèi)容是由AI生成的，但不能保證內(nèi)容的真實(shí)性。”肖颯則表示，“目前來(lái)看，標(biāo)識(shí)人工生成、深度合成的內(nèi)容，是成本最低且有望從根本杜絕上述相關(guān)問(wèn)題的方法。”

擴(kuò)展公共訓(xùn)練數(shù)據(jù) 指引行業(yè)發(fā)展行穩(wěn)致遠(yuǎn)

伴隨全球生成式人工智能技術(shù)迭代，更“聰明”的大模型必將滲透進(jìn)更多的產(chǎn)業(yè)領(lǐng)域和生活場(chǎng)景。當(dāng)前，如何進(jìn)一步抓住產(chǎn)業(yè)變革機(jī)遇，推動(dòng)行業(yè)發(fā)展行穩(wěn)致遠(yuǎn)，備受各界關(guān)注。

國(guó)家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示，《辦法》明確鼓勵(lì)生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用，生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容，探索優(yōu)化應(yīng)用場(chǎng)景，構(gòu)建應(yīng)用生態(tài)體系。

“當(dāng)前我國(guó)生成式人工智能技術(shù)處于追趕階段，不發(fā)展是最大的不安全。”郭俊波指出，《辦法》提出“對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管”，將加速國(guó)內(nèi)生成式人工智能技術(shù)落地。以國(guó)內(nèi)龐大的用戶數(shù)量為依托，國(guó)內(nèi)生成式人工智能有望迅速積累真實(shí)數(shù)據(jù)，帶動(dòng)對(duì)技術(shù)的迭代與優(yōu)化，促進(jìn)人工智能的創(chuàng)新和發(fā)展。

值得注意的是，在促進(jìn)產(chǎn)業(yè)發(fā)展方面，《辦法》具體提出，“鼓勵(lì)生成式人工智能算法、框架、芯片及配套軟件平臺(tái)等基礎(chǔ)技術(shù)的自主創(chuàng)新，平等互利開(kāi)展國(guó)際交流與合作，參與生成式人工智能相關(guān)國(guó)際規(guī)則制定。”同時(shí)，《辦法》還提出“推動(dòng)公共數(shù)據(jù)分類分級(jí)有序開(kāi)放，擴(kuò)展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源。”

“這體現(xiàn)出國(guó)家對(duì)生成式人工智能發(fā)展持看好的態(tài)度。”在肖颯看來(lái)，數(shù)據(jù)壁壘以及龐大的公共數(shù)據(jù)閑置，是妨礙生成式人工智能發(fā)展的兩個(gè)關(guān)鍵性問(wèn)題。《辦法》實(shí)施后，將有望大幅擴(kuò)充人工智能訓(xùn)練數(shù)據(jù)庫(kù)，極大促進(jìn)我國(guó)人工智能應(yīng)用的深度與廣度。

郭俊波坦言，大模型時(shí)代，訓(xùn)練一個(gè)動(dòng)輒上千億參數(shù)的模型需要海量算力資源，加之長(zhǎng)期以來(lái)中文領(lǐng)域開(kāi)放的高質(zhì)量數(shù)據(jù)集在數(shù)量上落后于英文，限制了以中文為語(yǔ)料的人工智能技術(shù)水平的進(jìn)一步提升。《辦法》的出臺(tái)，有助于推動(dòng)算力、數(shù)據(jù)等人工智能底層基礎(chǔ)資源的開(kāi)放共享、提量增質(zhì)。

“預(yù)計(jì)下一步，監(jiān)管部門還將會(huì)針對(duì)某些特定領(lǐng)域，如醫(yī)療、金融等，根據(jù)行業(yè)法規(guī)，對(duì)其領(lǐng)域的生成式人工智能做出相應(yīng)規(guī)范。”郭俊波說(shuō)。