生成式AI引發(fā)治理新思考

  ICC訊 過(guò)去幾個(gè)月，ChatGPT為人工智能技術(shù)按下加速鍵。這個(gè)聊天程序證明了超大參數(shù)模型和通用型人工智能的可行性，谷歌、亞馬遜等巨頭紛紛推出自主研發(fā)的相關(guān)平臺(tái)，國(guó)內(nèi)也已有十?dāng)?shù)家企業(yè)在該領(lǐng)域有所布局。

  它們被統(tǒng)稱為“生成式人工智能”。簡(jiǎn)單來(lái)說(shuō)，這種AI可以通過(guò)算法生成新內(nèi)容，包括圖像、文字、音樂(lè)，甚至視頻、代碼等。

  這令人興奮也不乏擔(dān)憂。數(shù)據(jù)安全、個(gè)人隱私、信息造假、算法歧視……各國(guó)監(jiān)管部門(mén)對(duì)一系列潛在風(fēng)險(xiǎn)反應(yīng)迅速，動(dòng)作不斷。

  3月底，意大利個(gè)人數(shù)據(jù)保護(hù)局宣布暫時(shí)禁止使用ChatGPT，歐盟多個(gè)國(guó)家跟進(jìn)，醞釀具體監(jiān)管措施。美國(guó)商務(wù)部4月公開(kāi)征求意見(jiàn)，討論新人工智能模型在發(fā)布前是否應(yīng)經(jīng)過(guò)認(rèn)證程序等內(nèi)容。我國(guó)國(guó)家網(wǎng)信辦也于近日發(fā)布《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》，針對(duì)準(zhǔn)入門(mén)檻、數(shù)據(jù)來(lái)源、標(biāo)注規(guī)則等作出明確規(guī)定。

  風(fēng)險(xiǎn)到哪里 監(jiān)管到哪里

  “相比以往的AI技術(shù)，生成式AI可以直接利用自然語(yǔ)言和計(jì)算機(jī)進(jìn)行交互，使用門(mén)檻低，生成內(nèi)容質(zhì)量高?！笔垒x律師事務(wù)所合伙人、律師王新銳對(duì)科技日?qǐng)?bào)記者表示，“這讓其一旦被濫用或誤用，迷惑性比以往的人工智能技術(shù)更強(qiáng)，潛在損害也更大。并且它有可能成為一種影響各行業(yè)的底座型技術(shù)?！?

  除了涉及數(shù)據(jù)安全、個(gè)人信息保護(hù)等傳統(tǒng)問(wèn)題，中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任吳沈括強(qiáng)調(diào)，生成式AI也給內(nèi)容治理、社會(huì)運(yùn)行產(chǎn)生沖擊和影響，這給現(xiàn)有的治理體制機(jī)制的敏捷性、覆蓋性和穿透性帶來(lái)很大挑戰(zhàn)。

  據(jù)王新銳介紹，目前，意大利、西班牙、德國(guó)、加拿大、英國(guó)等國(guó)家出于數(shù)據(jù)和隱私保護(hù)的考慮對(duì)ChatGPT及其開(kāi)發(fā)者展開(kāi)調(diào)查，此外，域外有可能將ChatGPT等生成式AI列入高風(fēng)險(xiǎn)人工智能清單，希望通過(guò)立法防范其風(fēng)險(xiǎn)。

  吳沈括表示，前述主要國(guó)家對(duì)于生成式AI的監(jiān)管依然從經(jīng)典的數(shù)據(jù)治理、數(shù)據(jù)安全的角度切入，在他們看來(lái)，生成式AI的核心邏輯在于海量數(shù)據(jù)的匯集、加工、處理以及豐富的運(yùn)算輸出，因此，采取數(shù)據(jù)治理的思路順理成章。

  但回到我國(guó)，僅從數(shù)據(jù)治理出發(fā)還不夠，“我們的關(guān)切涉及內(nèi)容治理、消費(fèi)者權(quán)益、透明度、公平性、知識(shí)產(chǎn)權(quán)保護(hù)等各個(gè)方面，基本覆蓋了目前與生成式AI相關(guān)的主要風(fēng)險(xiǎn)類(lèi)型，故而采取的是一種風(fēng)險(xiǎn)預(yù)防、風(fēng)險(xiǎn)干預(yù)的多層次綜合治理思路?！眳巧蚶ㄕf(shuō)。

  建構(gòu)多方參與的治理生態(tài)

  技術(shù)大步向前，如何平衡技術(shù)創(chuàng)新和政策管理，考驗(yàn)各方智慧。

  “一方面，我們需要加強(qiáng)數(shù)據(jù)隱私和個(gè)人信息安全的保護(hù)，對(duì)生成式AI從訓(xùn)練到投入使用的全生命周期的個(gè)人信息的處理和數(shù)據(jù)保護(hù)作出規(guī)范。另一方面，從生成式AI可能帶來(lái)的風(fēng)險(xiǎn)出發(fā)，在現(xiàn)有法律框架上進(jìn)一步建立健全生成式AI產(chǎn)業(yè)各方主體治理框架和問(wèn)責(zé)機(jī)制，落實(shí)生成式AI相關(guān)主體的權(quán)利義務(wù)?！蓖跣落J說(shuō)，下一步需要進(jìn)一步細(xì)化落實(shí)平臺(tái)合規(guī)機(jī)制、加強(qiáng)科技倫理要求、確保算法安全并建立健全問(wèn)責(zé)機(jī)制、促進(jìn)高質(zhì)量數(shù)據(jù)合法合規(guī)地流通共享。

  吳沈括提出，治理規(guī)則的明確性和確定性需要不斷提升，努力打造實(shí)時(shí)、敏捷、全面的監(jiān)管機(jī)制，最大限度發(fā)揮監(jiān)管的引導(dǎo)作用及紅線保護(hù)的根本價(jià)值。

  生成式AI爆火，涉及諸多利益訴求及關(guān)切。對(duì)此，王新銳建議，需要充分觀察產(chǎn)業(yè)界和監(jiān)管機(jī)構(gòu)、大眾媒體的互動(dòng)，建立多方參與的治理機(jī)制。同時(shí)，加強(qiáng)公眾教育和參與，提高公眾對(duì)生成式AI的認(rèn)識(shí)和理解，共同推動(dòng)生成式AI的健康發(fā)展。