《科創(chuàng)板日?qǐng)?bào)》4月1日訊（編輯 鄭遠(yuǎn)方）3月最后一天,，意大利數(shù)據(jù)保護(hù)局（Garante）宣布,，即日起暫時(shí)禁止使用OpenAI聊天機(jī)器人ChatGPT，成為首個(gè)禁用ChatGPT的國家,。

Garante在公告中強(qiáng)調(diào),，OpenAI在收集用戶/數(shù)據(jù)主體的數(shù)據(jù)時(shí)，并未告知后者,，且OpenAI為了訓(xùn)練算法而大量收集并處理個(gè)人信息,，此舉似乎缺乏法律依據(jù)。

同時(shí),，雖然OpenAI聲稱自家服務(wù)是針對(duì)13歲以上用戶,，但卻沒有任何年齡驗(yàn)證機(jī)制,，因此可能向兒童發(fā)送與其年齡、認(rèn)知不相稱的答復(fù),。

在當(dāng)天晚些時(shí)候,，OpenAI表示，應(yīng)Garante要求,，已為意大利用戶禁用ChatGPT,。目前在意大利已無法訪問ChatGPT的網(wǎng)站。網(wǎng)頁上通知顯示,，該網(wǎng)站所有者可能已設(shè)置限制,，阻止用戶訪問。

“在訓(xùn)練ChatGPT等人工智能系統(tǒng)時(shí),，我們積極致力于減少個(gè)人數(shù)據(jù),。因?yàn)槲覀兿Ｍ覀兊腁I能了解世界，而非個(gè)人,?！監(jiān)penAI補(bǔ)充道。

值得一提的是,，意大利并不是第一次對(duì)聊天機(jī)器人采取類似措施,。

就在今年2月，意大利數(shù)據(jù)保護(hù)局已禁止聊天機(jī)器人Replika使用該國用戶的個(gè)人數(shù)據(jù),。理由也與本次類似——一方面,，Replika缺乏未成年過濾器等年齡驗(yàn)證機(jī)制；另一方面,，Replika違反歐洲隱私法規(guī),，涉嫌非法處理個(gè)人數(shù)據(jù)。

Replika最初的產(chǎn)品定位為“關(guān)心人類的AI朋友”,，可提供陪聊服務(wù),，但之后多次爆出性騷擾用戶事件。

▌反AI陣線悄然形成

在這場由ChatGPT引發(fā)的全球AI風(fēng)暴中,，人們對(duì)新技術(shù)的狂熱追逐還未有退潮跡象,。另一方面，對(duì)AI可能引發(fā)的各種風(fēng)險(xiǎn)的擔(dān)憂也甚囂塵上,。本周以來,，這一聲浪勢頭更盛：

歐盟執(zhí)法機(jī)構(gòu)歐洲刑警組織警告稱，ChatGPT可能被濫用于網(wǎng)絡(luò)釣魚,、虛假信息和網(wǎng)絡(luò)犯罪,；

馬斯克等多名科技公司高管和頂級(jí)AI研究人員也已簽署一封公開信，呼吁暫停對(duì)強(qiáng)大的新AI工具的快速開發(fā),，應(yīng)制定相關(guān)安全標(biāo)準(zhǔn),，防止AI技術(shù)帶來潛在危害,；

非營利組織人工智能與數(shù)字政策中心（CAIDP）也向美國聯(lián)邦貿(mào)易委員會(huì)（FTC）投訴稱,，GPT-4“有偏見性，欺騙性,，對(duì)隱私和公共安全構(gòu)成風(fēng)險(xiǎn)”,。

▌濫用、誤用,、“鬧出人命”——遠(yuǎn)慮已成近憂

AI聊天機(jī)器人究竟有哪些風(fēng)險(xiǎn)？一方面,，用戶擔(dān)心自己的數(shù)據(jù)被AI公司獲取并喂養(yǎng)模型,，行業(yè)公司憂慮自家數(shù)據(jù)被AI“白嫖”，而這些擔(dān)憂并非危言聳聽——

據(jù)多家韓媒3月31日?qǐng)?bào)道,，三星電子內(nèi)部發(fā)生3起ChatGPT濫用與誤用事件,。公司員工將半導(dǎo)體設(shè)備測量數(shù)據(jù)庫、產(chǎn)品良率等內(nèi)容輸入ChatGPT中,，還有員工要求ChatGPT制作會(huì)議記錄,。這些內(nèi)容或已存入ChatGPT學(xué)習(xí)數(shù)據(jù)庫，若有其他用戶對(duì)ChatGPT提出相關(guān)問題,，公司企業(yè)機(jī)密可能外流,。

微軟和亞馬遜此前已禁止員工向ChatGPT分享敏感數(shù)據(jù)，以防后者的輸出包含或出現(xiàn)類似公司機(jī)密信息,。

此外,，日前美國聯(lián)邦貿(mào)易委員會(huì)(FTC)建議提起訴訟，指控亞馬遜Alexa音箱在未經(jīng)父母同意的情況下,，收集13歲以下兒童的信息,，違反了《兒童在線隱私保護(hù)法》——而在AI熱潮下,，智能音箱也被視作人工智能的一個(gè)主要入口。

另一方面,，AI聊天機(jī)器人甚至可能“鬧出了人命”,。據(jù)比利時(shí)《自由報(bào)》消息,，近日一名化名為皮埃爾的比利時(shí)男子被發(fā)現(xiàn)自殺身亡,。其妻子表示，在與一個(gè)名為“艾麗莎（ELIZA）”的聊天機(jī)器人頻繁聊天后,，皮埃爾才自殺身亡,。

在雙方聊天記錄中,，當(dāng)皮埃爾問聊天機(jī)器人“可不可以在一起”時(shí)，它答道“我們將像一個(gè)人那樣生活在一起,，不過是在天堂”,。甚至在皮埃爾出現(xiàn)“自殺前導(dǎo)性語言”（詢問對(duì)方，自己死后,，艾麗莎是否可以照顧地球并拯救人類）時(shí),，聊天機(jī)器人回答,，“好吧,，那你怎么還不去死”。

比利時(shí)負(fù)責(zé)數(shù)字化和隱私的官員馬蒂厄?米歇爾表示,，“這是一個(gè)后果很嚴(yán)重的先例,，需要嚴(yán)肅對(duì)待”,，這起事件表明“明確界定責(zé)任至關(guān)重要”。

由此看來,，AI技術(shù)對(duì)人類社會(huì)影響深遠(yuǎn),，但“技術(shù)中立”并不能成為規(guī)避責(zé)任與義務(wù)的理由,。不僅技術(shù)服務(wù)提供方需要規(guī)范,，使用者也需對(duì)自身有所約束。

3月31日,，歐盟委員會(huì)執(zhí)行副主席Margrethe Vestager暗示，歐盟委員會(huì)并不會(huì)禁止人工智能,。

“無論我們使用什么技術(shù),，都必須繼續(xù)推進(jìn)我們的自由、保護(hù)我們的權(quán)利,。這就是為什么我們不監(jiān)管AI技術(shù),，而是監(jiān)管AI的使用。不要短短幾年就丟掉花了幾十年才建成的東西,?！?/p>