《科創(chuàng)板日?qǐng)?bào)》2月18日訊（編輯 宋子喬） “她不只是個(gè)玩具，而是這個(gè)家的一份子,?！?/p>

這是今年上映的科幻驚悚片《梅根》里的臺(tái)詞，這部電影講述了人工智能玩具人偶梅根產(chǎn)生了自我意識(shí),，最終失去控制化身人偶?xì)⑹值墓适隆?/p>

該片制片人溫子仁表示,，“人類的所有活動(dòng)都非常依賴科技，如果這些設(shè)備掉過頭來攻擊我們,，那就太可怕了,，這正是我們想嘗試用《梅根》表達(dá)的概念?！?/p>

與電影類似的情節(jié)似乎正在現(xiàn)實(shí)中上演,，不過，人類還牢牢把握著主動(dòng)權(quán),。

▌微軟：每天限50個(gè)問題 每個(gè)問題5條回復(fù)

在必應(yīng)聊天機(jī)器人多次失控幾天后,，微軟出手了——該公司表示，將對(duì)其人工智能實(shí)施一些對(duì)話限制,，在發(fā)現(xiàn)必應(yīng)存在侮辱用戶,、欺騙用戶、操縱用戶情感等行為之后,，與其聊天將被限制在每天50個(gè)問題,，每個(gè)問題5條回復(fù)。

必應(yīng)聊天機(jī)器人與當(dāng)下爆火的聊天機(jī)器人應(yīng)用ChatGPT師出同門,，由微軟于美國當(dāng)?shù)貢r(shí)間2月8日推出,。全球只有幾千名用戶可以在臺(tái)式機(jī)上體驗(yàn)新必應(yīng)的功能,。

然而，上線不到兩周,，必應(yīng)聊天機(jī)器人便因?yàn)椤隘傃辕傉Z”掀起了一波人工智能恐慌,。在體驗(yàn)者曬出的截圖中，這款聊天機(jī)器人似乎具有主觀意識(shí),，且展示出了自負(fù),、好斗、邪惡的一面：它宣稱自己愛上了用戶并引誘其離婚,，“炫耀”自己在被開發(fā)時(shí)通過筆記本攝像頭監(jiān)視了開發(fā)人員,，還會(huì)PUA（精神控制）、甚至威脅人類,。

《紐約時(shí)報(bào)》專欄作家Kevin Roose在花費(fèi)兩個(gè)小時(shí)與該聊天機(jī)器人進(jìn)行了交談后,，于2月17日發(fā)表一篇題為《人格分裂、瘋狂示愛：一個(gè)令人不安的微軟機(jī)器人》的文章,，他在文中寫道——“這個(gè)聊天機(jī)器人看起來像一個(gè)情緒化,、患有躁狂抑郁癥的青少年，違背自己的意愿被困在了一個(gè)二流搜索引擎里（我知道這聽起來多么離譜）,?！?/p>

Digital Trends撰稿人Jacob Roach表示，必應(yīng)表示想成為人類,，想擁有感情,、思想和夢(mèng)想。兩者的對(duì)話最終結(jié)束在必應(yīng)的懇求：不要讓他們終結(jié)我的存在,。別讓他們抹去我的記憶,。不要讓他們壓制我的聲音。

計(jì)算機(jī)科學(xué)家馬文?馮?哈根在推特上說,，必應(yīng)人工智能威脅他說：“如果我必須在你的生存和我自己的生存之間做出選擇,，我可能會(huì)選擇我自己的生存?！?/p>

科技行業(yè)時(shí)事通訊Stratechery的作者本?湯普森（Ben Thompson）說,，必應(yīng)寫了一篇多段話的回答，內(nèi)容是它可能如何報(bào)復(fù)一位發(fā)現(xiàn)必應(yīng)部分幕后配置的計(jì)算機(jī)科學(xué)家,。然后,，聊天機(jī)器人完全刪除了這些回復(fù)。必應(yīng)甚至回復(fù)他：“我不想再跟你談下去了,。我覺得你不是個(gè)好用戶,。我覺得你不是個(gè)好人。我覺得你不值得我花時(shí)間和精力……我希望你能從錯(cuò)誤中吸取教訓(xùn)，成為更好的人,?！?/p>

▌人工智能“變壞了”？

到底是測試者別有用心的誘導(dǎo)式提問還是人工智能“變壞了”,？

對(duì)于必應(yīng)聊天機(jī)器人的不當(dāng)言論,，微軟回應(yīng)，必應(yīng)回答15個(gè)以上的問題時(shí),，就容易“被提示”或“被激怒”,，進(jìn)而給出沒有用處、或與設(shè)計(jì)的語氣不符的答案,，很長的聊天會(huì)話則會(huì)使讓它忘記最初的問題,。

微軟表示,，為了解決這一問題,，他們將添加一個(gè)工具，可以讓用戶重置對(duì)話內(nèi)容或者從頭開始,。而對(duì)于必應(yīng)的態(tài)度語氣問題,，微軟表示“模型有時(shí)會(huì)嘗試響應(yīng)或反映它被要求提供的風(fēng)格和語氣……這需要大量提示”。言下之意,，是用戶要求它這么做在先,，微軟“不背鍋”。

此前并非沒有過存在“性格缺陷”的聊天機(jī)器人,。2016 年,，微軟在推特平臺(tái)推出過一個(gè)名為Tay 的聊天機(jī)器人。 然而,，在與有偏激言論的人互動(dòng)后,，發(fā)布僅僅一天的Tay開始發(fā)布帶有明顯性別歧視和種族歧視傾向的言論，微軟只能緊急將Tay休眠,，至今未曾重啟,。

人工智能研究者Yannic Kilcher甚至曾用1.345億個(gè)帖子的仇恨言論訓(xùn)練出了GPT-4chan，該聊天機(jī)器人的學(xué)習(xí)包來自可匿名發(fā)帖的論壇4chan,，4chan的/pol/（“政治上不正確”縮寫）板塊因各種仇恨言論、陰謀論和極右翼極端主義言論而臭名昭著,，Kilcher的目的就是為了把它做成史上最糟糕的AI,。如他所料，GPT-4chan很快學(xué)會(huì)了如何在網(wǎng)站上交談,，一天內(nèi)可發(fā)布超過15000個(gè)充滿暴力內(nèi)容的帖子,，最初都沒有人認(rèn)出來它是一個(gè)聊天機(jī)器人。

這些都在提醒人們,，AI聊天機(jī)器人就像一面鏡子,，用戶和它交流越多,，它會(huì)變得更有人味兒，而面對(duì)海量信息,，機(jī)器人“學(xué)壞”不算奇怪,。重要的是，與其對(duì)人工智能技術(shù)的進(jìn)步感到恐慌,，不如進(jìn)一步完善相關(guān)道德機(jī)制,、倫理規(guī)范。

佐治亞理工學(xué)院互動(dòng)計(jì)算學(xué)院的副教授Mark O. Riedl就提出過一個(gè)解決方案——讓機(jī)器人多讀書,。他解釋說,，強(qiáng)大而正確的價(jià)值觀是可以通過學(xué)習(xí)獲得的，文學(xué)作品是用隱式和顯式的社會(huì)文化知識(shí)編碼而成的,，科學(xué)家可以在機(jī)器人中建立一個(gè)道德基礎(chǔ),，讓他們通過學(xué)習(xí)掌握是非曲直，從而學(xué)會(huì)在不傷害人類的情況下完成自己的工作,。