人工智能系統(tǒng)是否會(huì)欺騙人類,，一直是各方都關(guān)心的問題,。近期美國麻省理工學(xué)院一個(gè)研究團(tuán)隊(duì)稱,，部分人工智能系統(tǒng)已經(jīng)學(xué)會(huì)如何欺騙人類，其中包括部分號(hào)稱已被訓(xùn)練成樂于助人和誠實(shí)的系統(tǒng),。該研究成果發(fā)表在美國細(xì)胞出版社旗下的《模式》雜志上,。
文章第一作者、美國麻省理工學(xué)院人工智能安全領(lǐng)域博士后彼得·帕克和他的同事們分析了一些文獻(xiàn),，重點(diǎn)關(guān)注了人工智能系統(tǒng)傳播虛假信息的方式——通過習(xí)得性欺騙,，它們系統(tǒng)地學(xué)會(huì)了“操縱”他人。
研究人員發(fā)現(xiàn)的最引人注目的人工智能系統(tǒng)欺騙例子是元宇宙平臺(tái)公司的“西塞羅”人工智能系統(tǒng),，它被設(shè)計(jì)在一個(gè)虛擬外交戰(zhàn)略游戲中作為人類玩家的對(duì)手,。盡管元宇宙平臺(tái)公司聲稱，“西塞羅”人工智能系統(tǒng)“在很大程度上是誠實(shí)和樂于助人的”,，并且在玩游戲時(shí)“從不故意背刺”它的人類盟友,，但該公司發(fā)表的論文數(shù)據(jù)顯示，該系統(tǒng)并沒有公平地玩游戲,。
“我們發(fā)現(xiàn)元宇宙平臺(tái)公司的人工智能系統(tǒng)已經(jīng)成為欺騙大師,。”帕克說,，“雖然元宇宙平臺(tái)公司成功訓(xùn)練其人工智能系統(tǒng)在游戲中獲勝——‘西塞羅’人工智能系統(tǒng)在玩家排行榜中排名前10%——但沒能訓(xùn)練它誠實(shí)地獲勝,。”
其他人工智能系統(tǒng)則具有在撲克游戲中虛張聲勢(shì)的能力,，或在戰(zhàn)略游戲“星際爭(zhēng)霸2”中為了擊敗對(duì)手而假裝攻擊的能力,，以及為了在談判游戲中占上風(fēng)而歪曲偏好的能力等。
研究人員表示,，雖然人工智能系統(tǒng)在游戲中作弊似乎是無害的,，但它可能會(huì)導(dǎo)致“欺騙性人工智能能力的突破”,，并在未來演變成更高級(jí)的人工智能欺騙形式,。
帕克說：“我們需要盡可能多的時(shí)間，為未來人工智能產(chǎn)品和開源模型可能出現(xiàn)的更高級(jí)欺騙做好準(zhǔn)備,。我們建議將欺騙性人工智能系統(tǒng)歸類為高風(fēng)險(xiǎn)系統(tǒng),。”
來源 新華社 | 作者 孫晶
編輯 趙司堯
流程編輯 劉偉利
免責(zé)聲明：本文來自網(wǎng)絡(luò)收錄或投稿,，觀點(diǎn)僅代表作者本人,，不代表芒果財(cái)經(jīng)贊同其觀點(diǎn)或證實(shí)其描述，版權(quán)歸原作者所有。轉(zhuǎn)載請(qǐng)注明出處：http://lequren.com/1101643.html
溫馨提示：投資有風(fēng)險(xiǎn),，入市須謹(jǐn)慎,。本資訊不作為投資理財(cái)建議。
