今天是“愚人節(jié)”，在流行文化中這通常是個(gè)頗為歡樂的日子，但這個(gè)“愚人節(jié)”,，可能有不少人在思考一個(gè)有點(diǎn)心驚的問題：人工智能會(huì)把我們變成“愚人”嗎,？

這不是聳人聽聞，就在剛剛過去的3月，人工智能領(lǐng)域發(fā)生了一系列重大事件,，就連聯(lián)合國(guó)都被驚動(dòng)了。

先是近來大熱的人工智能ChatGPT的更高版本GPT-4發(fā)布,，被認(rèn)為是人工智能的“破繭成蝶”時(shí)刻,；數(shù)日后1000多名業(yè)界專家簽署公開信，要求暫停研發(fā)更強(qiáng)大的人工智能系統(tǒng),；3月30日,，聯(lián)合國(guó)教科文組織發(fā)表聲明，呼吁各國(guó)盡快實(shí)施人工智能倫理標(biāo)準(zhǔn),。

雖然,，人工智能目前不會(huì)直接把人變成愚人，但如果人類在重大問題上應(yīng)對(duì)不當(dāng),、出現(xiàn)重大失誤,，則會(huì)證明自己原本就是“愚人”。

人工智能“破繭成蝶”

先來看看人工智能的歷史,。自從1956年一群科學(xué)家在美國(guó)達(dá)特茅斯會(huì)議上提出“人工智能”這個(gè)名詞以來,，其發(fā)展經(jīng)歷了若干高潮和低谷,。

最近的一波高潮源于神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)等人工智能技術(shù)的發(fā)展,，2016年圍棋人工智能AlphaGo戰(zhàn)勝人類世界冠軍李世石,，2017年又戰(zhàn)勝當(dāng)時(shí)世界排名第一的柯潔,，就是這個(gè)領(lǐng)域廣為人知的重要成就,。

從去年底到今年初，人工智能ChatGPT的崛起又一次震驚世界,。

它能以很接近人的方式與人對(duì)話,，還能通過一些專業(yè)考試，比如谷歌編碼L3級(jí)（入門級(jí)）工程師面試,，據(jù)說該職位年薪18.3萬美元,，這個(gè)薪資水平估計(jì)超過了大部分看到這里的讀者吧。

當(dāng)?shù)貢r(shí)間3月14日,，開發(fā)ChatGPT的美國(guó)OpenAI公司發(fā)布了更進(jìn)一步的GPT-4,。它具備多模態(tài)能力，在文字輸入外還能接受圖片輸入,。它在諸多專業(yè)領(lǐng)域的能力也更強(qiáng),，有人用它模擬參加了美國(guó)大學(xué)先修課程考試等多項(xiàng)考試，在英語(yǔ),、歷史,、數(shù)學(xué)、生物等方面都取得了不錯(cuò)的成績(jī),。在模擬美國(guó)律師考試中,，作為ChatGPT基礎(chǔ)的GPT-3.5得分在后10%，而GPT-4的得分在前10%,。

下圖是OpenAI公司官方發(fā)布的GPT-4各項(xiàng)考試表現(xiàn),。此圖發(fā)布后，網(wǎng)友討論的一個(gè)問題是,，還有沒有哪些或哪位人類個(gè)體能夠在如此廣泛的考試中取得這樣的成績(jī),。

人工智能領(lǐng)域著名專家、圖靈獎(jiǎng)得主杰弗里·欣頓在社交媒體上發(fā)表評(píng)論說,，毛毛蟲要吸收養(yǎng)分才能變成蝴蝶,，在理解文字等方面吸收了大量信息后，“GPT-4就是人類的蝴蝶”,。

“愚人”風(fēng)險(xiǎn)不可忽視

雖然GPT-4還沒有達(dá)到科幻故事中通用人工智能的程度,，但業(yè)界普遍認(rèn)為它把人工智能帶到了可能超過人類的關(guān)鍵點(diǎn)上。

“我們應(yīng)該開發(fā)可能最終數(shù)量勝出,、智力超過,、淘汰并取代我們的非人類意識(shí)嗎,？”這是美國(guó)生命未來研究所網(wǎng)站3月下旬發(fā)布的一封公開信中發(fā)出的靈魂之問。

公開信列舉了強(qiáng)大的人工智能可能帶來的種種問題,，比如可讓各種信息渠道中充斥錯(cuò)誤信息,、替代多種人類工作等，更為可怕的是各家實(shí)驗(yàn)室正在競(jìng)相研發(fā)連發(fā)明者都不能理解,、預(yù)測(cè)或可靠控制的人工智能,。

OpenAI公司今年2月曾在一份聲明中說，在某個(gè)時(shí)候,，在開始訓(xùn)練未來的人工智能系統(tǒng)之前需要先進(jìn)行獨(dú)立的評(píng)估,。生命未來研究所網(wǎng)站的公開信說：“我們同意。這個(gè)時(shí)間點(diǎn)就是現(xiàn)在,?！?/p>

公開信呼吁所有相關(guān)機(jī)構(gòu)將研發(fā)比GPT-4更強(qiáng)大的人工智能系統(tǒng)的工作暫停至少6個(gè)月，以商討相關(guān)倫理規(guī)范,。目前已有著名科技企業(yè)家馬斯克,、蘋果公司聯(lián)合創(chuàng)始人沃茲尼亞克等上千名業(yè)界人士簽名。以下是若干簽名大佬的截圖：

這事甚至驚動(dòng)了聯(lián)合國(guó),。3月30日,，聯(lián)合國(guó)教科文組織發(fā)表聲明，表示注意到業(yè)界關(guān)于暫停研發(fā)強(qiáng)大人工智能的呼聲,，并呼吁各國(guó)政府根據(jù)2021年就已通過的《人工智能倫理問題建議書》盡快實(shí)施具體標(biāo)準(zhǔn),。

聯(lián)合國(guó)教科文組織總干事阿祖萊在聲明中說：“世界需要更強(qiáng)有力的人工智能倫理規(guī)則，這是我們這個(gè)時(shí)代的挑戰(zhàn),?！?/p>

人類關(guān)于這種挑戰(zhàn)的想象早已體現(xiàn)在各種科幻作品中，無論是中國(guó)科幻片《流浪地球》中對(duì)智能量子計(jì)算機(jī)MOSS的描繪,，還是美國(guó)科幻片《2001太空漫游》中對(duì)超級(jí)電腦HAL9000的擔(dān)心,，都顯示出人工智能有可能在兩個(gè)層次上讓我們變成“愚人”。首先是在某些具體工作中超越最聰明的人類,，圍棋領(lǐng)域AlphaGo等案例已讓我們逐漸習(xí)慣這一點(diǎn),；然后就是大范圍接管各種工作，以至于最終可以影響整個(gè)人類的命運(yùn),。

最為形象的一個(gè)科幻場(chǎng)景,，可能是動(dòng)畫片《機(jī)器人總動(dòng)員》中，在飛船中生存的人類越來越胖,，甚至難以行走,，生活全靠機(jī)器人護(hù)理。在歷代飛船船長(zhǎng)與身后代表人工智能的方向盤合影中，方向盤越來越大,，甚至最終壓過了船長(zhǎng)的控制權(quán),。

全球共建“機(jī)器倫理”

人類需要因?yàn)槿斯ぶ悄艿目耧j猛進(jìn)陷入恐慌嗎？答案是否,。因?yàn)槿祟惾匀焕卫慰刂浦斯ぶ悄埽豢赡馨l(fā)生某些科幻大片中的失控場(chǎng)面,。

但是,，從現(xiàn)在開始，必須避免“或者萬劫不復(fù),、或者天下太平”的極性思維,。人工智能倫理治理要面對(duì)的，是處于兩個(gè)極端之間的各種實(shí)際可能發(fā)生的情況,，包括對(duì)就業(yè)、教育的影響,。為此,，需要相關(guān)各方積極行動(dòng)，聯(lián)合攻關(guān),，就生成式人工智能可能帶來的主要機(jī)遇,、風(fēng)險(xiǎn)和治理方案達(dá)成共識(shí)。

確實(shí),，在當(dāng)前全球科技界競(jìng)相研發(fā)人工智能的形勢(shì)下,，讓所有人都暫停6個(gè)月研發(fā)不太現(xiàn)實(shí)，網(wǎng)上有人稱之為“最不可能的?；稹?。在這個(gè)時(shí)候，堵不如疏,，聯(lián)合國(guó)教科文組織提出制定詳細(xì)的人工智能倫理規(guī)范,，有助于讓人工智能走在我們想要的軌道上。

早在2021年11月的聯(lián)合國(guó)教科文組織第41屆大會(huì)上,，會(huì)員國(guó)一致通過了《人工智能倫理問題建議書》,。根據(jù)該文件，與人工智能相關(guān)的根本性倫理關(guān)切包括多個(gè)方面,，例如：人工智能技術(shù)可能內(nèi)嵌并加劇偏見,，可能導(dǎo)致歧視、不平等,、數(shù)字鴻溝和排斥,，并對(duì)文化、社會(huì)和生物多樣性構(gòu)成威脅,，造成社會(huì)或經(jīng)濟(jì)鴻溝,。

更為宏觀地說,，建議書認(rèn)為人工智能的發(fā)展應(yīng)該“以人的尊嚴(yán)、福祉和防止損害為導(dǎo)向”,。今年12月,，聯(lián)合國(guó)教科文組織全球人工智能倫理問題論壇將在斯洛文尼亞舉行，屆時(shí)將發(fā)布相關(guān)進(jìn)展報(bào)告,。

著名科幻作家阿西莫夫曾經(jīng)提出“機(jī)器人三定律”,，也許未來在每一個(gè)人工智能的底層，都會(huì)首先寫下這些代碼：

“機(jī)器人不得傷害人類,，或坐視人類受到傷害,；

除非違背第一定律，否則機(jī)器人必須服從人類命令,；

除非違背第一或第二定律,，否則機(jī)器人必須保護(hù)自己?！?/p>

來源：伍之管見微信公眾號(hào)