中國(guó)小康網(wǎng)03月30日訊 老馬 埃隆·馬斯克 (Elon Musk) 和一群人工智能專家和行業(yè)高管在一封公開信中呼吁暫停六個(gè)月開發(fā)比 OpenAI 新推出的 GPT-4 更強(qiáng)大的系統(tǒng)，理由是對(duì)社會(huì)的潛在風(fēng)險(xiǎn),。

特斯拉老總馬斯克出席論壇

路透社報(bào)道，本月早些時(shí)候,，微軟支持的 OpenAI 推出了其 GPT（生成式預(yù)訓(xùn)練變壓器）AI 程序的第四次迭代，該程序通過(guò)讓用戶參與類似人類的對(duì)話,、創(chuàng)作歌曲和總結(jié)冗長(zhǎng)的文章而讓用戶驚嘆不已,。

未來(lái)生命研究所發(fā)布的信中說(shuō)“只有當(dāng)我們確信它們的影響將是積極的并且它們的風(fēng)險(xiǎn)將是可控的時(shí)候，才應(yīng)該開發(fā)強(qiáng)大的人工智能系統(tǒng)”,。

根據(jù)歐盟的透明度登記冊(cè),，該非營(yíng)利組織主要由馬斯克基金會(huì)、總部位于倫敦的 Founders Pledge 集團(tuán)和硅谷社區(qū)基金會(huì)資助,。

馬斯克本月早些時(shí)候說(shuō)“人工智能讓我壓力山大”,，他是行業(yè)領(lǐng)導(dǎo)者 OpenAI 的聯(lián)合創(chuàng)始人之一，他擁有的汽車制造商特斯拉(TSLA.O)將 AI 用于自動(dòng)駕駛系統(tǒng),。

馬斯克對(duì)監(jiān)管機(jī)構(gòu)批評(píng)自動(dòng)駕駛系統(tǒng)監(jiān)管的努力表示失望,，他已尋求監(jiān)管機(jī)構(gòu)確保人工智能的發(fā)展符合公眾利益。

康奈爾大學(xué)數(shù)字和信息法教授詹姆斯·格里梅爾曼 (James Grimmelmann) 表示：“考慮到特斯拉一直在努力為其自動(dòng)駕駛汽車中有缺陷的人工智能追究責(zé)任,，埃隆·馬斯克 (Elon Musk) 簽署協(xié)議是非常虛偽的,。”

“暫停是個(gè)好主意,，但這封信含糊不清,，沒(méi)有認(rèn)真對(duì)待監(jiān)管問(wèn)題?！?/p>

特斯拉上個(gè)月不得不召回超過(guò) 362,000 輛美國(guó)汽車來(lái)更新軟件,，此前美國(guó)監(jiān)管機(jī)構(gòu)表示駕駛員輔助系統(tǒng)可能會(huì)導(dǎo)致撞車，促使馬斯克在推特上表示,，“召回”一詞用于無(wú)線軟件更新是“不合時(shí)宜的,，只是單詞拼錯(cuò)了！”

OpenAI 沒(méi)有立即回應(yīng)對(duì)這封公開信發(fā)表評(píng)論的請(qǐng)求,，公開信敦促暫停高級(jí) AI 開發(fā),，直到獨(dú)立專家制定共享安全協(xié)議，并呼吁開發(fā)人員與政策制定者就治理問(wèn)題進(jìn)行合作,。

“我們應(yīng)該讓機(jī)器用宣傳和謊言充斥我們的信息渠道嗎,？……我們是否應(yīng)該培養(yǎng)最終可能超過(guò)我們、智勝我們、過(guò)時(shí)并取代我們的非人類思維,？”信中問(wèn)道,，“此類決定不得委托給未經(jīng)選舉的技術(shù)領(lǐng)導(dǎo)者?！?/p>

這封信由包括馬斯克在內(nèi)的 1000 多人簽名,。OpenAI 的首席執(zhí)行官 Sam Altman 不在簽署這封信的人之列，Alphabet 和微軟的首席執(zhí)行官 Sundar Pichai 和 Satya Nadella 都不在簽署者之列,。

聯(lián)合簽署人包括 Stability AI 首席執(zhí)行官 Emad Mostaque,、Alphabet 旗下 DeepMind 的研究人員、AI 重量級(jí)人物 Yoshua Bengio（通常被稱為“AI 教父”之一）和該領(lǐng)域研究的先驅(qū) Stuart Russell,。

隨著 ChatGPT 因其對(duì)國(guó)家安全和教育的影響而引起美國(guó)國(guó)會(huì)的關(guān)注,，這些擔(dān)憂也隨之而來(lái)。歐盟警察歐洲刑警組織周一警告稱,，該系統(tǒng)可能被濫用于網(wǎng)絡(luò)釣魚企圖,、虛假信息和網(wǎng)絡(luò)犯罪。