中國小康網(wǎng)03月30日訊 老馬 埃隆·馬斯克 (Elon Musk) 和一群人工智能專家和行業(yè)高管在一封公開信中呼吁暫停六個(gè)月開發(fā)比 OpenAI 新推出的 GPT-4 更強(qiáng)大的系統(tǒng),，理由是對社會(huì)的潛在風(fēng)險(xiǎn)。

特斯拉老總馬斯克出席論壇

路透社報(bào)道,，本月早些時(shí)候,，微軟支持的 OpenAI 推出了其 GPT（生成式預(yù)訓(xùn)練變壓器）AI 程序的第四次迭代,，該程序通過讓用戶參與類似人類的對話、創(chuàng)作歌曲和總結(jié)冗長的文章而讓用戶驚嘆不已,。

未來生命研究所發(fā)布的信中說“只有當(dāng)我們確信它們的影響將是積極的并且它們的風(fēng)險(xiǎn)將是可控的時(shí)候,，才應(yīng)該開發(fā)強(qiáng)大的人工智能系統(tǒng)”,。

根據(jù)歐盟的透明度登記冊，該非營利組織主要由馬斯克基金會(huì),、總部位于倫敦的 Founders Pledge 集團(tuán)和硅谷社區(qū)基金會(huì)資助,。

馬斯克本月早些時(shí)候說“人工智能讓我壓力山大”，他是行業(yè)領(lǐng)導(dǎo)者 OpenAI 的聯(lián)合創(chuàng)始人之一,，他擁有的汽車制造商特斯拉(TSLA.O)將 AI 用于自動(dòng)駕駛系統(tǒng),。

馬斯克對監(jiān)管機(jī)構(gòu)批評自動(dòng)駕駛系統(tǒng)監(jiān)管的努力表示失望，他已尋求監(jiān)管機(jī)構(gòu)確保人工智能的發(fā)展符合公眾利益,。

康奈爾大學(xué)數(shù)字和信息法教授詹姆斯·格里梅爾曼 (James Grimmelmann) 表示：“考慮到特斯拉一直在努力為其自動(dòng)駕駛汽車中有缺陷的人工智能追究責(zé)任,，埃隆·馬斯克 (Elon Musk) 簽署協(xié)議是非常虛偽的?！?/p>

“暫停是個(gè)好主意,，但這封信含糊不清，沒有認(rèn)真對待監(jiān)管問題,?！?/p>

特斯拉上個(gè)月不得不召回超過 362,000 輛美國汽車來更新軟件,，此前美國監(jiān)管機(jī)構(gòu)表示駕駛員輔助系統(tǒng)可能會(huì)導(dǎo)致撞車，促使馬斯克在推特上表示,，“召回”一詞用于無線軟件更新是“不合時(shí)宜的,，只是單詞拼錯(cuò)了！”

OpenAI 沒有立即回應(yīng)對這封公開信發(fā)表評論的請求,，公開信敦促暫停高級 AI 開發(fā),，直到獨(dú)立專家制定共享安全協(xié)議，并呼吁開發(fā)人員與政策制定者就治理問題進(jìn)行合作,。

“我們應(yīng)該讓機(jī)器用宣傳和謊言充斥我們的信息渠道嗎,？……我們是否應(yīng)該培養(yǎng)最終可能超過我們、智勝我們,、過時(shí)并取代我們的非人類思維,？”信中問道，“此類決定不得委托給未經(jīng)選舉的技術(shù)領(lǐng)導(dǎo)者,?！?/p>

這封信由包括馬斯克在內(nèi)的 1000 多人簽名。OpenAI 的首席執(zhí)行官 Sam Altman 不在簽署這封信的人之列,，Alphabet 和微軟的首席執(zhí)行官 Sundar Pichai 和 Satya Nadella 都不在簽署者之列,。

聯(lián)合簽署人包括 Stability AI 首席執(zhí)行官 Emad Mostaque、Alphabet 旗下 DeepMind 的研究人員,、AI 重量級人物 Yoshua Bengio（通常被稱為“AI 教父”之一）和該領(lǐng)域研究的先驅(qū) Stuart Russell,。

隨著 ChatGPT 因其對國家安全和教育的影響而引起美國國會(huì)的關(guān)注，這些擔(dān)憂也隨之而來,。歐盟警察歐洲刑警組織周一警告稱,，該系統(tǒng)可能被濫用于網(wǎng)絡(luò)釣魚企圖、虛假信息和網(wǎng)絡(luò)犯罪,。