中新網(wǎng)北京6月11日電(中新財(cái)經(jīng)記者 宋宇晟)“隨著越來(lái)越強(qiáng)大的人工智能系統(tǒng)出現(xiàn)，全球合作的利害關(guān)系變得前所未有的重要,?！?/p>

6月10日，OpenAI首席執(zhí)行官阿爾特曼(Sam Altman)通過(guò)視頻連線在2023北京智源大會(huì)“AI 安全與對(duì)齊”論壇演講中這樣說(shuō)到,。

他在發(fā)言中引用《道德經(jīng)》中的名句“千里之行,，始于足下”，呼吁國(guó)際科技界就人工智能安全相關(guān)問(wèn)題展開(kāi)合作,，推動(dòng)建立提高通用人工智能(AGI)安全技術(shù)進(jìn)步方面的透明度和知識(shí)共享的機(jī)制。

2023北京智源大會(huì)“AI 安全與對(duì)齊”論壇現(xiàn)場(chǎng),。智源大會(huì)供圖

“我們正看到人工智能能力在迅速增長(zhǎng),，現(xiàn)在需要做的是負(fù)責(zé)任地將其應(yīng)用到世界中去?？茖W(xué)的歷史告訴我們,，技術(shù)進(jìn)步遵循指數(shù)曲線?！?/p>

阿爾特曼預(yù)測(cè),，“在未來(lái)的10年內(nèi)，我們可能會(huì)擁超強(qiáng)的人工智能系統(tǒng),?！?/p>

“想象一下未來(lái)十年的世界，通用人工智能系統(tǒng)在幾乎每個(gè)領(lǐng)域?qū)I(yè)技能都超過(guò)了人類,。這些系統(tǒng)產(chǎn)生的生產(chǎn)力最終可以超過(guò)我們最大公司所能產(chǎn)出的集體生產(chǎn)力,。潛在的收益是巨大的。人工智能革命可以創(chuàng)造我們共享的財(cái)富,，并且顯著提高人機(jī)交互水平,。但我們必須共同管理風(fēng)險(xiǎn)，才能達(dá)到這個(gè)目的,?！?/p>

阿爾特曼稱，如果人們沒(méi)能為此做好規(guī)劃,，一個(gè)被設(shè)計(jì)用于改善公共衛(wèi)生成果但“未對(duì)齊的”人工智能系統(tǒng),，可能會(huì)通過(guò)提供混亂的建議來(lái)破壞整個(gè)公共衛(wèi)生體系,；同樣，一個(gè)旨在優(yōu)化農(nóng)業(yè)實(shí)踐的人工智能系統(tǒng)可能會(huì)無(wú)意中損害經(jīng)濟(jì),、消耗資源,，它會(huì)因缺乏對(duì)長(zhǎng)期可持續(xù)性的考慮，從而影響糧食生產(chǎn)和環(huán)境平衡,。

“我希望我們都能認(rèn)同,，推進(jìn)通用人工智能安全是我們需要達(dá)成共識(shí)的最重要領(lǐng)域之一?！彼f(shuō),。

2023北京智源大會(huì)“AI 安全與對(duì)齊”論壇現(xiàn)場(chǎng)。智源大會(huì)供圖

在阿爾特曼看來(lái),，通用人工智能的治理,，首先應(yīng)建立起包容的國(guó)際準(zhǔn)則和標(biāo)準(zhǔn)，為在所有國(guó)家使用通用人工智能設(shè)立平等,、統(tǒng)一的防護(hù)措施,；其次需要國(guó)際合作，以可驗(yàn)證的方式在全球范圍內(nèi)建立對(duì)越來(lái)越強(qiáng)大的通用人工智能系統(tǒng)安全開(kāi)發(fā)的信任,。

他說(shuō),，“我們可以邁出的最有建設(shè)性的一步就是國(guó)際科技界共同合作，提高AGI安全技術(shù)進(jìn)步方面的透明度,，建立知識(shí)共享機(jī)制,。當(dāng)研究人員發(fā)現(xiàn)緊急問(wèn)題時(shí)，應(yīng)分享他們的發(fā)現(xiàn),。我們需要認(rèn)真思考如何在尊重和保護(hù)知識(shí)產(chǎn)權(quán)的同時(shí),，鼓勵(lì)這樣的分享。這將為我們深化合作打開(kāi)新的大門,?！?完)