北京日報客戶端 | 記者 袁璐
6月10日,，OpenAI 首席執(zhí)行官山姆 · 阿爾特曼（Sam Altman）在2023北京智源大會AI安全與對齊論壇上發(fā)表演講,。演講中，阿爾特曼表示,，未來十年,，通用人工智能（Artificial General Intelligence，AGI）將在幾乎所有領(lǐng)域超越人類的專業(yè)知識,，但與此同時,，中國、美國和世界各地的研究人員必須共同管理AGI的風(fēng)險,，推進AGI安全是大家尋找共同點的最重要領(lǐng)域之一,。
“隨著日益強大的人工智能系統(tǒng)的出現(xiàn),，全球合作的賭注從未如此之高?！卑柼芈硎荆绻恍⌒?，一個旨在改善公共衛(wèi)生結(jié)果的人工智能系統(tǒng)很可能出現(xiàn)錯位,，提供毫無根據(jù)的建議，從而擾亂整個醫(yī)療保健系統(tǒng),。類似地,，為優(yōu)化農(nóng)業(yè)實踐而設(shè)計的人工智能系統(tǒng)可能會無意中耗盡自然資源或破壞生態(tài)系統(tǒng)，從而缺乏對長期可持續(xù)性的考慮,，影響糧食生產(chǎn)和環(huán)境平衡,。
“不計后果地進行AGI開發(fā)和部署,，造成的事故成本會影響到我們所有人?！卑柼芈J(rèn)為,，首先業(yè)內(nèi)應(yīng)包容地建立國際規(guī)范和標(biāo)準(zhǔn)，并為所有國家平等使用AGI提供保障,。其次,，應(yīng)積極開展國際合作，建立全球信任,，以可驗證的方式安全開發(fā)日益強大的人工智能系統(tǒng),。“我不幻想這會很容易,，但就像《道德經(jīng)》所言,，千里之行，始于足下,?！?/p>
在阿爾特曼看來，行業(yè)最具建設(shè)性的第一步已經(jīng)邁出：與國際科學(xué)和技術(shù)界合作,。在技術(shù)進步方面,，行業(yè)應(yīng)該增加透明度和促進知識共享，研究人員如果發(fā)現(xiàn)了新的安全問題,，應(yīng)該站在更大利益層面思考,，分享他們的成果。同時,，行業(yè)也應(yīng)該促進對AGI安全研究方面的投資,，并積極開展可擴展的監(jiān)督。比如可以嘗試使用人工智能系統(tǒng)來協(xié)助人類監(jiān)督其他人工智能系統(tǒng),?！斑@樣的好處是它可以隨著人工智能發(fā)展的步伐而擴展，變得越來越智能和有用,?！?/p>
“我們看到了美國、中國和世界各地的研究人員合作實現(xiàn)共同目標(biāo)的巨大潛力,，并致力于解決AGI發(fā)展中突出的技術(shù)挑戰(zhàn),。”阿爾特曼相信,，人類將能夠利用AGI來解決世界上最重要的問題,，并顯著改善人類的生活質(zhì)量。
免責(zé)聲明：本文來自網(wǎng)絡(luò)收錄或投稿,，觀點僅代表作者本人,，不代表芒果財經(jīng)贊同其觀點或證實其描述,，版權(quán)歸原作者所有。轉(zhuǎn)載請注明出處：http://lequren.com/1044701.html
溫馨提示：投資有風(fēng)險,，入市須謹(jǐn)慎,。本資訊不作為投資理財建議。
