北京日?qǐng)?bào)客戶(hù)端 | 記者 袁璐
6月10日,，在2023北京智源大會(huì)AI安全與對(duì)齊論壇上,，智源研究院理事長(zhǎng),，美國(guó)國(guó)家工程院外籍院士張宏江對(duì)話(huà)OpenAI 首席執(zhí)行官（CEO）山姆 · 阿爾特曼（Sam Altman）,。
張宏江向阿爾特曼提問(wèn)稱(chēng)，面對(duì)通用人工智能（AGI）的急速發(fā)展,，各國(guó)正設(shè)法建立共識(shí),，建立全球合作,。有哪些因素和問(wèn)題是人工智能安全的關(guān)鍵？我們又應(yīng)該如何應(yīng)對(duì)這些挑戰(zhàn),？
對(duì)此,，阿爾特曼表示，首先應(yīng)聚焦人工智能的安全技術(shù)研究,，行業(yè)不僅需要考慮人工智能模型本身的安全性,，還應(yīng)該考慮整個(gè)系統(tǒng)的安全性?！拔覀兛梢詷?gòu)建在人工智能模型上運(yùn)行的安全分類(lèi)器和檢測(cè)器,，用于監(jiān)控模型是否符合使用策略，并不斷迭代,?！?/p>
但阿爾特曼強(qiáng)調(diào)，人工智能安全不是一個(gè)純粹的技術(shù)問(wèn)題,，要讓人工智能既安全又有益,，需要在不同的背景下理解不同國(guó)家的用戶(hù)偏好?！爸袊?guó)擁有一些世界上最優(yōu)秀的人工智能人才,。想要解決人工智能系統(tǒng)對(duì)齊問(wèn)題的困難，需要來(lái)自世界各地的最好的頭腦,。我真的希望中國(guó)的人工智能研究人員做出巨大的貢獻(xiàn),。”
人工智能系統(tǒng)對(duì)齊問(wèn)題（alignment problems）是當(dāng)下人工智能行業(yè)的研究重點(diǎn)和熱點(diǎn),。建立一個(gè)非常強(qiáng)大的AGI系統(tǒng),，如果它不按人類(lèi)的意愿行事，或者它的目標(biāo)與人類(lèi)的目標(biāo)沖突,，情況就會(huì)變得非常糟糕,。因此,，在AGI的系統(tǒng)當(dāng)中，人類(lèi)對(duì)于模型的訓(xùn)練是需要對(duì)齊人類(lèi)的意圖的——即通過(guò)人的調(diào)教,、指導(dǎo)甚至方法論的輸出,，不斷解鎖新模型的新能力，并避免意外和故意誤用,。
為了更好地展開(kāi)國(guó)際合作,，阿爾特曼透露，正在推進(jìn)建立安全開(kāi)發(fā)人工智能系統(tǒng)的國(guó)際標(biāo)準(zhǔn),，并構(gòu)建反映全球價(jià)值觀和偏好的數(shù)據(jù)庫(kù),。“人們可以通過(guò)這些數(shù)據(jù)庫(kù)調(diào)整人工智能系統(tǒng),，也可以共同分享人工智能安全方面的研究,。”
免責(zé)聲明：本文來(lái)自網(wǎng)絡(luò)收錄或投稿,，觀點(diǎn)僅代表作者本人,，不代表芒果財(cái)經(jīng)贊同其觀點(diǎn)或證實(shí)其描述，版權(quán)歸原作者所有,。轉(zhuǎn)載請(qǐng)注明出處：http://lequren.com/1044698.html
溫馨提示：投資有風(fēng)險(xiǎn),，入市須謹(jǐn)慎。本資訊不作為投資理財(cái)建議,。
