6月9日至10日，2023年北京智源大會在京舉行,。

大會集結(jié)全球AI領(lǐng)域大咖,。

紅網(wǎng)時刻新聞6月10日訊（記者 蔡娟 通訊員 周洋）6月9日至10日，2023年北京智源大會在京舉行,。作為人工智能巔峰盛會,，大會集結(jié)全球AI領(lǐng)域的探索者、 實(shí)踐者,、以及關(guān)心智能科學(xué)的興趣愛好者,，上演百場精彩報告，研討分享研究成果,、交換實(shí)踐經(jīng)驗(yàn),、建立聯(lián)系合作，共同見證一場關(guān)于智能的驚嘆演化,。

6月10日全天為“AI安全與對齊”主題論壇,。進(jìn)入大模型時代，如何確保越發(fā)強(qiáng)大和通用的人工智能系統(tǒng)安全可控,，符合人類意圖和價值觀，是極為重要的一個問題,。這一安全問題又被稱為“人機(jī)對齊”（AI alignment）問題,，它代表了本世紀(jì)人類社會面臨的最緊迫和最有意義的科學(xué)挑戰(zhàn)之一。

論壇上,，“深度學(xué)習(xí)之父”Geoffrey Hinton,、OpenAI創(chuàng)始人Sam Altman和中國科學(xué)院院士張鈸等14位國內(nèi)外嘉賓，圍繞人機(jī)對齊,、大模型的可拓展監(jiān)督,、人工智能的生存風(fēng)險，以及其他人工智能安全相關(guān)的議題帶來精彩報告,。

《人機(jī)對齊》中文版新書首發(fā)儀式,。

《人機(jī)對齊》作者布萊恩·克里斯汀（Brian Christian）線上發(fā)言,。

《人機(jī)對齊》中文版新書首發(fā),。

同時，與此次論壇議題高度契合的科學(xué)作家布萊恩·克里斯汀(Brian Christian)的最新作品——《人機(jī)對齊》中文版（英文書名《The Alignment Problem》）也在會上震撼首發(fā),。該書由湖南科學(xué)技術(shù)出版社引進(jìn)出版,，安遠(yuǎn)AI審校。安遠(yuǎn)AI創(chuàng)始人謝旻希主持此次新書發(fā)布儀式,。

論壇當(dāng)天,，暢銷書作家、《人機(jī)對齊》作者布萊恩·克里斯汀應(yīng)邀線上發(fā)言,，對《人機(jī)對齊》新書內(nèi)容作介紹,。他表示，期望《人機(jī)對齊》的出版能為中國AI領(lǐng)域活躍且持續(xù)的探討作出貢獻(xiàn),，也期待看到此次大會的探討以及中國AI領(lǐng)域的研究將如何促進(jìn)人機(jī)對齊領(lǐng)域的全球發(fā)展,。

《人機(jī)對齊》全書共分為三篇,。第一篇就當(dāng)前影響機(jī)器學(xué)習(xí)系統(tǒng)的倫理和安全問題進(jìn)行了探討，第二篇名為自主,，焦點(diǎn)從監(jiān)督和自監(jiān)督學(xué)習(xí)轉(zhuǎn)移到強(qiáng)化學(xué)習(xí),，第三篇在監(jiān)督學(xué)習(xí)、自監(jiān)督學(xué)習(xí),、強(qiáng)化學(xué)習(xí)的基礎(chǔ)上探討我們?nèi)绾卧诂F(xiàn)實(shí)世界中對齊復(fù)雜的AI系統(tǒng),。《人機(jī)對齊》中文版的發(fā)布,，不僅對研究人員起到幫助,，更能有助于非專業(yè)人士走進(jìn)這個領(lǐng)域。

《人機(jī)對齊》在2023年北京智源大會會場展出,。

如今的“機(jī)器學(xué)習(xí)”系統(tǒng)已具備非凡能力,，能夠在各種場合代替我們看和聽，并代表我們做決定,。但是警鐘已經(jīng)敲響。隨著機(jī)器學(xué)習(xí)飛速發(fā)展,，人們的擔(dān)憂也在與日俱增,。如果我們訓(xùn)練的人工智能（AI）做的事情與我們真正的目的不符，就會引發(fā)潛在的風(fēng)險和倫理問題,。研究人員稱之為對齊問題（the alignment problem）,。

《人機(jī)對齊》一書中，布萊恩·克里斯汀用生動的筆調(diào),，清晰闡釋了AI與我們息息相關(guān)的問題,。在書中，我們將認(rèn)識第一批積極應(yīng)對對齊問題的學(xué)者,，了解他們?yōu)榱吮苊釧I發(fā)展的局面失控,，付出的卓絕努力和雄心勃勃的計劃?？死锼雇〔粌H精練地描繪了機(jī)器學(xué)習(xí)的發(fā)展史,，并且親自深入科研一線同科學(xué)家對話，準(zhǔn)確呈現(xiàn)了機(jī)器學(xué)習(xí)最前沿的進(jìn)展,。讀者可以清晰認(rèn)識到,，對齊問題研究的成敗，將對人類的未來產(chǎn)生決定性影響,。

對齊問題還是一面鏡子,，將人類自身的偏見和盲點(diǎn)暴露出來，讓我們看清自己從未闡明的假設(shè)和經(jīng)常自相矛盾的目標(biāo),?！度藱C(jī)對齊》是一部精彩紛呈的跨學(xué)科史詩,，不僅審視了人類的科技，也審視了人類的文化,，時而讓人沮喪,，時而又柳暗花明。

《人機(jī)對齊》在國外出版后反響熱烈,，被微軟首席執(zhí)行官薩蒂亞·納德拉評為2021年最激勵他的五本書之一,，被《紐約時報》評為關(guān)于AI關(guān)鍵技術(shù)和道德問題的best書籍，如作者布萊恩·克里斯汀所言：“希望中國AI領(lǐng)域以及更廣泛的中國讀者也可以讀到這本書,，希望對你們而言,，這本書是內(nèi)容豐富、發(fā)人深省,、鼓舞人心的,，不僅對于作為研究人員有幫助，也有助于你們把自己對這個領(lǐng)域的熱情傳遞給生活中的非計算機(jī)科學(xué)家,?！?/p>