眾多AI領(lǐng)域的探索者,、實踐者齊聚一堂,，分享研究成果,、交換實踐經(jīng)驗,，暢敘科技之美,，2023北京智源大會近日順利召開,，作為人工智能領(lǐng)域綜合性內(nèi)行盛會,，這場閃爍智慧光芒的思想交流，以百場精彩報告研討,，共同見證一場關(guān)于智能的驚嘆演化,。

在AI安全與對齊論壇上,，眾多專家學(xué)者展開交流,，進(jìn)入大模型時代，如何確保越發(fā)強大和通用的人工智能系統(tǒng)安全可控，符合人類意圖和價值觀,，是極為重要的一個問題,。這一安全問題又被稱為人機對齊（AI alignment）問題，它代表了本世紀(jì)人類社會面臨的最緊迫和最有意義的科學(xué)挑戰(zhàn)之一,。

論壇上「深度學(xué)習(xí)之父」Geoffrey Hinton、OpenAI創(chuàng)始人Sam Altman和張鈸院士等14位國內(nèi)外嘉賓圍繞人機對齊,、大模型的可同時,，與此次論壇議題高度契合的科學(xué)作家布萊恩·克里斯汀(Brian Christian)的最新作品–The Alignment Problem，中文版書名：《人機對齊》也在會上正式發(fā)布,。該書由湖南科學(xué)技術(shù)出版社引進(jìn)出版,，安遠(yuǎn)AI審校。安遠(yuǎn)AI創(chuàng)始人謝旻希主持了此次新書發(fā)布儀式,。

《人機對齊》作者Brian Christian應(yīng)邀線上發(fā)言。在發(fā)言中,，他首先向讀者與與會嘉賓發(fā)來問候,。對于新書《人機對齊》的發(fā)布他深表榮幸,，并期望該書能為中國AI領(lǐng)域活躍且持續(xù)的探討作出貢獻(xiàn)。同時對《人機對齊》的主要內(nèi)容做了簡要介紹：全書共分為三篇,，第一篇就當(dāng)前影響機器學(xué)習(xí)系統(tǒng)的倫理和安全問題進(jìn)行了探討,，第二篇名為自主，焦點從監(jiān)督和自監(jiān)督學(xué)習(xí)轉(zhuǎn)移到強化學(xué)習(xí),，第三篇在監(jiān)督學(xué)習(xí),、自監(jiān)督學(xué)習(xí)、強化學(xué)習(xí)的基礎(chǔ)上探討我們?nèi)绾卧诂F(xiàn)實世界中對齊復(fù)雜的AI系統(tǒng),。希望《人機對齊》在國內(nèi)的發(fā)布不僅對研究人員起到幫助,，更能有助于我們把自己對于這個領(lǐng)域的熱情傳遞給每一位非專業(yè)人士。最后他表示,，期待看到本次大會的探討以及中國AI領(lǐng)域的研究將如何促進(jìn)人就起領(lǐng)域的全球發(fā)展,。

《人機對齊》

【美】布萊恩·克里斯汀著,；唐璐譯

出版社：湖南科學(xué)技術(shù)出版社

如今的“機器學(xué)習(xí)”系統(tǒng)已具備非凡能力,，能夠在各種場合代替我們看和聽，并代表我們做決定,。但是警鐘已經(jīng)敲響,。隨著機器學(xué)習(xí)飛速發(fā)展，人們的擔(dān)憂也在與日俱增,。如果我們訓(xùn)練的人工智能（AI）做的事情與我們真正的目的不符,，就會引發(fā)潛在的風(fēng)險和倫理問題。研究人員稱之為對齊問題（the alignment problem）,。

暢銷書作家布萊恩·克里斯汀用生動的筆調(diào),，清晰闡釋了AI與我們息息相關(guān)的問題。在書中,，我們將認(rèn)識第一批積極應(yīng)對對齊問題的學(xué)者,，了解他們?yōu)榱吮苊釧I發(fā)展的局面失控，付出的卓絕努力和雄心勃勃的計劃,?？死锼雇〔粌H精練地描繪了機器學(xué)習(xí)的發(fā)展史，并且親自深入科研一線同科學(xué)家對話,，準(zhǔn)確呈現(xiàn)了機器學(xué)習(xí)最前沿的進(jìn)展,。讀者可以清晰認(rèn)識到,，對齊問題研究的成敗,，將對人類的未來產(chǎn)生決定性影響。

對齊問題還是一面鏡子,，將人類自身的偏見和盲點暴露出來,，讓我們看清自己從未闡明的假設(shè)和經(jīng)常自相矛盾的目標(biāo),。這是一部精彩紛呈的跨學(xué)科史詩，不僅審視了人類的科技,，也審視了人類的文化,，時而讓人沮喪，時而又柳暗花明,。

這本書在國外的出版反響熱烈，被微軟首席執(zhí)行官薩蒂亞·納德拉評為2021年最激勵他的五本書之一,，被《紐約時報》評為關(guān)于AI關(guān)鍵技術(shù)和道德問題的best書籍,，如作者布萊恩·克里斯汀所言：“希望中國AI領(lǐng)域以及更廣泛的中國讀者也可以讀到這本書，希望對你們而言,，這本書是內(nèi)容豐富,、發(fā)人深省、鼓舞人心的,，不僅對于作為研究人員有幫助,，也有助于你們把自己對這個領(lǐng)域的熱情傳遞給生活中的非計算機科學(xué)家?！?/p>

瀟湘晨報記者周詩浩

爆料,、維權(quán)通道：應(yīng)用市場下載“晨視頻”客戶端，搜索“幫忙”一鍵直達(dá)“晨意幫忙”平臺,；或撥打熱線0731-85571188,。政企內(nèi)容服務(wù)專席19176699651。