眾多AI領域的探索者,、實踐者齊聚一堂,，分享研究成果,、交換實踐經(jīng)驗，暢敘科技之美,，2023北京智源大會近日順利召開,，作為人工智能領域綜合性內(nèi)行盛會，這場閃爍智慧光芒的思想交流,，以百場精彩報告研討,，共同見證一場關于智能的驚嘆演化。

在AI安全與對齊論壇上,，眾多專家學者展開交流，進入大模型時代，如何確保越發(fā)強大和通用的人工智能系統(tǒng)安全可控，符合人類意圖和價值觀,，是極為重要的一個問題,。這一安全問題又被稱為人機對齊（AI alignment）問題，它代表了本世紀人類社會面臨的最緊迫和最有意義的科學挑戰(zhàn)之一,。

論壇上「深度學習之父」Geoffrey Hinton、OpenAI創(chuàng)始人Sam Altman和張鈸院士等14位國內(nèi)外嘉賓圍繞人機對齊,、大模型的可同時,，與此次論壇議題高度契合的科學作家布萊恩·克里斯汀(Brian Christian)的最新作品–The Alignment Problem，中文版書名：《人機對齊》也在會上正式發(fā)布,。該書由湖南科學技術出版社引進出版,，安遠AI審校。安遠AI創(chuàng)始人謝旻希主持了此次新書發(fā)布儀式,。

《人機對齊》作者Brian Christian應邀線上發(fā)言。在發(fā)言中,，他首先向讀者與與會嘉賓發(fā)來問候,。對于新書《人機對齊》的發(fā)布他深表榮幸，并期望該書能為中國AI領域活躍且持續(xù)的探討作出貢獻,。同時對《人機對齊》的主要內(nèi)容做了簡要介紹：全書共分為三篇,，第一篇就當前影響機器學習系統(tǒng)的倫理和安全問題進行了探討，第二篇名為自主,，焦點從監(jiān)督和自監(jiān)督學習轉移到強化學習,，第三篇在監(jiān)督學習、自監(jiān)督學習、強化學習的基礎上探討我們?nèi)绾卧诂F(xiàn)實世界中對齊復雜的AI系統(tǒng),。希望《人機對齊》在國內(nèi)的發(fā)布不僅對研究人員起到幫助，更能有助于我們把自己對于這個領域的熱情傳遞給每一位非專業(yè)人士,。最后他表示,，期待看到本次大會的探討以及中國AI領域的研究將如何促進人就起領域的全球發(fā)展。

《人機對齊》

【美】布萊恩·克里斯汀著,；唐璐譯

出版社：湖南科學技術出版社

如今的“機器學習”系統(tǒng)已具備非凡能力，能夠在各種場合代替我們看和聽,，并代表我們做決定,。但是警鐘已經(jīng)敲響。隨著機器學習飛速發(fā)展,，人們的擔憂也在與日俱增,。如果我們訓練的人工智能（AI）做的事情與我們真正的目的不符，就會引發(fā)潛在的風險和倫理問題,。研究人員稱之為對齊問題（the alignment problem）,。

暢銷書作家布萊恩·克里斯汀用生動的筆調(diào)，清晰闡釋了AI與我們息息相關的問題,。在書中,，我們將認識第一批積極應對對齊問題的學者，了解他們?yōu)榱吮苊釧I發(fā)展的局面失控,，付出的卓絕努力和雄心勃勃的計劃,。克里斯汀不僅精練地描繪了機器學習的發(fā)展史,，并且親自深入科研一線同科學家對話,，準確呈現(xiàn)了機器學習最前沿的進展。讀者可以清晰認識到,，對齊問題研究的成敗,，將對人類的未來產(chǎn)生決定性影響。

對齊問題還是一面鏡子,，將人類自身的偏見和盲點暴露出來,，讓我們看清自己從未闡明的假設和經(jīng)常自相矛盾的目標。這是一部精彩紛呈的跨學科史詩,，不僅審視了人類的科技,，也審視了人類的文化，時而讓人沮喪,，時而又柳暗花明,。

這本書在國外的出版反響熱烈，被微軟首席執(zhí)行官薩蒂亞·納德拉評為2021年最激勵他的五本書之一,，被《紐約時報》評為關于AI關鍵技術和道德問題的best書籍,，如作者布萊恩·克里斯汀所言：“希望中國AI領域以及更廣泛的中國讀者也可以讀到這本書，希望對你們而言,，這本書是內(nèi)容豐富,、發(fā)人深省、鼓舞人心的,，不僅對于作為研究人員有幫助,，也有助于你們把自己對這個領域的熱情傳遞給生活中的非計算機科學家?！?/p>

瀟湘晨報記者周詩浩

爆料,、維權通道：應用市場下載“晨視頻”客戶端，搜索“幫忙”一鍵直達“晨意幫忙”平臺,；或撥打熱線0731-85571188,。政企內(nèi)容服務專席19176699651。