把AI裝進籠子

AI領(lǐng)域頂尖專家和圖靈獎得主約書亞?本吉奧,、特斯拉首席執(zhí)行官馬斯克等人千人聯(lián)名簽署公開信，呼吁暫停開發(fā)比GPT-4更強大的AI系統(tǒng)至少6個月，稱其“對社會和人類構(gòu)成潛在風險”。

AI對人類究竟有風險嗎,？

“人工智能在理論上是有可能毀滅人類的?！敝袊?span id="a6otyhj" class="wpcom_keyword_link">人工智能學會基礎(chǔ)專委會副主任陳志成在接受中新社國是直通車采訪時表示,，正是基于這種風險的存在,，所以才制定了在國際上達成共識的三原則進行約束。

第一條,，不得傷害人類,，或看到人類受到傷害而袖手旁觀。

第二條,，必須服從人類的命令,，除非這條命令與第一條相矛盾。

第三條,，必須保護自己,，除非這種保護與以上兩條相矛盾。

馬斯克的公開信中主張,，在開發(fā)強大的AI系統(tǒng)之前,，應先確認其帶來影響是積極的、風險是可控的,。

但是,，支持還是反對，很多大佬意見不一,，已經(jīng)開始唇槍舌戰(zhàn),。

比如，LeCun（美國科學院院士,、圖靈獎獲得者）,、吳恩達（曾任斯坦福大學人工智能實驗室主任）、田淵棟（Facebook人工智能研究院智能圍棋項目負責人）等一眾AI大佬,，都發(fā)文公開反對這份“千人聯(lián)名”,。

吳恩達表示，在GPT-4出現(xiàn)之后要求AI訓練暫停6個月是很可怕的事情：GPT-4在教育,、醫(yī)療保健,、食品等領(lǐng)域都有很多新的應用，這將幫助許多人,。

田淵棟說,，“我不簽暫停令”！AI的發(fā)展就像囚徒困境：一旦開始,，就沒有辦法停止或扭轉(zhuǎn)這一趨勢,，這就是進化的必然。應該換個角度繼續(xù)向前看,，更好地理解LLM（大型語言模型）,，適應它并利用其力量，感受熱度,。

Meta數(shù)據(jù)科學家林致遠,、英偉達AI研究科學家Jim Fan也對吳恩達觀點表示贊同,。

國內(nèi)首批深度學習工程師、神策數(shù)據(jù)VP樂一帆在接受中新社國是直通車采訪時表示,，他并不認為ChatGPT本身會像科幻電影里演的那樣,，可以控制甚至毀滅人類。但是他的擔心有三方面：

第一,，用戶惡意利用GPT獲知危害社會或犯罪方法等問題,；

第二，用戶自身分辨能力不足,，被GPT蒙蔽,；

第三，GPT的核心目標函數(shù)被別有用心的人掌握,，通過操縱GPT來挑起國際爭端等,。

陳志成認為，ChatGPT本質(zhì)上是基于概率統(tǒng)計并依賴大算力的大數(shù)據(jù)分析行為,，但并不是真正意義上具有“理解”能力的人工智能,。以現(xiàn)有情況來看，不可能具備像人一樣思維邏輯或?qū)W習經(jīng)驗的能力來自主傷害人類,，只是按照程序進行數(shù)據(jù)收集,、梳理、分析,、識別和輸出等,。

陳志成認為，人工智能是大趨勢,，即便暫停GPT-5的研發(fā)也阻擋不了人工智能的發(fā)展,，任何時代都有科技的進步，這是正?，F(xiàn)象,。

怎樣才能把人工智能“裝進籠子”？

分析人士認為,，人類在加快發(fā)展人工智能的同時,，也要把人工智能“裝進籠子”。

陳志成說,，中國將是世界上最有效監(jiān)管GPT技術(shù)應用的國家,，這不僅是基于體制優(yōu)勢，關(guān)于對人工智能的監(jiān)管及其倫理約束,，中國也制定了相關(guān)規(guī)范,。

中國國家新一代人工智能治理專業(yè)委員會于2021年9月25日發(fā)布《新一代人工智能倫理規(guī)范》，旨在將倫理道德融入人工智能全生命周期,，為從事人工智能相關(guān)活動的自然人,、法人和其他相關(guān)機構(gòu)等提供倫理指引,。增強全社會的人工智能倫理意識與行為自覺，積極引導負責任的人工智能研發(fā)與應用活動,，促進人工智能健康發(fā)展。

《新一代人工智能倫理規(guī)范》第一條即開宗明義：本規(guī)范旨在將倫理道德融入人工智能全生命周期,，促進公平,、公正、和諧,、安全,，避免偏見、歧視,、隱私和信息泄露等問題,。

聯(lián)合國教科文組織近日也發(fā)表聲明，呼吁各國政府盡快實施該組織通過的首份人工智能倫理問題全球性協(xié)議——《人工智能倫理問題建議書》,。旨在促進人工智能為人類,、社會、環(huán)境以及生態(tài)系統(tǒng)服務,，并預防其潛在風險,。

該組織總干事阿祖萊說，世界需要更強有力的人工智能倫理規(guī)則,，這是時代的挑戰(zhàn),。“現(xiàn)在是時候在國家層面實施這些戰(zhàn)略和法規(guī)了,。我們必須言出必行,，確保實現(xiàn)《建議書》的目標?！?/p>

來源：國是直通車