▲3月20日，在天津市人工智能計算中心中控室,，技術人員在監(jiān)控設備運行情況,。圖/新華社

OpenAI的GPT-4、微軟的Copilot,、百度的文心一言、谷歌的Bard,、Adobe的Firefly……近期，國內外一系列生成式人工智能應用發(fā)布,，引發(fā)了廣泛的關注,。

除了對技術進步感到興奮,，有風險意識的人也會產(chǎn)生這樣的擔憂：人工智能會失控嗎,？風險如何防范管控？

美國人工智能研究實驗室OpenAI公司的首席執(zhí)行官山姆·阿爾特曼（Sam Altman）近日表示,，他對人工智能（AI）技術的潛力感到興奮,，但也對一些潛在的濫用行為“有點害怕”,。

OpenAI是近期大火的AI聊天機器人ChatGPT的開發(fā)商,，該公司由埃隆·馬斯克與阿爾特曼等人共同創(chuàng)立。

上月,，OpenAI創(chuàng)始人之一的埃隆·馬斯克表示,，“它有巨大的前景也有巨大的能力，但隨之而來的危險也是巨大的,?！?/p>

人工智能還沒到“失控”水平

3月15日,，OpenAI發(fā)布的GPT-4安全文件中提到， “一些特別令人擔憂的是制定長期計劃并采取行動,、積累權力和資源（‘尋求權力’）以及表現(xiàn)出越來越‘自主’的行為的能力?！?/p>

據(jù)媒體報道,，近年來，有人工智能研究人員提出警告,，足夠強大的AI模型如果沒有得到適當控制,，可能會對人類構成生存威脅,。尤其是“人工智能接管（AI takeover）”,，這是人工智能超越人類智能成為地球主導力量的假想未來。在這種情況下,，人工智能可能會導致災難性后果,。

隨著人工智能的高速發(fā)展，其可能帶來的風險也引起了人們的高度關注,。這就帶來了一個擔心，遍地開花的人工智能會失控嗎,？

首先，這種失控現(xiàn)在來看還不致于發(fā)生,，因為目前的人工智能還沒發(fā)展到這個水平。

失控的前提是AI要具有自主性,，就是在很大程度上獨立完成任務。那么,，在AI系統(tǒng)沒有足夠理解人類價值觀和道德準則的情況下，這種自主性就可能導致失控的風險,。

但目前的生成式AI本質上還是人類的工具,，給它一個指令，它來生成相應的文字,、圖片等內容，所以人們暫時還不需要有這方面的擔心,。

當然，隨著技術的不斷發(fā)展,，未來這個潛在風險會成為我們重點去關注的問題,。

更有可能失控的是用技術來為非作歹的人

比起失控的技術,，更有可能失控的是用技術來為非作歹的“人”,。比如，惡意使用者可能會利用ChatGPT來制造虛假信息,、實施欺詐活動或進行其他不道德行為,。

這很像人們擔心會被AI替代導致失業(yè)一樣，這其實是關注錯了重點,。因為其實人不會被AI淘汰（至少目前不會）,，而是會被掌握AI工具的“人”淘汰。

因此,，這個層面上的風險,，關鍵因素都在于人，而不是技術本身,。因為即便沒有AI,，壞人也會用其他手段做壞事,，善于學習的人也會運用其他工具提升自己的競爭力。

雖然AI目前不至于失控,，但還是有一些風險,。

一方面是它們會一本正經(jīng)地胡說八道，如果用戶把它所說的都認定為事實,，那就會被誤導,。在這方面需要媒體多做普及，讓更多人認識到ChatGPT等AI大模型并非無所不知,。

另一方面,，有可能出現(xiàn)個人隱私或商業(yè)機密泄露的情況。比如,，用戶在與ChatGPT等聊天機器人交流時,，無意識地提供了敏感信息，如個人身份信息,、聯(lián)系方式或公司內部信息等,。一旦這些信息被記錄或存儲，就可能導致隱私或商業(yè)機密的泄露,。雖然AI服務提供商會采取措施保護用戶數(shù)據(jù),，但數(shù)據(jù)存儲和傳輸過程中仍然可能存在安全風險。

此外,，由于訓練數(shù)據(jù)集可能存在偏見,，聊天機器人的回答會反映這些偏見，從而導致歧視性或不公平的結果,。也可能因無法準確判斷道德和倫理問題,，有時產(chǎn)生不道德或具爭議的建議。

從三個方向規(guī)避人工智能風險

那人類該如何規(guī)避這些風險呢,？可以從三個方向進行,。

第一個方向就是提高公眾的認知。一方面要提高對AI技術的了解,，避免被不恰當?shù)男畔⑺`導,；另一方面，提高數(shù)據(jù)安全意識,，避免泄露個人隱私或商業(yè)機密等敏感信息,。新聞媒體在其中可發(fā)揮重要作用。

第二個方向是實施更全面的人工智能監(jiān)管,。首先，需要制定明確的法規(guī)和指導方針,，以規(guī)范AI的研發(fā),、部署和使用,。其次，政府,、企業(yè),、研究機構和民間組織需要加強合作，共同制定和執(zhí)行AI監(jiān)管政策,，這有助于確保政策的全面性和有效性,。另外，由于 AI技術不受國界限制,，應積極參與全球性的AI治理倡議,，以確保全球范圍內的政策協(xié)調和一致性。

第三個方向就是加強對于AI安全的研究,。政府,、企業(yè)和研究機構應增加對AI安全研究的投資，為相關項目提供充足的資金和資源,。此外要重視AI安全領域的人才培養(yǎng),，鼓勵學生和研究人員從事相關研究，可以通過提供獎學金,、實習機會和專門的課程來實現(xiàn),。同時進行跨學科合作，鼓勵計算機科學家,、安全專家,、倫理學家、法學家等領域的專家進行跨學科合作,，共同應對AI安全所帶來的挑戰(zhàn),。

OpenAI在創(chuàng)立之初的核心宗旨就是——實現(xiàn)安全的通用人工智能，使其有益于人類,。

“安全”這兩個字對人工智能來說至關重要,。無論是作為開發(fā)者、用戶還是監(jiān)管者,，人們都應當時刻關注AI技術的安全性,，確保人工智能不會被濫用。只有這樣,，我們才能充分發(fā)揮人工智能的潛力,，為人類社會帶來更多便利和進步。

文/劉興亮（DCCI互聯(lián)網(wǎng)研究院院長）

編輯/柯銳

校對/王心