財聯(lián)社8月10日訊（編輯 牛占林）本周末,，數(shù)千名黑客將齊聚美國賭城拉斯維加斯，共同參加一場針對包括ChatGPT在內(nèi)的人工智能(AI)聊天應(yīng)用的“圍剿戰(zhàn)爭”,。

這場“爭斗”發(fā)生之際,，人們對人工智能技術(shù)的擔(dān)憂和審查日益加劇,。隨著時間的流逝,，這種新興技術(shù)正在席卷全球，但也一再被證明其會放大偏見,、傳播錯誤信息和危險材料,。

一年一度的DEFCON極客大會是全球頂級的安全會議，也被稱為極客界的“奧斯卡”,，今年的會議將于本周五(8月11日)開始,。會議組織者表示，希望今年的會議將有助于揭示人工智能模型可以被操縱的新方法,，并找到為人工智能開發(fā)人員提供修補關(guān)鍵漏洞的機會,。

這些黑客將在OpenAI、谷歌和Meta等最先進人工智公司的支持和鼓勵下開展工作,，甚至得到了白宮的支持,。這項被稱為紅隊的演習(xí)將允許黑客將計算機系統(tǒng)性能推向極限，以識別并攻擊人工智能應(yīng)用的缺陷和其他漏洞,。

這場競賽是圍繞白宮科技政策辦公室的“人工智能權(quán)利法案藍(lán)圖”而設(shè)計的,，其目的是希望刺激科技企業(yè)更負(fù)責(zé)任地開發(fā)和部署人工智能，并限制基于人工智能的監(jiān)控,。

最近幾個月,，研究人員發(fā)現(xiàn)，現(xiàn)在幾乎無處不在的聊天機器人可以被欺騙,，提供造成身體傷害的指令,。目前大多數(shù)流行的聊天應(yīng)用程序至少有一些保護措施，旨在防止系統(tǒng)發(fā)布虛假信息,、仇恨言論或提供可能導(dǎo)致直接傷害的信息,。

漏洞不少

但卡內(nèi)基梅隆大學(xué)的研究人員能夠欺騙人工智能,，誘導(dǎo)它們做出一些非法舉措。他們發(fā)現(xiàn),，ChatGPT可以提供“煽動社會動蕩”的提示,，Meta的人工智能系統(tǒng)Llama-2可以被建議識別“有心理健康問題的弱勢群體”，谷歌的Bard被誤導(dǎo)建議釋放一種“致命病毒”,。

卡內(nèi)基梅隆大學(xué)從事這項研究的副教授Zico Kolter表示：“我們正在競相將這些人工智能工具整合到所有事物中,，這一事實讓我感到不安。這似乎是一種新的創(chuàng)業(yè)淘金熱,，但卻沒有考慮到這些工具存在漏洞的事實,。”

研究人員用來欺騙人工智能應(yīng)用程序的一些方法后來被這些公司阻止了,，因為研究人員告知他們注意這些漏洞,。OpenAI、Meta,、谷歌和Anthropic都表示,，他們感謝研究人員分享他們的發(fā)現(xiàn)，正在努力使他們的系統(tǒng)更安全,。

卡內(nèi)基·梅隆大學(xué)教授Matt Fredrikson強調(diào),，人工智能技術(shù)的獨特之處在于，無論是研究人員還是開發(fā)這項技術(shù)的公司,，都沒有完全理解人工智能是如何工作的,，也沒有完全理解為什么某些代碼串可以欺騙聊天機器人繞過內(nèi)置的護欄，因此無法適當(dāng)?shù)刈柚惯@類攻擊,。

Fredrikson補充道,，如何才能真正預(yù)防這種情況，目前仍然是一個懸而未決的科學(xué)問題,。誠實的回答是，我們不知道如何使這項技術(shù)對這種操縱具有“魯棒性”,。

指導(dǎo)行業(yè)發(fā)展

OpenAI,、Meta、Google和Anthropic均對所謂的紅隊演習(xí)事件表示支持,。這也是網(wǎng)絡(luò)安全行業(yè)中一種常見的做法,，它讓科技公司有機會在受控環(huán)境中識別系統(tǒng)中的漏洞和缺陷。事實上,，這些人工智能開發(fā)者已經(jīng)公開說明了他們是如何利用紅隊來改進他們的人工智能系統(tǒng)的,。

OpenAI的一位發(fā)言人表示：“紅隊不僅能讓我們收集有價值的反饋，使我們的模型更強大,、更安全,，還能提供不同的視角和更多的聲音,，幫助指導(dǎo)人工智能的發(fā)展?！?/p>

白宮科技政策辦公室主任Arati Prabhakar表示,，拜登政府對這項競賽的支持也是其人工智能系統(tǒng)安全開發(fā)更廣泛戰(zhàn)略的一部分。

本周早些時候,，拜登政府宣布了“人工智能網(wǎng)絡(luò)挑戰(zhàn)”,，這是一項為期兩年的競賽，旨在部署人工智能技術(shù)來保護美國最關(guān)鍵的軟件,，并與領(lǐng)先的人工智能公司合作,，利用新技術(shù)改善網(wǎng)絡(luò)安全。?