財(cái)聯(lián)社8月10日訊（編輯 牛占林）本周末，數(shù)千名黑客將齊聚美國賭城拉斯維加斯,，共同參加一場針對包括ChatGPT在內(nèi)的人工智能(AI)聊天應(yīng)用的“圍剿戰(zhàn)爭”,。

這場“爭斗”發(fā)生之際,，人們對人工智能技術(shù)的擔(dān)憂和審查日益加劇,。隨著時(shí)間的流逝，這種新興技術(shù)正在席卷全球,，但也一再被證明其會放大偏見,、傳播錯(cuò)誤信息和危險(xiǎn)材料。

一年一度的DEFCON極客大會是全球頂級的安全會議,，也被稱為極客界的“奧斯卡”,，今年的會議將于本周五(8月11日)開始。會議組織者表示,，希望今年的會議將有助于揭示人工智能模型可以被操縱的新方法,，并找到為人工智能開發(fā)人員提供修補(bǔ)關(guān)鍵漏洞的機(jī)會。

這些黑客將在OpenAI,、谷歌和Meta等最先進(jìn)人工智公司的支持和鼓勵(lì)下開展工作,，甚至得到了白宮的支持。這項(xiàng)被稱為紅隊(duì)的演習(xí)將允許黑客將計(jì)算機(jī)系統(tǒng)性能推向極限,，以識別并攻擊人工智能應(yīng)用的缺陷和其他漏洞,。

這場競賽是圍繞白宮科技政策辦公室的“人工智能權(quán)利法案藍(lán)圖”而設(shè)計(jì)的,，其目的是希望刺激科技企業(yè)更負(fù)責(zé)任地開發(fā)和部署人工智能,，并限制基于人工智能的監(jiān)控。

最近幾個(gè)月,，研究人員發(fā)現(xiàn),，現(xiàn)在幾乎無處不在的聊天機(jī)器人可以被欺騙，提供造成身體傷害的指令,。目前大多數(shù)流行的聊天應(yīng)用程序至少有一些保護(hù)措施,，旨在防止系統(tǒng)發(fā)布虛假信息,、仇恨言論或提供可能導(dǎo)致直接傷害的信息。

漏洞不少

但卡內(nèi)基梅隆大學(xué)的研究人員能夠欺騙人工智能,，誘導(dǎo)它們做出一些非法舉措,。他們發(fā)現(xiàn)，ChatGPT可以提供“煽動社會動蕩”的提示,，Meta的人工智能系統(tǒng)Llama-2可以被建議識別“有心理健康問題的弱勢群體”,，谷歌的Bard被誤導(dǎo)建議釋放一種“致命病毒”。

卡內(nèi)基梅隆大學(xué)從事這項(xiàng)研究的副教授Zico Kolter表示：“我們正在競相將這些人工智能工具整合到所有事物中,，這一事實(shí)讓我感到不安,。這似乎是一種新的創(chuàng)業(yè)淘金熱，但卻沒有考慮到這些工具存在漏洞的事實(shí),?！?/p>

研究人員用來欺騙人工智能應(yīng)用程序的一些方法后來被這些公司阻止了，因?yàn)檠芯咳藛T告知他們注意這些漏洞,。OpenAI,、Meta、谷歌和Anthropic都表示,，他們感謝研究人員分享他們的發(fā)現(xiàn),，正在努力使他們的系統(tǒng)更安全。

卡內(nèi)基·梅隆大學(xué)教授Matt Fredrikson強(qiáng)調(diào),，人工智能技術(shù)的獨(dú)特之處在于,，無論是研究人員還是開發(fā)這項(xiàng)技術(shù)的公司，都沒有完全理解人工智能是如何工作的,，也沒有完全理解為什么某些代碼串可以欺騙聊天機(jī)器人繞過內(nèi)置的護(hù)欄,，因此無法適當(dāng)?shù)刈柚惯@類攻擊。

Fredrikson補(bǔ)充道,，如何才能真正預(yù)防這種情況,，目前仍然是一個(gè)懸而未決的科學(xué)問題。誠實(shí)的回答是,，我們不知道如何使這項(xiàng)技術(shù)對這種操縱具有“魯棒性”,。

指導(dǎo)行業(yè)發(fā)展

OpenAI、Meta,、Google和Anthropic均對所謂的紅隊(duì)演習(xí)事件表示支持,。這也是網(wǎng)絡(luò)安全行業(yè)中一種常見的做法，它讓科技公司有機(jī)會在受控環(huán)境中識別系統(tǒng)中的漏洞和缺陷,。事實(shí)上,，這些人工智能開發(fā)者已經(jīng)公開說明了他們是如何利用紅隊(duì)來改進(jìn)他們的人工智能系統(tǒng)的。

OpenAI的一位發(fā)言人表示：“紅隊(duì)不僅能讓我們收集有價(jià)值的反饋,，使我們的模型更強(qiáng)大,、更安全,，還能提供不同的視角和更多的聲音，幫助指導(dǎo)人工智能的發(fā)展,?！?/p>

白宮科技政策辦公室主任Arati Prabhakar表示，拜登政府對這項(xiàng)競賽的支持也是其人工智能系統(tǒng)安全開發(fā)更廣泛戰(zhàn)略的一部分,。

本周早些時(shí)候,，拜登政府宣布了“人工智能網(wǎng)絡(luò)挑戰(zhàn)”，這是一項(xiàng)為期兩年的競賽,，旨在部署人工智能技術(shù)來保護(hù)美國最關(guān)鍵的軟件,，并與領(lǐng)先的人工智能公司合作，利用新技術(shù)改善網(wǎng)絡(luò)安全,。?