財(cái)聯(lián)社12月20日訊（編輯 劉蕊）在今年10月美國總統(tǒng)拜登簽署首個人工智能監(jiān)管行政命令后,，美東時間周二，拜登政府表示,，該政府正在邁出第一步,，為安全部署生成式人工智能以及如何測試和保護(hù)系統(tǒng)編寫關(guān)鍵標(biāo)準(zhǔn)和指導(dǎo)。
拜登政府邁出制定AI標(biāo)準(zhǔn)第一步
今年10月末,，美國總統(tǒng)拜登簽署了一項(xiàng)“具有里程碑意義的”行政命令,，推出白宮首個有關(guān)生成式人工智能的監(jiān)管規(guī)定。根據(jù)行政命令,，美國多個政府機(jī)構(gòu)需制定標(biāo)準(zhǔn),，防止人工智能造成化學(xué)、生物,、輻射,、核和網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。
美東時間周二,，美國商務(wù)部國家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）表示,，將在2月2日之前向人工智能企業(yè)和公眾征求意見，以進(jìn)行關(guān)鍵的AI測試，該測試對確保人工智能系統(tǒng)安全至關(guān)重要,。
NIST聲稱,，他們正在制定評估、測試人工智能的指導(dǎo)方針,，推進(jìn)制定人工智能行業(yè)標(biāo)準(zhǔn),，并為評估人工智能系統(tǒng)提供測試環(huán)境。
美國商務(wù)部長吉娜·雷蒙多（Gina Raimondo）表示,，NIST的最新舉措正是由拜登10月的行政命令所推動的,，旨在制定“圍繞人工智能安全、保障和信任的行業(yè)標(biāo)準(zhǔn),，使美國能夠繼續(xù)在負(fù)責(zé)任地開發(fā)和使用這一迅速發(fā)展的技術(shù)方面引領(lǐng)世界,。”
NIST正制定AI“紅隊(duì)”測試指南
NIST正在制定的測試指南中,，包括所謂的“紅隊(duì)”測試——NIST將考慮,，“紅隊(duì)”測試在哪些方面對人工智能風(fēng)險(xiǎn)評估和管理最有利，并為此制定最佳實(shí)踐,。
“紅隊(duì)”測試是網(wǎng)絡(luò)安全測試中的一項(xiàng)重要測試環(huán)節(jié),。它指的是由專家團(tuán)隊(duì)模擬真實(shí)世界的對手，以測試和增強(qiáng)系統(tǒng)的安全性,。
今年8月,，美國首次在一次重大網(wǎng)絡(luò)安全會議期間公開進(jìn)行人工智能“紅隊(duì)”測試活動。該活動主要由AI行業(yè)組織AI Village,、SeedAI,、Humane Intelligence等參與。
白宮表示,，在8月的活動中,，數(shù)千名參與者測試了他們是否“可以讓這些系統(tǒng)產(chǎn)生不良輸出，或讓這些系統(tǒng)以其他方式失敗,，目的是更好地了解這些系統(tǒng)所帶來的風(fēng)險(xiǎn)”,。該活動“展示了外部紅隊(duì)如何成為識別新型人工智能風(fēng)險(xiǎn)的有效工具”。
（財(cái)聯(lián)社 劉蕊）
免責(zé)聲明：本文來自網(wǎng)絡(luò)收錄或投稿,，觀點(diǎn)僅代表作者本人,，不代表芒果財(cái)經(jīng)贊同其觀點(diǎn)或證實(shí)其描述，版權(quán)歸原作者所有,。轉(zhuǎn)載請注明出處：http://lequren.com/1084128.html
溫馨提示：投資有風(fēng)險(xiǎn),，入市須謹(jǐn)慎。本資訊不作為投資理財(cái)建議,。
