來源：至頂網(wǎng)
一群著名科技公司的高管將加入人工智能安全保障委員會(huì)（Artificial Intelligence Safety and Security Board）,，該委員會(huì)的任務(wù)是就人工智能在關(guān)鍵基礎(chǔ)設(shè)施中的應(yīng)用向聯(lián)邦政府提供建議,。
《華爾街日?qǐng)?bào)》今天報(bào)道了這一舉措。據(jù)該報(bào)報(bào)道,，該委員會(huì)不僅包括科技行業(yè)的代表,，還包括學(xué)者、民權(quán)領(lǐng)袖和幾家關(guān)鍵基礎(chǔ)設(shè)施公司的首席執(zhí)行官,。人工智能安全保障委員會(huì)總共將有近二十多名成員,。
微軟首席執(zhí)行官Satya Nadella、英偉達(dá)首席執(zhí)行官黃仁勛和OpenAI的San Altman均將參與其中,。來自AMD,、亞馬遜網(wǎng)絡(luò)服務(wù)公司、Anthropic PBC,、思科,、谷歌和IBM的同行也參與其中
美國國土安全部部長Alejandro Mayorkas將領(lǐng)導(dǎo)該小組,。據(jù)《華爾街日?qǐng)?bào)》報(bào)道，人工智能安全保障委員會(huì)將就如何在關(guān)鍵基礎(chǔ)設(shè)施中安全應(yīng)用人工智能向國土安全部提供建議,。小組成員將從5月開始每三個(gè)月召開一次會(huì)議,。
除了向聯(lián)邦政府提供建議外，該委員會(huì)還將為關(guān)鍵基礎(chǔ)設(shè)施組織提出人工智能建議,。這項(xiàng)工作將重點(diǎn)關(guān)注電網(wǎng)運(yùn)營商,、制造商和運(yùn)輸服務(wù)提供商等公司。據(jù)報(bào)道,，該委員會(huì)的建議將集中在兩個(gè)主要議題上：在關(guān)鍵基礎(chǔ)設(shè)施中應(yīng)用人工智能的方法和該技術(shù)帶來的潛在風(fēng)險(xiǎn),。
多家網(wǎng)絡(luò)安全公司已經(jīng)觀察到利用生成式人工智能的黑客攻擊活動(dòng)。在一些活動(dòng)中,，黑客利用大型語言模型生成網(wǎng)絡(luò)釣魚電子郵件,。在另一些案例中，人工智能被用來支持惡意軟件的開發(fā),。
人工智能安全保障委員會(huì)是依據(jù)拜登總統(tǒng)去年簽署的人工智能行政命令成立的,。該行政令還呼吁聯(lián)邦政府采取其他一些措施來應(yīng)對(duì)該技術(shù)的風(fēng)險(xiǎn)。商務(wù)部將制定人工智能生成內(nèi)容識(shí)別指南,，而國家標(biāo)準(zhǔn)與技術(shù)研究院正在制定人工智能安全標(biāo)準(zhǔn),。
該行政令還對(duì)私營公司提出了新要求。特別是要求開發(fā)先進(jìn)人工智能的科技公司現(xiàn)在必須與政府共享有關(guān)新模型安全性的數(shù)據(jù),。這些數(shù)據(jù)包括所謂的紅隊(duì)測(cè)試結(jié)果,，即通過模擬惡意提示對(duì)神經(jīng)網(wǎng)絡(luò)安全性的評(píng)估。
人工智能生態(tài)系統(tǒng)中最大的幾家公司已將算法安全作為其研究工作的重點(diǎn),。例如,，OpenAI在12 月透露,，它正在開發(fā)一種自動(dòng)化方法,，以應(yīng)對(duì)高級(jí)神經(jīng)網(wǎng)絡(luò)帶來的風(fēng)險(xiǎn)。該方法使用第二個(gè)能力較弱的神經(jīng)網(wǎng)絡(luò)來監(jiān)督高級(jí)人工智能模型的輸出,。
免責(zé)聲明：本文來自網(wǎng)絡(luò)收錄或投稿,，觀點(diǎn)僅代表作者本人，不代表芒果財(cái)經(jīng)贊同其觀點(diǎn)或證實(shí)其描述,，版權(quán)歸原作者所有,。轉(zhuǎn)載請(qǐng)注明出處：http://lequren.com/1100517.html
溫馨提示：投資有風(fēng)險(xiǎn)，入市須謹(jǐn)慎,。本資訊不作為投資理財(cái)建議,。
