來源：至頂網(wǎng)
一群著名科技公司的高管將加入人工智能安全保障委員會（Artificial Intelligence Safety and Security Board），該委員會的任務(wù)是就人工智能在關(guān)鍵基礎(chǔ)設(shè)施中的應(yīng)用向聯(lián)邦政府提供建議。
《華爾街日報(bào)》今天報(bào)道了這一舉措,。據(jù)該報(bào)報(bào)道,，該委員會不僅包括科技行業(yè)的代表,，還包括學(xué)者、民權(quán)領(lǐng)袖和幾家關(guān)鍵基礎(chǔ)設(shè)施公司的首席執(zhí)行官,。人工智能安全保障委員會總共將有近二十多名成員,。
微軟首席執(zhí)行官Satya Nadella、英偉達(dá)首席執(zhí)行官黃仁勛和OpenAI的San Altman均將參與其中,。來自AMD,、亞馬遜網(wǎng)絡(luò)服務(wù)公司、Anthropic PBC,、思科,、谷歌和IBM的同行也參與其中
美國國土安全部部長Alejandro Mayorkas將領(lǐng)導(dǎo)該小組。據(jù)《華爾街日報(bào)》報(bào)道,，人工智能安全保障委員會將就如何在關(guān)鍵基礎(chǔ)設(shè)施中安全應(yīng)用人工智能向國土安全部提供建議,。小組成員將從5月開始每三個月召開一次會議。
除了向聯(lián)邦政府提供建議外,，該委員會還將為關(guān)鍵基礎(chǔ)設(shè)施組織提出人工智能建議,。這項(xiàng)工作將重點(diǎn)關(guān)注電網(wǎng)運(yùn)營商、制造商和運(yùn)輸服務(wù)提供商等公司,。據(jù)報(bào)道,，該委員會的建議將集中在兩個主要議題上：在關(guān)鍵基礎(chǔ)設(shè)施中應(yīng)用人工智能的方法和該技術(shù)帶來的潛在風(fēng)險。
多家網(wǎng)絡(luò)安全公司已經(jīng)觀察到利用生成式人工智能的黑客攻擊活動,。在一些活動中,，黑客利用大型語言模型生成網(wǎng)絡(luò)釣魚電子郵件。在另一些案例中,，人工智能被用來支持惡意軟件的開發(fā),。
人工智能安全保障委員會是依據(jù)拜登總統(tǒng)去年簽署的人工智能行政命令成立的。該行政令還呼吁聯(lián)邦政府采取其他一些措施來應(yīng)對該技術(shù)的風(fēng)險,。商務(wù)部將制定人工智能生成內(nèi)容識別指南,，而國家標(biāo)準(zhǔn)與技術(shù)研究院正在制定人工智能安全標(biāo)準(zhǔn)。
該行政令還對私營公司提出了新要求,。特別是要求開發(fā)先進(jìn)人工智能的科技公司現(xiàn)在必須與政府共享有關(guān)新模型安全性的數(shù)據(jù)。這些數(shù)據(jù)包括所謂的紅隊(duì)測試結(jié)果,，即通過模擬惡意提示對神經(jīng)網(wǎng)絡(luò)安全性的評估,。
人工智能生態(tài)系統(tǒng)中最大的幾家公司已將算法安全作為其研究工作的重點(diǎn)。例如,，OpenAI在12 月透露,，它正在開發(fā)一種自動化方法，以應(yīng)對高級神經(jīng)網(wǎng)絡(luò)帶來的風(fēng)險,。該方法使用第二個能力較弱的神經(jīng)網(wǎng)絡(luò)來監(jiān)督高級人工智能模型的輸出,。
免責(zé)聲明：本文來自網(wǎng)絡(luò)收錄或投稿,，觀點(diǎn)僅代表作者本人，不代表芒果財(cái)經(jīng)贊同其觀點(diǎn)或證實(shí)其描述,，版權(quán)歸原作者所有,。轉(zhuǎn)載請注明出處：http://lequren.com/1100517.html
溫馨提示：投資有風(fēng)險，入市須謹(jǐn)慎,。本資訊不作為投資理財(cái)建議,。
