文 | Britney Nguyen

包括美國(guó)在內(nèi)的18個(gè)國(guó)家昨天發(fā)表了一項(xiàng)國(guó)際協(xié)議,，重點(diǎn)是確保人工智能在開發(fā)和部署過程中的安全,，并呼吁創(chuàng)建和使用人工智能系統(tǒng)的AI公司在”設(shè)計(jì)上確保其安全”,，以防止不法分子的侵害,。這是解決人工智能開發(fā)和安全問題的最新一項(xiàng)政府間倡議。

關(guān)鍵事實(shí)

這份人工智能安全指南由美國(guó)國(guó)土安全部網(wǎng)絡(luò)安全和基礎(chǔ)設(shè)施安全局和英國(guó)國(guó)家網(wǎng)絡(luò)安全中心聯(lián)合發(fā)布,。

這份20頁(yè)的不具約束力的協(xié)議稱，人工智能公司需要保護(hù)客戶和公眾的安全,，使他們?cè)陂_發(fā),、部署和維護(hù)人工智能系統(tǒng)的過程中免受濫用危害。

該協(xié)議包括關(guān)于保持人工智能系統(tǒng)安全的建議,，例如監(jiān)控濫用,、保護(hù)數(shù)據(jù)不受黑客攻擊、確保軟件供應(yīng)商合法以及建議公司在安全測(cè)試后發(fā)布模型,。

該指南還概述了在設(shè)計(jì),、開發(fā)、部署和維護(hù)階段保護(hù)人工智能系統(tǒng)的步驟,。

德國(guó),、意大利、挪威,、澳大利亞,、智利、尼日利亞和新加坡都是該協(xié)議的成員國(guó),。

谷歌,、微軟和 OpenAI 等組織為制定該指南做出了貢獻(xiàn)。

重要言論

美國(guó)網(wǎng)絡(luò)安全和基礎(chǔ)設(shè)施安全局局長(zhǎng)Jen Easterly對(duì)路透社表示:“這是我們第一次看到對(duì)（AI）這個(gè)方面的肯定和承認(rèn),，即這些技術(shù)不應(yīng)該僅僅是很酷的功能,，關(guān)于它們的討論也不應(yīng)該僅僅是我們能多快把它們推向市場(chǎng)，或者我們能如何通過競(jìng)爭(zhēng)降低成本,?！?/p>

關(guān)鍵背景

今年10月，拜登總統(tǒng)發(fā)布了一項(xiàng)內(nèi)容廣泛的行政令，重點(diǎn)是防范“人工智能的潛在風(fēng)險(xiǎn)”,，并鼓勵(lì)政府機(jī)構(gòu)和科技行業(yè)解決與人工智能開發(fā)相關(guān)的隱私,、信任和安全問題。該行政令還規(guī)定,，根據(jù)冷戰(zhàn)時(shí)期的《國(guó)防生產(chǎn)法》,，開發(fā)可能威脅國(guó)家安全、經(jīng)濟(jì)或公共健康的人工智能系統(tǒng)的人工智能公司必須與美國(guó)政府共享安全測(cè)試結(jié)果和其他相關(guān)信息,。據(jù)路透社報(bào)道,，本月早些時(shí)候，德國(guó),、法國(guó)和意大利加入了一項(xiàng)關(guān)于監(jiān)管人工智能的協(xié)議,，稱他們支持人工智能模型”通過行為準(zhǔn)則進(jìn)行強(qiáng)制性自我管理”。歐洲立法者在起草與人工智能開發(fā)和安全相關(guān)的立法方面領(lǐng)先于美國(guó),，包括面部識(shí)別和生物識(shí)別監(jiān)控的規(guī)則,，但歐盟在最終確定其人工智能法案時(shí)也遇到了挫折。

譯自https://www.forbes.com/sites/britneynguyen/2023/11/27/us-joins-17-other-countries-in-agreement-to-keep-ai-safe/?sh=7991a7d97dc2