來源：財聯(lián)社
作者：牛占林
圖片來源：由無界 AI生成
據(jù)日經(jīng)新聞最新報道,，日本政府正在考慮明年成立一個組織,，探討人工智能(AI)安全方面的問題,，包括民用AI技術(shù)被轉(zhuǎn)用于軍事目的的風險，旨在在不妨礙研發(fā)的情況下，提高其安全性,。
據(jù)悉,，預計最早將在本月舉行的人工智能戰(zhàn)略委員會會議上正式宣布這一計劃，該委員會負責討論與AI相關(guān)的國家戰(zhàn)略,，成員包括在AI領域有經(jīng)驗的私營部門專業(yè)人員,。
關(guān)注的重點將是最先進的那一批產(chǎn)品，如OpenAI的ChatGPT,。為了避免干擾私營部門,，企業(yè)用于提高運營效率的標準AI技術(shù)將不會成為日本政府的目標。
AI產(chǎn)品將在進入市場之前需要進行一系列測試,，還有一項提案要求日本政府采購的任何AI產(chǎn)品在使用前都要經(jīng)過專業(yè)機構(gòu)的認證,。
上述新成立組織計劃研究潛在的國家安全風險，例如通過AI獲取制造生物,、化學或其他武器的信息的可能性,，還將檢查安全漏洞，包括對網(wǎng)絡的攻擊,。
另外,，還將調(diào)查AI變得不受控制的風險，以及與錯誤信息和偏見有關(guān)的問題,。AI控制的社交媒體賬號,，能在網(wǎng)絡上自動生成內(nèi)容并與人類用戶互動，操縱公眾輿論或煽動情緒,。
目前來看,，隨著信息技術(shù)的發(fā)展，AI技術(shù)大量運用于軍事領域已經(jīng)成為現(xiàn)實,，使用AI收集和分析戰(zhàn)場數(shù)據(jù)等一系列AI操作,，在作戰(zhàn)系統(tǒng)中已被廣泛應用。而民用AI技術(shù)被轉(zhuǎn)用于軍事目的,，幾乎是不可避免的問題,。
雖然可能會成立一個全新的機構(gòu)，但最有可能的結(jié)果是將一個新的部門并入現(xiàn)有的組織,。候選機構(gòu)包括總務省下屬的研究AI技術(shù)的國家信息和通信技術(shù)研究所,，以及經(jīng)濟產(chǎn)業(yè)省下屬的信息技術(shù)促進機構(gòu)。
在本月初,，七國集團(G7)就AI國際規(guī)則框架達成了最終協(xié)議,。這將成為首份對開發(fā)人員及用戶，規(guī)定AI“所有相關(guān)人員”應遵守職責的全面國際規(guī)則,。
G7力爭通過率先展現(xiàn)為防止AI濫用而合作姿態(tài)的形式,，獲得G7以外國家和企業(yè)的贊同,。日本政府將把此次協(xié)議用于面向國內(nèi)的指導方針制定，即AI開發(fā)商在向市場推出產(chǎn)品之前,，需要接受第三方的風險評估,。
英國和美國在創(chuàng)建人工智能機構(gòu)方面也處于領先地位。11月份,，英國成立了全球首個AI安全研究所,。在對尖端AI產(chǎn)品上市前后進行驗證后，考慮公開其中存在安全風險的產(chǎn)品,。
美國根據(jù)今年10月拜登總統(tǒng)的行政命令,，正在以美國國家標準與技術(shù)研究院為主導，制定AI安全評價方法,。旨在與私營公司共同創(chuàng)建一個AI安全聯(lián)盟,，以制定評估AI能力和風險的方法，并希望私營公司自行進行風險驗證,。
免責聲明：本文來自網(wǎng)絡收錄或投稿,，觀點僅代表作者本人，不代表芒果財經(jīng)贊同其觀點或證實其描述,，版權(quán)歸原作者所有。轉(zhuǎn)載請注明出處：http://lequren.com/1083523.html
溫馨提示：投資有風險,，入市須謹慎,。本資訊不作為投資理財建議。
