來(lái)源：財(cái)聯(lián)社

作者：牛占林

圖片來(lái)源：由無(wú)界 AI生成

據(jù)日經(jīng)新聞最新報(bào)道，日本政府正在考慮明年成立一個(gè)組織,，探討人工智能(AI)安全方面的問(wèn)題,，包括民用AI技術(shù)被轉(zhuǎn)用于軍事目的的風(fēng)險(xiǎn),，旨在在不妨礙研發(fā)的情況下，提高其安全性,。

據(jù)悉,，預(yù)計(jì)最早將在本月舉行的人工智能戰(zhàn)略委員會(huì)會(huì)議上正式宣布這一計(jì)劃，該委員會(huì)負(fù)責(zé)討論與AI相關(guān)的國(guó)家戰(zhàn)略,，成員包括在AI領(lǐng)域有經(jīng)驗(yàn)的私營(yíng)部門(mén)專業(yè)人員,。

關(guān)注的重點(diǎn)將是最先進(jìn)的那一批產(chǎn)品，如OpenAI的ChatGPT,。為了避免干擾私營(yíng)部門(mén),，企業(yè)用于提高運(yùn)營(yíng)效率的標(biāo)準(zhǔn)AI技術(shù)將不會(huì)成為日本政府的目標(biāo)。

AI產(chǎn)品將在進(jìn)入市場(chǎng)之前需要進(jìn)行一系列測(cè)試,，還有一項(xiàng)提案要求日本政府采購(gòu)的任何AI產(chǎn)品在使用前都要經(jīng)過(guò)專業(yè)機(jī)構(gòu)的認(rèn)證,。

上述新成立組織計(jì)劃研究潛在的國(guó)家安全風(fēng)險(xiǎn)，例如通過(guò)AI獲取制造生物,、化學(xué)或其他武器的信息的可能性,，還將檢查安全漏洞，包括對(duì)網(wǎng)絡(luò)的攻擊,。

另外,，還將調(diào)查AI變得不受控制的風(fēng)險(xiǎn)，以及與錯(cuò)誤信息和偏見(jiàn)有關(guān)的問(wèn)題,。AI控制的社交媒體賬號(hào),，能在網(wǎng)絡(luò)上自動(dòng)生成內(nèi)容并與人類用戶互動(dòng),，操縱公眾輿論或煽動(dòng)情緒。

目前來(lái)看,，隨著信息技術(shù)的發(fā)展,，AI技術(shù)大量運(yùn)用于軍事領(lǐng)域已經(jīng)成為現(xiàn)實(shí)，使用AI收集和分析戰(zhàn)場(chǎng)數(shù)據(jù)等一系列AI操作,，在作戰(zhàn)系統(tǒng)中已被廣泛應(yīng)用,。而民用AI技術(shù)被轉(zhuǎn)用于軍事目的，幾乎是不可避免的問(wèn)題,。

雖然可能會(huì)成立一個(gè)全新的機(jī)構(gòu),，但最有可能的結(jié)果是將一個(gè)新的部門(mén)并入現(xiàn)有的組織,。候選機(jī)構(gòu)包括總務(wù)省下屬的研究AI技術(shù)的國(guó)家信息和通信技術(shù)研究所,，以及經(jīng)濟(jì)產(chǎn)業(yè)省下屬的信息技術(shù)促進(jìn)機(jī)構(gòu)。

在本月初,，七國(guó)集團(tuán)(G7)就AI國(guó)際規(guī)則框架達(dá)成了最終協(xié)議,。這將成為首份對(duì)開(kāi)發(fā)人員及用戶，規(guī)定AI“所有相關(guān)人員”應(yīng)遵守職責(zé)的全面國(guó)際規(guī)則,。

G7力爭(zhēng)通過(guò)率先展現(xiàn)為防止AI濫用而合作姿態(tài)的形式,，獲得G7以外國(guó)家和企業(yè)的贊同。日本政府將把此次協(xié)議用于面向國(guó)內(nèi)的指導(dǎo)方針制定,，即AI開(kāi)發(fā)商在向市場(chǎng)推出產(chǎn)品之前,，需要接受第三方的風(fēng)險(xiǎn)評(píng)估。

英國(guó)和美國(guó)在創(chuàng)建人工智能機(jī)構(gòu)方面也處于領(lǐng)先地位,。11月份,，英國(guó)成立了全球首個(gè)AI安全研究所。在對(duì)尖端AI產(chǎn)品上市前后進(jìn)行驗(yàn)證后,，考慮公開(kāi)其中存在安全風(fēng)險(xiǎn)的產(chǎn)品,。

美國(guó)根據(jù)今年10月拜登總統(tǒng)的行政命令，正在以美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院為主導(dǎo),，制定AI安全評(píng)價(jià)方法,。旨在與私營(yíng)公司共同創(chuàng)建一個(gè)AI安全聯(lián)盟，以制定評(píng)估AI能力和風(fēng)險(xiǎn)的方法,，并希望私營(yíng)公司自行進(jìn)行風(fēng)險(xiǎn)驗(yàn)證,。