財(cái)聯(lián)社12月19日訊（編輯 夏軍雄）當(dāng)?shù)貢r(shí)間周一（12月18日）,，人工智能（AI）研究公司OpenAI公布了一套關(guān)于防范AI風(fēng)險(xiǎn)的指導(dǎo)方針,，其中值得關(guān)注的一條規(guī)則是,，即使CEO等公司領(lǐng)導(dǎo)層認(rèn)為AI模型是安全的，董事會(huì)也可以阻止其發(fā)布,。
OpenAI開發(fā)的聊天機(jī)器人ChatGPT已經(jīng)發(fā)布了一整年，這款現(xiàn)象級(jí)應(yīng)用極大促進(jìn)了AI領(lǐng)域的發(fā)展,，與之而來(lái)的還有對(duì)AI發(fā)展失控的擔(dān)憂,。
全球監(jiān)管機(jī)構(gòu)都在制定各自的AI法規(guī)，而作為AI領(lǐng)域領(lǐng)頭羊的OpenAI也在采取行動(dòng),。
今年10月27日,，OpenAI宣布組建名為“準(zhǔn)備”（Preparedness）的安全團(tuán)隊(duì)，旨在最大限度地降低AI帶來(lái)的風(fēng)險(xiǎn),。
Preparedness團(tuán)隊(duì)由麻省理工學(xué)院的可部署機(jī)器學(xué)習(xí)中心主任Aleksander Madry領(lǐng)導(dǎo),，該團(tuán)隊(duì)將針對(duì)各類AI模型進(jìn)行能力評(píng)估及紅隊(duì)測(cè)試，以追蹤,、預(yù)測(cè)及防范各類別的災(zāi)難性風(fēng)險(xiǎn),。
OpenAI周一發(fā)布了名為“準(zhǔn)備框架”（Preparedness Framework）的指導(dǎo)方針，并強(qiáng)調(diào)這套指南仍處于測(cè)試階段,。
據(jù)悉,，Preparedness團(tuán)隊(duì)每月將向一個(gè)新的內(nèi)部安全咨詢小組發(fā)送報(bào)告，該小組隨后將對(duì)其進(jìn)行分析,，并向OpenAI首席執(zhí)行官薩姆·奧爾特曼和董事會(huì)提交建議,。奧爾特曼和公司高層可以根據(jù)這些報(bào)告決定是否發(fā)布新的AI系統(tǒng)，但董事會(huì)有權(quán)撤銷這一決定,。
作為OpenAI聯(lián)合創(chuàng)始人之一,，奧爾特曼在不久前還是公司董事會(huì)成員，但在一場(chǎng)人事巨震中被除名,，并且一度離開OpenAI,。雖然奧爾特曼最終得以重返OpenAI并繼續(xù)擔(dān)任CEO一職，但新組建的“初始”董事會(huì)并沒有他的席位,。
Preparedness團(tuán)隊(duì)將反復(fù)評(píng)估OpenAI最先進(jìn),、尚未發(fā)布的AI模型，根據(jù)不同類型的感知風(fēng)險(xiǎn)評(píng)為四個(gè)等級(jí)，從低到高依次是“低”,、“中”,、“高”和“嚴(yán)重”。根據(jù)新的指導(dǎo)方針,，OpenAI將只推出評(píng)級(jí)為“低”和“中”的模型,。
免責(zé)聲明：本文來(lái)自網(wǎng)絡(luò)收錄或投稿，觀點(diǎn)僅代表作者本人,，不代表芒果財(cái)經(jīng)贊同其觀點(diǎn)或證實(shí)其描述,，版權(quán)歸原作者所有。轉(zhuǎn)載請(qǐng)注明出處：http://lequren.com/1083828.html
溫馨提示：投資有風(fēng)險(xiǎn),，入市須謹(jǐn)慎,。本資訊不作為投資理財(cái)建議。
