財聯(lián)社12月19日訊（編輯 夏軍雄）當?shù)貢r間周一（12月18日）,，人工智能（AI）研究公司OpenAI公布了一套關(guān)于防范AI風險的指導方針,，其中值得關(guān)注的一條規(guī)則是，即使CEO等公司領(lǐng)導層認為AI模型是安全的,，董事會也可以阻止其發(fā)布,。
OpenAI開發(fā)的聊天機器人ChatGPT已經(jīng)發(fā)布了一整年，這款現(xiàn)象級應(yīng)用極大促進了AI領(lǐng)域的發(fā)展,，與之而來的還有對AI發(fā)展失控的擔憂,。
全球監(jiān)管機構(gòu)都在制定各自的AI法規(guī),，而作為AI領(lǐng)域領(lǐng)頭羊的OpenAI也在采取行動。
今年10月27日,，OpenAI宣布組建名為“準備”（Preparedness）的安全團隊,，旨在最大限度地降低AI帶來的風險。
Preparedness團隊由麻省理工學院的可部署機器學習中心主任Aleksander Madry領(lǐng)導,，該團隊將針對各類AI模型進行能力評估及紅隊測試,，以追蹤,、預測及防范各類別的災(zāi)難性風險,。
OpenAI周一發(fā)布了名為“準備框架”（Preparedness Framework）的指導方針，并強調(diào)這套指南仍處于測試階段,。
據(jù)悉,，Preparedness團隊每月將向一個新的內(nèi)部安全咨詢小組發(fā)送報告，該小組隨后將對其進行分析,，并向OpenAI首席執(zhí)行官薩姆·奧爾特曼和董事會提交建議,。奧爾特曼和公司高層可以根據(jù)這些報告決定是否發(fā)布新的AI系統(tǒng)，但董事會有權(quán)撤銷這一決定,。
作為OpenAI聯(lián)合創(chuàng)始人之一,，奧爾特曼在不久前還是公司董事會成員,，但在一場人事巨震中被除名，并且一度離開OpenAI,。雖然奧爾特曼最終得以重返OpenAI并繼續(xù)擔任CEO一職,，但新組建的“初始”董事會并沒有他的席位。
Preparedness團隊將反復評估OpenAI最先進,、尚未發(fā)布的AI模型,，根據(jù)不同類型的感知風險評為四個等級，從低到高依次是“低”,、“中”,、“高”和“嚴重”。根據(jù)新的指導方針,，OpenAI將只推出評級為“低”和“中”的模型,。
（財聯(lián)社 夏軍雄）
免責聲明：本文來自網(wǎng)絡(luò)收錄或投稿，觀點僅代表作者本人,，不代表芒果財經(jīng)贊同其觀點或證實其描述,，版權(quán)歸原作者所有。轉(zhuǎn)載請注明出處：http://lequren.com/1083906.html
溫馨提示：投資有風險,，入市須謹慎,。本資訊不作為投資理財建議。
