財(cái)聯(lián)社6月5日訊（編輯 馬蘭）人工智能行業(yè)發(fā)展迅速,，但技術(shù)發(fā)展與秩序重新規(guī)劃的速度不匹配，持續(xù)引發(fā)人們對(duì)于該行業(yè)的安全擔(dān)憂,，就連深度參與人工智能研發(fā)的工程師們也站出來(lái)公開警告,。
13名來(lái)自O(shè)penAI、谷歌DeepMind和甲骨文的前員工和現(xiàn)員工在一封公開信中表示,，人工智能行業(yè)缺乏安全監(jiān)督,，且該行業(yè)對(duì)舉報(bào)人的保護(hù)并不充分。
信中指出,，人工智能公司掌握著大量非公開信息,，包括其系統(tǒng)的能力和局限性、保護(hù)措施的充分性以及不同類型傷害的風(fēng)險(xiǎn)水平,。然而,，公司目前只有很弱的義務(wù)向政府分享部分信息,，而對(duì)民間社會(huì)則沒有任何義務(wù)。
這些內(nèi)部人士認(rèn)為,，人們不能指望人工智能企業(yè)會(huì)自愿分享這些信息,。
內(nèi)部發(fā)聲渠道被阻斷
公開信中寫道，由于廣泛的保密協(xié)議,，內(nèi)部員工被阻止表達(dá)自己的擔(dān)憂,。他們希望先進(jìn)的人工智能公司可以承諾遵守幾項(xiàng)原則,，包括不對(duì)批評(píng)公司的員工進(jìn)行報(bào)復(fù)等。
公開信強(qiáng)調(diào),，普通的保護(hù)舉報(bào)人措施對(duì)人工智能行業(yè)來(lái)說(shuō)是不夠的,，因?yàn)橐话愦胧┦怯糜诒Ｗo(hù)舉報(bào)非法活動(dòng)的內(nèi)部人士,，但人工智能行業(yè)的舉報(bào)人更多是公開指出許多未受到監(jiān)管的風(fēng)險(xiǎn),。
OpenAI則在一份聲明中為自己的做法進(jìn)行了辯護(hù)，稱公司有舉報(bào)熱線等渠道來(lái)報(bào)告公司內(nèi)部問題,，并且在采取保障措施之前不會(huì)發(fā)布新技術(shù),。谷歌則沒有立即回應(yīng)置評(píng)請(qǐng)求。
然而,，這封信出現(xiàn)的時(shí)間點(diǎn)頗為微妙,。OpenAI上月剛剛有兩名高級(jí)員工離職——聯(lián)合創(chuàng)始人兼首席技術(shù)官Ilya Sutskever和關(guān)鍵安全研究員Jan Leike。Leike在辭職后還直言不諱地批評(píng)OpenAI已經(jīng)放棄了安全文化,，轉(zhuǎn)向商業(yè)利潤(rùn),。
此外，OpenAI等公司也確實(shí)存在較為激進(jìn)的策略,，來(lái)阻止員工自由發(fā)聲,。據(jù)報(bào)道，OpenAI要求離職員工簽署極其嚴(yán)格的保密文件,，否則就將失去所有既得股權(quán),。OpenAI首席執(zhí)行官奧爾特曼在該報(bào)道后發(fā)布道歉聲明，并聲稱將改革公司離職程序,。
免責(zé)聲明：本文來(lái)自網(wǎng)絡(luò)收錄或投稿，觀點(diǎn)僅代表作者本人,，不代表芒果財(cái)經(jīng)贊同其觀點(diǎn)或證實(shí)其描述,，版權(quán)歸原作者所有。轉(zhuǎn)載請(qǐng)注明出處：http://lequren.com/1106207.html
溫馨提示：投資有風(fēng)險(xiǎn),，入市須謹(jǐn)慎,。本資訊不作為投資理財(cái)建議,。
