大模型發(fā)展如火如荼,，安全保障也需跟上。4月28日,，在2024中關(guān)村論壇年會(huì)平行論壇“行業(yè)大模型創(chuàng)新發(fā)展論壇”上，中國(guó)工程院院士沈昌祥提出，要用主動(dòng)免疫可信計(jì)算筑牢人工智能安全防線,，他直言：“大模型及生成式AI必須確保安全可信為前提,?！薄?span id="a6otyhj" class="wpcom_keyword_link">人工智能在賦能人類社會(huì)加快發(fā)展的同時(shí)，正逐漸衍生出可危及國(guó)家安全和人類安全的重大風(fēng)險(xiǎn),?！鄙虿楸硎荆辔恢茖W(xué)家警告人工智能發(fā)展將毀滅人類社會(huì),，并援引伊隆·馬斯克,、OpenAI CEO薩姆·奧爾特曼等全球范圍內(nèi)AI領(lǐng)域重要人物聯(lián)名公開(kāi)信觀點(diǎn)：“應(yīng)將緩解人工智能導(dǎo)致的滅絕風(fēng)險(xiǎn)，與其他社會(huì)規(guī)模風(fēng)險(xiǎn)（如大流行病和核戰(zhàn)爭(zhēng)）等視作等同,，作為全球優(yōu)先事項(xiàng),。”沈昌祥認(rèn)為,，機(jī)器人智能行為體一旦失控將危及人類安全,，只有在確保人工智能安全可信的前提下才能健康發(fā)展。何為“安全可信”,？沈昌祥表示,，安全可信意味著降低網(wǎng)絡(luò)空間脆弱性，用安全可信產(chǎn)品和服務(wù),，在計(jì)算同時(shí)并行進(jìn)行動(dòng)態(tài)的全方位整體防護(hù),，使得完成計(jì)算任務(wù)的邏輯組合不被篡改和破壞，達(dá)到預(yù)期的計(jì)算目標(biāo),，“這相當(dāng)于人體具有免疫力,，確保健康?！本唧w該如何構(gòu)建安全可信的人工智能,？沈昌祥認(rèn)為，應(yīng)從三個(gè)維度展開(kāi),。首先是人工智能業(yè)務(wù)信息安全可信,，即在物理環(huán)境信息數(shù)據(jù)處理,、算法模型規(guī)則及倫理以及軟件代碼和流程上實(shí)現(xiàn)安全可信。其次,，是計(jì)算處理服務(wù)資源安全可信,，比如傳感控制設(shè)備、通信網(wǎng)絡(luò),、計(jì)算能力（云）等方面實(shí)現(xiàn)安全可信,。最后是安全可信管理，比如系統(tǒng)資源配置應(yīng)滿足高強(qiáng)度計(jì)算,，建立起異?？刂婆c審計(jì)監(jiān)控等。人工智能安全可信離不開(kāi)可信計(jì)算的不斷演進(jìn),。沈昌祥介紹稱,，我國(guó)可信計(jì)算技術(shù)源于1992年立項(xiàng)研究的主動(dòng)免疫綜合防護(hù)系統(tǒng)，經(jīng)過(guò)長(zhǎng)期技術(shù)攻關(guān),，形成自主創(chuàng)新的可信計(jì)算3.0體系,，特征包括終端、服務(wù)器,、存儲(chǔ)系統(tǒng)體系可信等,。“從具備可信計(jì)算功能的國(guó)產(chǎn)CPU,，到嵌入式可信芯片,，再到具備可信計(jì)算技術(shù)的設(shè)備，完備的可信計(jì)算3.0產(chǎn)品鏈,，將形成巨大的新型產(chǎn)業(yè)空間,。”
免責(zé)聲明：本文來(lái)自網(wǎng)絡(luò)收錄或投稿,，觀點(diǎn)僅代表作者本人,，不代表芒果財(cái)經(jīng)贊同其觀點(diǎn)或證實(shí)其描述，版權(quán)歸原作者所有,。轉(zhuǎn)載請(qǐng)注明出處：http://lequren.com/1100529.html
溫馨提示：投資有風(fēng)險(xiǎn),，入市須謹(jǐn)慎。本資訊不作為投資理財(cái)建議,。
