大模型發(fā)展如火如荼,，安全保障也需跟上,。4月28日,，在2024中關(guān)村論壇年會平行論壇“行業(yè)大模型創(chuàng)新發(fā)展論壇”上，中國工程院院士沈昌祥提出,，要用主動免疫可信計(jì)算筑牢人工智能安全防線，他直言：“大模型及生成式AI必須確保安全可信為前提,?！薄?span id="a6otyhj" class="wpcom_keyword_link">人工智能在賦能人類社會加快發(fā)展的同時,，正逐漸衍生出可危及國家安全和人類安全的重大風(fēng)險?！鄙虿楸硎?，多位著名科學(xué)家警告人工智能發(fā)展將毀滅人類社會,，并援引伊隆·馬斯克、OpenAI CEO薩姆·奧爾特曼等全球范圍內(nèi)AI領(lǐng)域重要人物聯(lián)名公開信觀點(diǎn)：“應(yīng)將緩解人工智能導(dǎo)致的滅絕風(fēng)險,，與其他社會規(guī)模風(fēng)險（如大流行病和核戰(zhàn)爭）等視作等同,，作為全球優(yōu)先事項(xiàng)?！鄙虿檎J(rèn)為,，機(jī)器人智能行為體一旦失控將危及人類安全，只有在確保人工智能安全可信的前提下才能健康發(fā)展,。何為“安全可信”,？沈昌祥表示，安全可信意味著降低網(wǎng)絡(luò)空間脆弱性,，用安全可信產(chǎn)品和服務(wù),，在計(jì)算同時并行進(jìn)行動態(tài)的全方位整體防護(hù)，使得完成計(jì)算任務(wù)的邏輯組合不被篡改和破壞,，達(dá)到預(yù)期的計(jì)算目標(biāo),，“這相當(dāng)于人體具有免疫力，確保健康,?！本唧w該如何構(gòu)建安全可信的人工智能？沈昌祥認(rèn)為,，應(yīng)從三個維度展開,。首先是人工智能業(yè)務(wù)信息安全可信，即在物理環(huán)境信息數(shù)據(jù)處理,、算法模型規(guī)則及倫理以及軟件代碼和流程上實(shí)現(xiàn)安全可信,。其次，是計(jì)算處理服務(wù)資源安全可信,，比如傳感控制設(shè)備,、通信網(wǎng)絡(luò)、計(jì)算能力（云）等方面實(shí)現(xiàn)安全可信,。最后是安全可信管理,，比如系統(tǒng)資源配置應(yīng)滿足高強(qiáng)度計(jì)算，建立起異?？刂婆c審計(jì)監(jiān)控等,。人工智能安全可信離不開可信計(jì)算的不斷演進(jìn)。沈昌祥介紹稱,，我國可信計(jì)算技術(shù)源于1992年立項(xiàng)研究的主動免疫綜合防護(hù)系統(tǒng),，經(jīng)過長期技術(shù)攻關(guān)，形成自主創(chuàng)新的可信計(jì)算3.0體系，特征包括終端,、服務(wù)器,、存儲系統(tǒng)體系可信等?！皬木邆淇尚庞?jì)算功能的國產(chǎn)CPU,，到嵌入式可信芯片，再到具備可信計(jì)算技術(shù)的設(shè)備,，完備的可信計(jì)算3.0產(chǎn)品鏈,，將形成巨大的新型產(chǎn)業(yè)空間?！?/p>
免責(zé)聲明：本文來自網(wǎng)絡(luò)收錄或投稿,，觀點(diǎn)僅代表作者本人，不代表芒果財(cái)經(jīng)贊同其觀點(diǎn)或證實(shí)其描述,，版權(quán)歸原作者所有,。轉(zhuǎn)載請注明出處：http://lequren.com/1100529.html
溫馨提示：投資有風(fēng)險，入市須謹(jǐn)慎,。本資訊不作為投資理財(cái)建議,。
