大模型發(fā)展如火如荼,，安全保障也需跟上。4月28日,，在2024中關村論壇年會平行論壇“行業(yè)大模型創(chuàng)新發(fā)展論壇”上,，中國工程院院士沈昌祥提出，要用主動免疫可信計算筑牢人工智能安全防線,，他直言：“大模型及生成式AI必須確保安全可信為前提,。”“人工智能在賦能人類社會加快發(fā)展的同時,，正逐漸衍生出可危及國家安全和人類安全的重大風險?！鄙虿楸硎?，多位著名科學家警告人工智能發(fā)展將毀滅人類社會，并援引伊隆·馬斯克,、OpenAI CEO薩姆·奧爾特曼等全球范圍內AI領域重要人物聯(lián)名公開信觀點：“應將緩解人工智能導致的滅絕風險,，與其他社會規(guī)模風險（如大流行病和核戰(zhàn)爭）等視作等同，作為全球優(yōu)先事項,?！鄙虿檎J為，機器人智能行為體一旦失控將危及人類安全,，只有在確保人工智能安全可信的前提下才能健康發(fā)展,。何為“安全可信”？沈昌祥表示,，安全可信意味著降低網(wǎng)絡空間脆弱性,，用安全可信產(chǎn)品和服務，在計算同時并行進行動態(tài)的全方位整體防護,，使得完成計算任務的邏輯組合不被篡改和破壞,，達到預期的計算目標，“這相當于人體具有免疫力,，確保健康,。”具體該如何構建安全可信的人工智能,？沈昌祥認為,，應從三個維度展開。首先是人工智能業(yè)務信息安全可信,，即在物理環(huán)境信息數(shù)據(jù)處理,、算法模型規(guī)則及倫理以及軟件代碼和流程上實現(xiàn)安全可信。其次,，是計算處理服務資源安全可信,，比如傳感控制設備,、通信網(wǎng)絡、計算能力（云）等方面實現(xiàn)安全可信,。最后是安全可信管理,，比如系統(tǒng)資源配置應滿足高強度計算，建立起異?？刂婆c審計監(jiān)控等,。人工智能安全可信離不開可信計算的不斷演進。沈昌祥介紹稱,，我國可信計算技術源于1992年立項研究的主動免疫綜合防護系統(tǒng),，經(jīng)過長期技術攻關,，形成自主創(chuàng)新的可信計算3.0體系,，特征包括終端、服務器,、存儲系統(tǒng)體系可信等,。“從具備可信計算功能的國產(chǎn)CPU,，到嵌入式可信芯片,，再到具備可信計算技術的設備，完備的可信計算3.0產(chǎn)品鏈,，將形成巨大的新型產(chǎn)業(yè)空間,。”
免責聲明：本文來自網(wǎng)絡收錄或投稿,，觀點僅代表作者本人,，不代表芒果財經(jīng)贊同其觀點或證實其描述，版權歸原作者所有,。轉載請注明出處：http://lequren.com/1100529.html
溫馨提示：投資有風險,，入市須謹慎。本資訊不作為投資理財建議,。
