人民網(wǎng)記者 宋子節(jié)11月5日至6日,，2024“國是論壇”在京舉辦,。國務(wù)院參事、中國工程院院士,、中國人工智能學(xué)會理事長戴瓊海在接受人民網(wǎng)記者采訪時表示,，人工智能技術(shù)在開放通用場景中仍存在一些安全風(fēng)險,。規(guī)避技術(shù)安全隱憂,，才能促進(jìn)人工智能持續(xù)發(fā)展?！叭斯ぶ悄芗夹g(shù)發(fā)展至今仍有多重安全風(fēng)險值得注意,，例如黑箱數(shù)據(jù)訓(xùn)練安全風(fēng)險，黑箱依靠數(shù)據(jù)訓(xùn)練來支撐大模型對未來的推算,，如果有人偷換數(shù)據(jù),，而后訓(xùn)練出來的人工智能模型可能成為敵人?！贝鳝偤Ｅe例說,，“又如醫(yī)療數(shù)據(jù)安全風(fēng)險,，如果病例數(shù)據(jù)標(biāo)注過程中存在錯誤，即便大部分?jǐn)?shù)據(jù)判斷正確,，但涉及標(biāo)注錯誤的區(qū)域時,，人工智能的判斷依然會給人類帶來災(zāi)難?！贝送?，開放場景中的人工智能仍存在問題?！昂帽饶Ｊ焦袒淖詣玉{駛無法規(guī)避所有事故,，分析數(shù)據(jù)的系統(tǒng)無法結(jié)合自我認(rèn)知生成結(jié)果?！贝鳝偤１硎?，“因此，進(jìn)行顛覆性創(chuàng)新,，從技術(shù)上要做到具有可解釋性的人工智能模型或算法,；要規(guī)避安全技術(shù)隱憂，保證數(shù)據(jù)的安全是人工智能最主要的安全,；盡量開放場景,，切忌降低維度，可以先將人工智能放到封閉場景,，逐漸擴(kuò)圈,，最后使場景變?yōu)橥耆_放式?！?實習(xí)生王一惟對本文亦有貢獻(xiàn))
免責(zé)聲明：本文來自網(wǎng)絡(luò)收錄或投稿,，觀點僅代表作者本人，不代表芒果財經(jīng)贊同其觀點或證實其描述,，版權(quán)歸原作者所有,。轉(zhuǎn)載請注明出處：http://lequren.com/1127471.html
溫馨提示：投資有風(fēng)險，入市須謹(jǐn)慎,。本資訊不作為投資理財建議,。
