【環(huán)球時報-環(huán)球網(wǎng)報道 記者 倪浩】生成式人工智能（AIGC）時代實現(xiàn)數(shù)據(jù)安全,，要依靠算法和工具，而不是人,。在4月27日下午在“2024中關村論壇數(shù)據(jù)安全治理與發(fā)展論壇”上,，清華大學計算機科學與技術系教授、人工智能研究院基礎模型研究中心副主任黃民烈教授表示，與過去傳統(tǒng)的數(shù)字經(jīng)濟時代不同,，人工智能（AI）時代尤其是生成式人工智能（AIGC）的出現(xiàn)，讓人類所面臨的數(shù)據(jù)安全問題已有很大的不同,，而進行風險管控的方法也有根本的不同。
在這次論壇的圓桌會議上發(fā)言時,，黃民烈表示，“過去,，我們把一些不好的,、臟的、有害的數(shù)據(jù)過濾掉,，清洗干凈就可以了。但是現(xiàn)在,，生成式人工智能（AIGC）是一種生成式的模型,，它會通過訓練組合生成新的內(nèi)容,，這些新的內(nèi)容在過去的語料里根本沒有出現(xiàn)過,，但它依然可能是有害的。所以,，即使是我們把大模型訓練之前的有害數(shù)據(jù)清除的很干凈,，在生成式人工智能（AIGC）時代我們依然會面臨有害內(nèi)容產(chǎn)生的風險?！蹦敲丛趺磻獙ι墒饺斯ぶ悄埽ˋIGC）所帶來的新的數(shù)據(jù)全安的風險呢,？要靠算法的研究，而不是人,。黃民烈說,，一般情況下,，在各種大模型中,，人們采用關鍵詞過濾，進行風險檢測后上線,，對外提供服務,。但是,，有些人依然有辦法讓它“越獄”，讓這種安全管控失效,，并產(chǎn)生有害的內(nèi)容,。為杜絕這種風險,，就要依賴背后的算法的研究。黃民烈說,，“這些算法有幾類,，其中包括研究有針對性的對抗和攻擊的方法,，比如事先讓一些算法自動發(fā)現(xiàn)這個模型的漏洞和風險,；第二，可以研究算法去追蹤模型存在哪些漏洞,，再針對性的制定安全手段,。這兩種手段都是通過算法把一些問題在大模型上線前進行自動修復?！耙痪湓拋碇v,，在生成式人工智能（AIGC）時代,，在數(shù)據(jù)安全層面,，其實我們面臨的是不斷組合和創(chuàng)造出來的新的數(shù)據(jù)安全風險問題,，這種風險徹底的解決是需要我們的算法和工具的支撐,，而不是靠人,。”黃民烈說,，靠一些靜態(tài)的方法去做一些相對固定的檢測,，實際上是不能夠勝任新的生成式人工智能（AIGC）時代的數(shù)據(jù)檢測和安全的要求的,。
免責聲明：本文來自網(wǎng)絡收錄或投稿,，觀點僅代表作者本人,，不代表芒果財經(jīng)贊同其觀點或證實其描述,，版權歸原作者所有。轉載請注明出處：http://lequren.com/1099502.html
溫馨提示：投資有風險,，入市須謹慎。本資訊不作為投資理財建議,。
