【環(huán)球時(shí)報(bào)-環(huán)球網(wǎng)報(bào)道 記者 倪浩】生成式人工智能（AIGC）時(shí)代實(shí)現(xiàn)數(shù)據(jù)安全,，要依靠算法和工具,，而不是人。在4月27日下午在“2024中關(guān)村論壇數(shù)據(jù)安全治理與發(fā)展論壇”上,，清華大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)系教授,、人工智能研究院基礎(chǔ)模型研究中心副主任黃民烈教授表示,，與過(guò)去傳統(tǒng)的數(shù)字經(jīng)濟(jì)時(shí)代不同,，人工智能（AI）時(shí)代尤其是生成式人工智能（AIGC）的出現(xiàn)，讓人類所面臨的數(shù)據(jù)安全問(wèn)題已有很大的不同,，而進(jìn)行風(fēng)險(xiǎn)管控的方法也有根本的不同,。
在這次論壇的圓桌會(huì)議上發(fā)言時(shí)，黃民烈表示,，“過(guò)去,，我們把一些不好的、臟的,、有害的數(shù)據(jù)過(guò)濾掉,，清洗干凈就可以了。但是現(xiàn)在,，生成式人工智能（AIGC）是一種生成式的模型,，它會(huì)通過(guò)訓(xùn)練組合生成新的內(nèi)容,，這些新的內(nèi)容在過(guò)去的語(yǔ)料里根本沒(méi)有出現(xiàn)過(guò),，但它依然可能是有害的。所以,，即使是我們把大模型訓(xùn)練之前的有害數(shù)據(jù)清除的很干凈,，在生成式人工智能（AIGC）時(shí)代我們依然會(huì)面臨有害內(nèi)容產(chǎn)生的風(fēng)險(xiǎn)?！蹦敲丛趺磻?yīng)對(duì)生成式人工智能（AIGC）所帶來(lái)的新的數(shù)據(jù)全安的風(fēng)險(xiǎn)呢,？要靠算法的研究，而不是人,。黃民烈說(shuō),，一般情況下，在各種大模型中,，人們采用關(guān)鍵詞過(guò)濾,，進(jìn)行風(fēng)險(xiǎn)檢測(cè)后上線，對(duì)外提供服務(wù),。但是,，有些人依然有辦法讓它“越獄”，讓這種安全管控失效,，并產(chǎn)生有害的內(nèi)容,。為杜絕這種風(fēng)險(xiǎn)，就要依賴背后的算法的研究。黃民烈說(shuō),，“這些算法有幾類,，其中包括研究有針對(duì)性的對(duì)抗和攻擊的方法，比如事先讓一些算法自動(dòng)發(fā)現(xiàn)這個(gè)模型的漏洞和風(fēng)險(xiǎn),；第二,，可以研究算法去追蹤模型存在哪些漏洞，再針對(duì)性的制定安全手段,。這兩種手段都是通過(guò)算法把一些問(wèn)題在大模型上線前進(jìn)行自動(dòng)修復(fù),。“一句話來(lái)講,，在生成式人工智能（AIGC）時(shí)代,，在數(shù)據(jù)安全層面，其實(shí)我們面臨的是不斷組合和創(chuàng)造出來(lái)的新的數(shù)據(jù)安全風(fēng)險(xiǎn)問(wèn)題,，這種風(fēng)險(xiǎn)徹底的解決是需要我們的算法和工具的支撐,，而不是靠人?！秉S民烈說(shuō),，靠一些靜態(tài)的方法去做一些相對(duì)固定的檢測(cè)，實(shí)際上是不能夠勝任新的生成式人工智能（AIGC）時(shí)代的數(shù)據(jù)檢測(cè)和安全的要求的,。
免責(zé)聲明：本文來(lái)自網(wǎng)絡(luò)收錄或投稿,，觀點(diǎn)僅代表作者本人，不代表芒果財(cái)經(jīng)贊同其觀點(diǎn)或證實(shí)其描述,，版權(quán)歸原作者所有。轉(zhuǎn)載請(qǐng)注明出處：http://lequren.com/1099502.html
溫馨提示：投資有風(fēng)險(xiǎn),，入市須謹(jǐn)慎,。本資訊不作為投資理財(cái)建議。
