中新網(wǎng)8月17日電 題：人工智能商業(yè)化提速,，如何平衡創(chuàng)新與治理,？

中新財經(jīng)記者 夏賓

在大模型、AIGC引領的產(chǎn)業(yè)熱潮下,，人工智能商業(yè)化落地提速，企業(yè)關心將技術應用到產(chǎn)業(yè)中產(chǎn)出價值,，從政府的角度也必須要考慮如何平衡創(chuàng)新和治理間的關系,。

“人工智能確實成為當前引領新一輪科技革命發(fā)展潮流，大家也有一定擔心,，生成式AI被視為一種顛覆性技術,，同時具有破壞性,，它是雙刃劍,，可以解放生產(chǎn)力、發(fā)展生產(chǎn)力,，但是對現(xiàn)有的破壞也需要考量,，可能帶來不可預知的風險和挑戰(zhàn)?！敝袊鴩H經(jīng)濟交流中心經(jīng)濟研究部副部長劉向東近日在京參加騰訊舉行的“人工智能技術創(chuàng)新發(fā)展”研討會時如是說,。

劉向東說，社會擔心,，若不對生成式AI進行有效監(jiān)管,，在倫理和安全上會產(chǎn)生較大挑戰(zhàn)，甚至產(chǎn)生不可預知的風險,，比如出現(xiàn)它不受人控制的情況都可能存在,。

他進一步稱，由此,，各國家都對如何發(fā)展人工智能提出了一些辦法,，中國政府也發(fā)布了《生成式人工智能服務管理暫行辦法》，這既需要把生成式AI發(fā)展和應用的范圍劃定清晰,，同時又不妨礙其發(fā)展,，所以在包容審慎和分類分級監(jiān)管方面通過一個暫行辦法，如有不合適的,，根據(jù)各方反饋再去調(diào)整,，如此促進生成式人工智能的發(fā)展。

中國信通院云大所人工智能部副主任曹峰表示,，從大模型發(fā)展趨勢來看,，今年是大模型多,、應用范圍多，且向醫(yī)療,、教育,、能源、電力,、工業(yè)等行業(yè)深度融合,。

但他也提出，大模型的可信風險日漸突顯,，大模型本就沒有解決原來人工智能存在的問題,，比如可解釋、黑盒,、數(shù)據(jù)泄露,、不穩(wěn)定等問題，同時帶來很多新的問題,，比如涉及知識產(chǎn)權問題,、生成不恰當內(nèi)容問題以及生成虛假肖像、圖片,、語音而用于非法行為的問題,。

為解決上述問題，曹峰建議,，從政策層面,，比如網(wǎng)信辦對生成式人工智能的相關規(guī)定，同時國際上不斷強調(diào)需要關注倫理,、隱私,、版權等問題。

從產(chǎn)業(yè)層面,，很多產(chǎn)業(yè)機構等也提出了大模型需要產(chǎn)業(yè)重視的問題,，比如重視數(shù)據(jù)風險、模型風險,、隱私風險等一系列風險,。“我們需要從技術和管理雙管齊下,，在技術層面的隱私保護技術,、公平性技術、可解釋性技術等,，在管理層面的風險管理,、人員管理、質(zhì)量管理、合規(guī)管理等,?！?/p>

北京理工大學計算機學院副教授、網(wǎng)絡與安全研究所所長閆懷志強調(diào)說,，人工智能系統(tǒng)自身安全問題容易被忽視,，它是個盲點。具體體現(xiàn)在多個方面,，比如對抗機器學習,，惡意樣本生成，訓練數(shù)據(jù)污染,，出現(xiàn)偽造臟,、假數(shù)據(jù)的情況。

閆懷志直言,，問題出在“智能算法的理想”與“軟件實現(xiàn)的現(xiàn)實”的差異,。一是人工智能框架安全，現(xiàn)在開源人工智能編程框架和商業(yè)人工智能編程框架很多,，二是人工智能算法安全,，對抗樣本的出現(xiàn)就證明了人工智能算法缺乏可解釋性，三是人工智能數(shù)據(jù)安全,，構造一些非法數(shù)據(jù),、誤導數(shù)據(jù)實施干擾,，從而造成機器學習模型的過擬合或完全失效,。

人工智能行業(yè)天使投資人郭濤認為，人工智能監(jiān)管趨嚴是人工智能商業(yè)化面臨重大問題之一,，比如AIGC內(nèi)容生成的相關版權歸屬問題,，訓練數(shù)據(jù)合法性問題，大量人臉數(shù)據(jù),、圖片數(shù)據(jù)等的來源問題,，對數(shù)據(jù)來源的監(jiān)管、算法模型的監(jiān)管,、對應用場景的監(jiān)管,、對社交平臺的監(jiān)管，這些監(jiān)管趨勢都非常嚴,。

騰訊研究院產(chǎn)業(yè)研究中心負責人宋揚則提到,，大模型對現(xiàn)有知識產(chǎn)權有一定沖擊，尤其對版權有一定沖擊,，而從倫理和安全角度,，AI生態(tài)需要更加完善。

宋揚表示,，高盛預測AI將取代3億人的全職工作,，世界經(jīng)濟論壇的報告表明未來五年勞動者44%的核心技能會發(fā)生改變,。此外，用AI生成類似真人的數(shù)字人技術,，它會進行新型詐騙,，目前已經(jīng)有詐騙案例出現(xiàn)，所以推動AI倫理及AI安全需要產(chǎn)業(yè)共同努力,。(完)