全國兩會上代表委員熱議——綜合施策 給AI加上安全護欄AI是什么？為什么這么火,？AI就是人工智能,，通常人工智能是指通過普通計算機程序來呈現(xiàn)人類智能的技術(shù)。AI的研究由來已久,，也頗有成果,。智能手機的語音助手應(yīng)該算是最貼近日常生活的AI,，不過現(xiàn)在大家對它早習(xí)以為常。但是ChatGPT等AI大模型的問世一石激起千層浪,，很多人在驚喜之余不免有些擔(dān)憂甚至恐慌——AI如此智能,，人類社會的未來將走向何方？安全該如何保障,？今年的政府工作報告提出,，要“深化大數(shù)據(jù)、人工智能等研發(fā)應(yīng)用,，開展‘人工智能＋’行動”,。多位全國人大代表、全國政協(xié)委員擬提交建議提案,，從多個角度為人工智能安全健康發(fā)展出謀劃策,。人工智能帶來的主要安全風(fēng)險人工智能的安全問題，既有近憂也有遠(yuǎn)慮,?！皬摹鼞n’看，AI大模型落地應(yīng)用主要面臨的安全風(fēng)險有生成不當(dāng)內(nèi)容,、產(chǎn)生隱私問題,、引發(fā)技術(shù)攻擊等?！比珖f(xié)委員,、中國工程院院士吳世忠表示。在“遠(yuǎn)慮”方面,，技術(shù)發(fā)展失速,、倫理規(guī)范和道德約束的缺乏等是吳世忠主要的擔(dān)憂。他表示,，2024年人工智能安全治理會成為大國角力的主要方向,，人工智能熱門應(yīng)用領(lǐng)域或?qū)⒊霈F(xiàn)“灰犀牛”安全事件,，潛在風(fēng)險不容忽視,。“AI加劇了數(shù)據(jù)泄露,、欺詐攻擊,、社會治理等安全威脅，加劇了網(wǎng)絡(luò)安全易攻難守的局面,?！比珖f(xié)委員、奇安信董事長齊向東認(rèn)為,。隨著人工智能技術(shù)的不斷發(fā)展,，安全威脅加劇,，安全防護難度激增。在具體的行業(yè)發(fā)展方面,，來自智能汽車,、文化出版等行業(yè)的代表委員也提出：人工智能對行業(yè)造成沖擊，帶來安全隱患,?！跋冗M(jìn)的人工智能技術(shù)在智能駕駛各個場景實現(xiàn)廣泛應(yīng)用?！比珖舜蟠?、小米集團董事長兼CEO雷軍表示，“但是,，當(dāng)前行業(yè)內(nèi)的智能駕駛產(chǎn)品在功能定義,、安全性能、人機交互等方面有較大差異,，存在駕駛安全和數(shù)據(jù)安全隱患,。”全國人大代表,、長安汽車公司董事長朱華榮也認(rèn)為,，目前，智能駕駛在智駕安全和信息安全方面存在挑戰(zhàn),。在人工智能領(lǐng)域版權(quán)保護方面,，全國政協(xié)常委、中國作協(xié)副主席兼書記處書記邱華棟介紹,，目前主要存在人工智能生成內(nèi)容的法律屬性模糊,，其版權(quán)問題缺少切實可行的法律、行業(yè)界定標(biāo)準(zhǔn)等問題,。人工智能法律法規(guī)體系亟需完善為了建立更加完善的人工智能法律法規(guī)體系,，全國兩會上，多位代表委員建言獻(xiàn)策——“要構(gòu)建系統(tǒng)化的人工智能法律法規(guī)體系,，積極推動人工智能領(lǐng)域立法進(jìn)程?！比珖舜蟠?、中國移動河南公司董事長樓向平呼吁?！凹涌焱七M(jìn)人工智能法出臺,，構(gòu)建人工智能算法治理體系，彌補監(jiān)管體系空白,?！比珖f(xié)委員,、上海市浙江青年人才聯(lián)合會主席、金杜律師事務(wù)所高級合伙人張毅表示,。全國政協(xié)委員,、中國移動通信集團上海有限公司董事長陳力建議出臺司法解釋、法律修正案等,，對當(dāng)前人工智能已經(jīng)和可能引發(fā)的法律爭議提供解決方案,。全國人大代表、科大訊飛公司董事長劉慶峰建議系統(tǒng)性制定國家通用人工智能發(fā)展規(guī)劃,，加速通用人工智能技術(shù)相關(guān)的法律法規(guī)制定,。……此外,，一些代表委員建議確立人工智能相關(guān)安全標(biāo)準(zhǔn),。全國政協(xié)委員、360集團創(chuàng)始人兼董事長周鴻祎建議,，研究制定保障通用大模型安全的標(biāo)準(zhǔn)體系,，推動通用大模型開展安全評測、接入安全服務(wù),，降低安全風(fēng)險,。“加快制定人工智能行業(yè)標(biāo)準(zhǔn),，會同領(lǐng)域內(nèi)專家,、學(xué)者形成人工智能行業(yè)發(fā)展的標(biāo)準(zhǔn)化指引?！标惲Ρ硎?。對建立完善人工智能監(jiān)管機制，形成各方共同參與的系統(tǒng)化治理體系,，他們也提出了建設(shè)性的意見建議——張毅建議,，強化由中央網(wǎng)信辦牽頭，國家發(fā)改委,、工信部,、公安部等部門共同參與的算法治理聯(lián)席會議制度，引入“監(jiān)管沙盒”等創(chuàng)新監(jiān)管工具,。全國政協(xié)委員,、知乎創(chuàng)始人兼CEO周源建議，推動大模型研發(fā)機構(gòu)和企業(yè)制定嚴(yán)格的保護政策和行為規(guī)范,，嚴(yán)厲打擊侵權(quán)犯罪行為,。全國政協(xié)委員、廣東省深圳市人大常委會副秘書長何杰則建議針對文字、圖片,、視頻生成模型分類分級管理,，緊跟技術(shù)發(fā)展情況，快速調(diào)整管理措施,。以技術(shù)反制“濫用技術(shù)”人工智能研究具有高度技術(shù)性和專業(yè)的特點,，各分支領(lǐng)域各不相通，因而涉及范圍極廣,。要打敗人工智能帶來的不安全因素,，就要“魔高一尺、道高一丈”,。從人才側(cè)看,，不少代表委員建議完善人才培養(yǎng)體系，為我國人工智能縱深發(fā)展提供保障,。齊向東建議,，鼓勵成立校企共同體，培養(yǎng)更多大數(shù)據(jù),、人工智能,、網(wǎng)絡(luò)安全等新興產(chǎn)業(yè)領(lǐng)軍人才，壯大“AI+安全”領(lǐng)域的實戰(zhàn)型,、復(fù)合型人才隊伍,。“建議在九年義務(wù)教育階段設(shè)置人工智能通識課程,，加大對高校人工智能學(xué)科建設(shè)的投入,，支持大型科技企業(yè)和教培機構(gòu)培育人工智能應(yīng)用型人才?！崩总姳硎?。張毅建議借助市場力量，外聘或者借調(diào)人工智能領(lǐng)域的專家共同參與監(jiān)管法律體系的建立,。從企業(yè)能力建設(shè)方面看,，周鴻祎表示，“建議國家給予兼具‘安全和AI’能力的企業(yè)專項扶持政策,，更好發(fā)揮其解決通用大模型安全問題的重要作用,。”齊向東也支持“AI+安全”產(chǎn)業(yè)發(fā)展,，建議設(shè)置專項基金,，對研發(fā)創(chuàng)新“AI+安全”產(chǎn)品的企業(yè)給予政府基金、貼息貸款或科研項目等支持,。從技術(shù)發(fā)展方面看,，樓向平建議，設(shè)立人工智能可信性指南,，加強安全技術(shù)攻關(guān),，構(gòu)建內(nèi)生安全底座?！耙涌煅芯繑?shù)字技術(shù)防范人工智能風(fēng)險,，在數(shù)字技術(shù)層面加快識別AIGC內(nèi)容的研究，能夠做出智能判斷,，防范相應(yīng)的風(fēng)險,。”全國人大代表,、南昌大學(xué)元宇宙研究院院長閔衛(wèi)東建議,。（記者邵磊）