全國兩會上代表委員熱議——綜合施策 給AI加上安全護欄AI是什么？為什么這么火,？AI就是人工智能,，通常人工智能是指通過普通計算機程序來呈現(xiàn)人類智能的技術(shù),。AI的研究由來已久,，也頗有成果。智能手機的語音助手應(yīng)該算是最貼近日常生活的AI,，不過現(xiàn)在大家對它早習(xí)以為常,。但是ChatGPT等AI大模型的問世一石激起千層浪，很多人在驚喜之余不免有些擔憂甚至恐慌——AI如此智能,，人類社會的未來將走向何方,？安全該如何保障？今年的政府工作報告提出,，要“深化大數(shù)據(jù),、人工智能等研發(fā)應(yīng)用，開展‘人工智能＋’行動”,。多位全國人大代表,、全國政協(xié)委員擬提交建議提案，從多個角度為人工智能安全健康發(fā)展出謀劃策,。人工智能帶來的主要安全風(fēng)險人工智能的安全問題,，既有近憂也有遠慮?！皬摹鼞n’看,，AI大模型落地應(yīng)用主要面臨的安全風(fēng)險有生成不當內(nèi)容、產(chǎn)生隱私問題,、引發(fā)技術(shù)攻擊等,。”全國政協(xié)委員,、中國工程院院士吳世忠表示,。在“遠慮”方面，技術(shù)發(fā)展失速,、倫理規(guī)范和道德約束的缺乏等是吳世忠主要的擔憂,。他表示,，2024年人工智能安全治理會成為大國角力的主要方向，人工智能熱門應(yīng)用領(lǐng)域或?qū)⒊霈F(xiàn)“灰犀?！卑踩录?，潛在風(fēng)險不容忽視。“AI加劇了數(shù)據(jù)泄露,、欺詐攻擊,、社會治理等安全威脅，加劇了網(wǎng)絡(luò)安全易攻難守的局面,?！比珖f(xié)委員,、奇安信董事長齊向東認為,。隨著人工智能技術(shù)的不斷發(fā)展，安全威脅加劇,，安全防護難度激增,。在具體的行業(yè)發(fā)展方面，來自智能汽車,、文化出版等行業(yè)的代表委員也提出：人工智能對行業(yè)造成沖擊,，帶來安全隱患?！跋冗M的人工智能技術(shù)在智能駕駛各個場景實現(xiàn)廣泛應(yīng)用,。”全國人大代表,、小米集團董事長兼CEO雷軍表示,，“但是，當前行業(yè)內(nèi)的智能駕駛產(chǎn)品在功能定義,、安全性能,、人機交互等方面有較大差異，存在駕駛安全和數(shù)據(jù)安全隱患,?！比珖舜蟠怼㈤L安汽車公司董事長朱華榮也認為,，目前,，智能駕駛在智駕安全和信息安全方面存在挑戰(zhàn)。在人工智能領(lǐng)域版權(quán)保護方面,，全國政協(xié)常委,、中國作協(xié)副主席兼書記處書記邱華棟介紹，目前主要存在人工智能生成內(nèi)容的法律屬性模糊,，其版權(quán)問題缺少切實可行的法律,、行業(yè)界定標準等問題。人工智能法律法規(guī)體系亟需完善為了建立更加完善的人工智能法律法規(guī)體系,，全國兩會上,，多位代表委員建言獻策——“要構(gòu)建系統(tǒng)化的人工智能法律法規(guī)體系，積極推動人工智能領(lǐng)域立法進程?！比珖舜蟠?、中國移動河南公司董事長樓向平呼吁?！凹涌焱七M人工智能法出臺,，構(gòu)建人工智能算法治理體系，彌補監(jiān)管體系空白,?！比珖f(xié)委員、上海市浙江青年人才聯(lián)合會主席,、金杜律師事務(wù)所高級合伙人張毅表示,。全國政協(xié)委員、中國移動通信集團上海有限公司董事長陳力建議出臺司法解釋,、法律修正案等,，對當前人工智能已經(jīng)和可能引發(fā)的法律爭議提供解決方案。全國人大代表,、科大訊飛公司董事長劉慶峰建議系統(tǒng)性制定國家通用人工智能發(fā)展規(guī)劃,，加速通用人工智能技術(shù)相關(guān)的法律法規(guī)制定?！送?，一些代表委員建議確立人工智能相關(guān)安全標準。全國政協(xié)委員,、360集團創(chuàng)始人兼董事長周鴻祎建議,，研究制定保障通用大模型安全的標準體系，推動通用大模型開展安全評測,、接入安全服務(wù),，降低安全風(fēng)險?！凹涌熘贫ㄈ斯ぶ悄苄袠I(yè)標準,，會同領(lǐng)域內(nèi)專家、學(xué)者形成人工智能行業(yè)發(fā)展的標準化指引,?！标惲Ρ硎尽⑼晟迫斯ぶ悄鼙O(jiān)管機制,，形成各方共同參與的系統(tǒng)化治理體系,，他們也提出了建設(shè)性的意見建議——張毅建議，強化由中央網(wǎng)信辦牽頭,，國家發(fā)改委,、工信部,、公安部等部門共同參與的算法治理聯(lián)席會議制度，引入“監(jiān)管沙盒”等創(chuàng)新監(jiān)管工具,。全國政協(xié)委員,、知乎創(chuàng)始人兼CEO周源建議，推動大模型研發(fā)機構(gòu)和企業(yè)制定嚴格的保護政策和行為規(guī)范,，嚴厲打擊侵權(quán)犯罪行為,。全國政協(xié)委員、廣東省深圳市人大常委會副秘書長何杰則建議針對文字,、圖片,、視頻生成模型分類分級管理，緊跟技術(shù)發(fā)展情況,，快速調(diào)整管理措施,。以技術(shù)反制“濫用技術(shù)”人工智能研究具有高度技術(shù)性和專業(yè)的特點,，各分支領(lǐng)域各不相通,，因而涉及范圍極廣。要打敗人工智能帶來的不安全因素,，就要“魔高一尺,、道高一丈”。從人才側(cè)看,，不少代表委員建議完善人才培養(yǎng)體系,，為我國人工智能縱深發(fā)展提供保障。齊向東建議,，鼓勵成立校企共同體,，培養(yǎng)更多大數(shù)據(jù)、人工智能,、網(wǎng)絡(luò)安全等新興產(chǎn)業(yè)領(lǐng)軍人才,，壯大“AI+安全”領(lǐng)域的實戰(zhàn)型、復(fù)合型人才隊伍,?！敖ㄗh在九年義務(wù)教育階段設(shè)置人工智能通識課程，加大對高校人工智能學(xué)科建設(shè)的投入,，支持大型科技企業(yè)和教培機構(gòu)培育人工智能應(yīng)用型人才,。”雷軍表示,。張毅建議借助市場力量,，外聘或者借調(diào)人工智能領(lǐng)域的專家共同參與監(jiān)管法律體系的建立。從企業(yè)能力建設(shè)方面看,，周鴻祎表示,，“建議國家給予兼具‘安全和AI’能力的企業(yè)專項扶持政策，更好發(fā)揮其解決通用大模型安全問題的重要作用?！饼R向東也支持“AI+安全”產(chǎn)業(yè)發(fā)展,，建議設(shè)置專項基金，對研發(fā)創(chuàng)新“AI+安全”產(chǎn)品的企業(yè)給予政府基金,、貼息貸款或科研項目等支持,。從技術(shù)發(fā)展方面看，樓向平建議,，設(shè)立人工智能可信性指南,，加強安全技術(shù)攻關(guān)，構(gòu)建內(nèi)生安全底座,?！耙涌煅芯繑?shù)字技術(shù)防范人工智能風(fēng)險，在數(shù)字技術(shù)層面加快識別AIGC內(nèi)容的研究,，能夠做出智能判斷,，防范相應(yīng)的風(fēng)險?！比珖舜蟠?、南昌大學(xué)元宇宙研究院院長閔衛(wèi)東建議。（記者邵磊）