全國兩會上代表委員熱議——綜合施策 給AI加上安全護欄AI是什么,？為什么這么火,？AI就是人工智能,，通常人工智能是指通過普通計算機程序來呈現(xiàn)人類智能的技術,。AI的研究由來已久,，也頗有成果。智能手機的語音助手應該算是最貼近日常生活的AI,，不過現(xiàn)在大家對它早習以為常,。但是ChatGPT等AI大模型的問世一石激起千層浪，很多人在驚喜之余不免有些擔憂甚至恐慌——AI如此智能,，人類社會的未來將走向何方,？安全該如何保障？今年的政府工作報告提出,，要“深化大數(shù)據(jù),、人工智能等研發(fā)應用，開展‘人工智能＋’行動”,。多位全國人大代表,、全國政協(xié)委員擬提交建議提案，從多個角度為人工智能安全健康發(fā)展出謀劃策,。人工智能帶來的主要安全風險人工智能的安全問題,，既有近憂也有遠慮?！皬摹鼞n’看,，AI大模型落地應用主要面臨的安全風險有生成不當內容、產(chǎn)生隱私問題,、引發(fā)技術攻擊等,。”全國政協(xié)委員,、中國工程院院士吳世忠表示,。在“遠慮”方面，技術發(fā)展失速,、倫理規(guī)范和道德約束的缺乏等是吳世忠主要的擔憂,。他表示，2024年人工智能安全治理會成為大國角力的主要方向,，人工智能熱門應用領域或將出現(xiàn)“灰犀?！卑踩录瑵撛陲L險不容忽視,?！癆I加劇了數(shù)據(jù)泄露,、欺詐攻擊、社會治理等安全威脅,，加劇了網(wǎng)絡安全易攻難守的局面,。”全國政協(xié)委員,、奇安信董事長齊向東認為。隨著人工智能技術的不斷發(fā)展,，安全威脅加劇,，安全防護難度激增。在具體的行業(yè)發(fā)展方面,，來自智能汽車,、文化出版等行業(yè)的代表委員也提出：人工智能對行業(yè)造成沖擊，帶來安全隱患,?！跋冗M的人工智能技術在智能駕駛各個場景實現(xiàn)廣泛應用?！比珖舜蟠?、小米集團董事長兼CEO雷軍表示，“但是,，當前行業(yè)內的智能駕駛產(chǎn)品在功能定義,、安全性能、人機交互等方面有較大差異,，存在駕駛安全和數(shù)據(jù)安全隱患,。”全國人大代表,、長安汽車公司董事長朱華榮也認為,，目前，智能駕駛在智駕安全和信息安全方面存在挑戰(zhàn),。在人工智能領域版權保護方面,，全國政協(xié)常委、中國作協(xié)副主席兼書記處書記邱華棟介紹,，目前主要存在人工智能生成內容的法律屬性模糊,，其版權問題缺少切實可行的法律、行業(yè)界定標準等問題,。人工智能法律法規(guī)體系亟需完善為了建立更加完善的人工智能法律法規(guī)體系,，全國兩會上，多位代表委員建言獻策——“要構建系統(tǒng)化的人工智能法律法規(guī)體系,，積極推動人工智能領域立法進程,?！比珖舜蟠?、中國移動河南公司董事長樓向平呼吁?！凹涌焱七M人工智能法出臺，構建人工智能算法治理體系,，彌補監(jiān)管體系空白,。”全國政協(xié)委員,、上海市浙江青年人才聯(lián)合會主席,、金杜律師事務所高級合伙人張毅表示。全國政協(xié)委員,、中國移動通信集團上海有限公司董事長陳力建議出臺司法解釋,、法律修正案等，對當前人工智能已經(jīng)和可能引發(fā)的法律爭議提供解決方案,。全國人大代表,、科大訊飛公司董事長劉慶峰建議系統(tǒng)性制定國家通用人工智能發(fā)展規(guī)劃，加速通用人工智能技術相關的法律法規(guī)制定,?！送猓恍┐砦瘑T建議確立人工智能相關安全標準,。全國政協(xié)委員,、360集團創(chuàng)始人兼董事長周鴻祎建議，研究制定保障通用大模型安全的標準體系,，推動通用大模型開展安全評測,、接入安全服務，降低安全風險,?！凹涌熘贫ㄈ斯ぶ悄苄袠I(yè)標準，會同領域內專家,、學者形成人工智能行業(yè)發(fā)展的標準化指引,。”陳力表示,。對建立完善人工智能監(jiān)管機制,，形成各方共同參與的系統(tǒng)化治理體系，他們也提出了建設性的意見建議——張毅建議,，強化由中央網(wǎng)信辦牽頭,，國家發(fā)改委、工信部,、公安部等部門共同參與的算法治理聯(lián)席會議制度,，引入“監(jiān)管沙盒”等創(chuàng)新監(jiān)管工具,。全國政協(xié)委員、知乎創(chuàng)始人兼CEO周源建議,，推動大模型研發(fā)機構和企業(yè)制定嚴格的保護政策和行為規(guī)范,，嚴厲打擊侵權犯罪行為。全國政協(xié)委員,、廣東省深圳市人大常委會副秘書長何杰則建議針對文字,、圖片、視頻生成模型分類分級管理,，緊跟技術發(fā)展情況,，快速調整管理措施。以技術反制“濫用技術”人工智能研究具有高度技術性和專業(yè)的特點,，各分支領域各不相通，因而涉及范圍極廣,。要打敗人工智能帶來的不安全因素,，就要“魔高一尺、道高一丈”,。從人才側看,，不少代表委員建議完善人才培養(yǎng)體系，為我國人工智能縱深發(fā)展提供保障,。齊向東建議,，鼓勵成立校企共同體，培養(yǎng)更多大數(shù)據(jù),、人工智能,、網(wǎng)絡安全等新興產(chǎn)業(yè)領軍人才，壯大“AI+安全”領域的實戰(zhàn)型,、復合型人才隊伍,。“建議在九年義務教育階段設置人工智能通識課程,，加大對高校人工智能學科建設的投入,，支持大型科技企業(yè)和教培機構培育人工智能應用型人才?！崩总姳硎?。張毅建議借助市場力量，外聘或者借調人工智能領域的專家共同參與監(jiān)管法律體系的建立,。從企業(yè)能力建設方面看,，周鴻祎表示，“建議國家給予兼具‘安全和AI’能力的企業(yè)專項扶持政策,，更好發(fā)揮其解決通用大模型安全問題的重要作用,?！饼R向東也支持“AI+安全”產(chǎn)業(yè)發(fā)展，建議設置專項基金,，對研發(fā)創(chuàng)新“AI+安全”產(chǎn)品的企業(yè)給予政府基金,、貼息貸款或科研項目等支持。從技術發(fā)展方面看,，樓向平建議,，設立人工智能可信性指南，加強安全技術攻關,，構建內生安全底座,。“要加快研究數(shù)字技術防范人工智能風險,，在數(shù)字技術層面加快識別AIGC內容的研究,，能夠做出智能判斷，防范相應的風險,?！比珖舜蟠怼⒛喜髮W元宇宙研究院院長閔衛(wèi)東建議,。（記者邵磊）