全國(guó)兩會(huì)上代表委員熱議——綜合施策 給AI加上安全護(hù)欄AI是什么？為什么這么火,？AI就是人工智能,，通常人工智能是指通過普通計(jì)算機(jī)程序來呈現(xiàn)人類智能的技術(shù),。AI的研究由來已久,，也頗有成果。智能手機(jī)的語音助手應(yīng)該算是最貼近日常生活的AI，不過現(xiàn)在大家對(duì)它早習(xí)以為常,。但是ChatGPT等AI大模型的問世一石激起千層浪,，很多人在驚喜之余不免有些擔(dān)憂甚至恐慌——AI如此智能,，人類社會(huì)的未來將走向何方,？安全該如何保障,？今年的政府工作報(bào)告提出,，要“深化大數(shù)據(jù),、人工智能等研發(fā)應(yīng)用,，開展‘人工智能＋’行動(dòng)”。多位全國(guó)人大代表、全國(guó)政協(xié)委員擬提交建議提案，從多個(gè)角度為人工智能安全健康發(fā)展出謀劃策,。人工智能帶來的主要安全風(fēng)險(xiǎn)人工智能的安全問題，既有近憂也有遠(yuǎn)慮,?！皬摹鼞n’看，AI大模型落地應(yīng)用主要面臨的安全風(fēng)險(xiǎn)有生成不當(dāng)內(nèi)容、產(chǎn)生隱私問題,、引發(fā)技術(shù)攻擊等,。”全國(guó)政協(xié)委員,、中國(guó)工程院院士吳世忠表示,。在“遠(yuǎn)慮”方面,，技術(shù)發(fā)展失速,、倫理規(guī)范和道德約束的缺乏等是吳世忠主要的擔(dān)憂。他表示,，2024年人工智能安全治理會(huì)成為大國(guó)角力的主要方向，人工智能熱門應(yīng)用領(lǐng)域或?qū)⒊霈F(xiàn)“灰犀?！卑踩录?，潛在風(fēng)險(xiǎn)不容忽視,?！癆I加劇了數(shù)據(jù)泄露,、欺詐攻擊,、社會(huì)治理等安全威脅，加劇了網(wǎng)絡(luò)安全易攻難守的局面。”全國(guó)政協(xié)委員,、奇安信董事長(zhǎng)齊向東認(rèn)為。隨著人工智能技術(shù)的不斷發(fā)展,，安全威脅加劇,，安全防護(hù)難度激增。在具體的行業(yè)發(fā)展方面,，來自智能汽車,、文化出版等行業(yè)的代表委員也提出：人工智能對(duì)行業(yè)造成沖擊，帶來安全隱患,?！跋冗M(jìn)的人工智能技術(shù)在智能駕駛各個(gè)場(chǎng)景實(shí)現(xiàn)廣泛應(yīng)用?！比珖?guó)人大代表,、小米集團(tuán)董事長(zhǎng)兼CEO雷軍表示，“但是,，當(dāng)前行業(yè)內(nèi)的智能駕駛產(chǎn)品在功能定義,、安全性能、人機(jī)交互等方面有較大差異,，存在駕駛安全和數(shù)據(jù)安全隱患,。”全國(guó)人大代表,、長(zhǎng)安汽車公司董事長(zhǎng)朱華榮也認(rèn)為,，目前，智能駕駛在智駕安全和信息安全方面存在挑戰(zhàn),。在人工智能領(lǐng)域版權(quán)保護(hù)方面,，全國(guó)政協(xié)常委、中國(guó)作協(xié)副主席兼書記處書記邱華棟介紹,，目前主要存在人工智能生成內(nèi)容的法律屬性模糊,，其版權(quán)問題缺少切實(shí)可行的法律、行業(yè)界定標(biāo)準(zhǔn)等問題,。人工智能法律法規(guī)體系亟需完善為了建立更加完善的人工智能法律法規(guī)體系,，全國(guó)兩會(huì)上，多位代表委員建言獻(xiàn)策——“要構(gòu)建系統(tǒng)化的人工智能法律法規(guī)體系,，積極推動(dòng)人工智能領(lǐng)域立法進(jìn)程,。”全國(guó)人大代表,、中國(guó)移動(dòng)河南公司董事長(zhǎng)樓向平呼吁,?！凹涌焱七M(jìn)人工智能法出臺(tái)，構(gòu)建人工智能算法治理體系,，彌補(bǔ)監(jiān)管體系空白,。”全國(guó)政協(xié)委員,、上海市浙江青年人才聯(lián)合會(huì)主席,、金杜律師事務(wù)所高級(jí)合伙人張毅表示。全國(guó)政協(xié)委員,、中國(guó)移動(dòng)通信集團(tuán)上海有限公司董事長(zhǎng)陳力建議出臺(tái)司法解釋、法律修正案等,，對(duì)當(dāng)前人工智能已經(jīng)和可能引發(fā)的法律爭(zhēng)議提供解決方案,。全國(guó)人大代表、科大訊飛公司董事長(zhǎng)劉慶峰建議系統(tǒng)性制定國(guó)家通用人工智能發(fā)展規(guī)劃,，加速通用人工智能技術(shù)相關(guān)的法律法規(guī)制定,。……此外,，一些代表委員建議確立人工智能相關(guān)安全標(biāo)準(zhǔn),。全國(guó)政協(xié)委員、360集團(tuán)創(chuàng)始人兼董事長(zhǎng)周鴻祎建議,，研究制定保障通用大模型安全的標(biāo)準(zhǔn)體系，推動(dòng)通用大模型開展安全評(píng)測(cè)、接入安全服務(wù),，降低安全風(fēng)險(xiǎn),。“加快制定人工智能行業(yè)標(biāo)準(zhǔn),，會(huì)同領(lǐng)域內(nèi)專家,、學(xué)者形成人工智能行業(yè)發(fā)展的標(biāo)準(zhǔn)化指引?！标惲Ρ硎?。對(duì)建立完善人工智能監(jiān)管機(jī)制，形成各方共同參與的系統(tǒng)化治理體系,，他們也提出了建設(shè)性的意見建議——張毅建議,，強(qiáng)化由中央網(wǎng)信辦牽頭，國(guó)家發(fā)改委,、工信部,、公安部等部門共同參與的算法治理聯(lián)席會(huì)議制度，引入“監(jiān)管沙盒”等創(chuàng)新監(jiān)管工具,。全國(guó)政協(xié)委員,、知乎創(chuàng)始人兼CEO周源建議,，推動(dòng)大模型研發(fā)機(jī)構(gòu)和企業(yè)制定嚴(yán)格的保護(hù)政策和行為規(guī)范，嚴(yán)厲打擊侵權(quán)犯罪行為,。全國(guó)政協(xié)委員,、廣東省深圳市人大常委會(huì)副秘書長(zhǎng)何杰則建議針對(duì)文字、圖片,、視頻生成模型分類分級(jí)管理,，緊跟技術(shù)發(fā)展情況，快速調(diào)整管理措施,。以技術(shù)反制“濫用技術(shù)”人工智能研究具有高度技術(shù)性和專業(yè)的特點(diǎn),，各分支領(lǐng)域各不相通，因而涉及范圍極廣,。要打敗人工智能帶來的不安全因素,，就要“魔高一尺、道高一丈”,。從人才側(cè)看,，不少代表委員建議完善人才培養(yǎng)體系，為我國(guó)人工智能縱深發(fā)展提供保障,。齊向東建議,，鼓勵(lì)成立校企共同體，培養(yǎng)更多大數(shù)據(jù),、人工智能,、網(wǎng)絡(luò)安全等新興產(chǎn)業(yè)領(lǐng)軍人才，壯大“AI+安全”領(lǐng)域的實(shí)戰(zhàn)型,、復(fù)合型人才隊(duì)伍,。“建議在九年義務(wù)教育階段設(shè)置人工智能通識(shí)課程,，加大對(duì)高校人工智能學(xué)科建設(shè)的投入,，支持大型科技企業(yè)和教培機(jī)構(gòu)培育人工智能應(yīng)用型人才?！崩总姳硎?。張毅建議借助市場(chǎng)力量，外聘或者借調(diào)人工智能領(lǐng)域的專家共同參與監(jiān)管法律體系的建立,。從企業(yè)能力建設(shè)方面看,，周鴻祎表示，“建議國(guó)家給予兼具‘安全和AI’能力的企業(yè)專項(xiàng)扶持政策,，更好發(fā)揮其解決通用大模型安全問題的重要作用,。”齊向東也支持“AI+安全”產(chǎn)業(yè)發(fā)展，建議設(shè)置專項(xiàng)基金,，對(duì)研發(fā)創(chuàng)新“AI+安全”產(chǎn)品的企業(yè)給予政府基金,、貼息貸款或科研項(xiàng)目等支持。從技術(shù)發(fā)展方面看,，樓向平建議,，設(shè)立人工智能可信性指南，加強(qiáng)安全技術(shù)攻關(guān),，構(gòu)建內(nèi)生安全底座,。“要加快研究數(shù)字技術(shù)防范人工智能風(fēng)險(xiǎn),，在數(shù)字技術(shù)層面加快識(shí)別AIGC內(nèi)容的研究,，能夠做出智能判斷，防范相應(yīng)的風(fēng)險(xiǎn),?！比珖?guó)人大代表、南昌大學(xué)元宇宙研究院院長(zhǎng)閔衛(wèi)東建議,。（記者邵磊）