1月14日，北京市第十六屆人民代表大會(huì)第三次會(huì)議舉行,，市長(zhǎng)殷勇作政府工作報(bào)告,。報(bào)告提出，要提升優(yōu)勢(shì)產(chǎn)業(yè)發(fā)展能級(jí),，完善新一代信息技術(shù)、人工智能等產(chǎn)業(yè)支持政策,。對(duì)于人工智能的發(fā)展和落地,，北京市人大代表張瑩就把人工智能應(yīng)用到了日常工作中,。作為中國(guó)電信股份有限公司北京分公司10000號(hào)服務(wù)中心員工，她將算法與用戶實(shí)際訴求相結(jié)合,，參與研發(fā)了服務(wù)大模型,，以進(jìn)行全流程的智能輔助。北京市人大代表張瑩 圖/受訪者供圖張瑩告訴新京報(bào)記者,，本次上會(huì)她帶來(lái)了加強(qiáng)人工智能規(guī)則治理與健全人工智能領(lǐng)域?qū)I(yè)人才培養(yǎng)模式兩項(xiàng)建議,。構(gòu)筑大模型安全能力，用“魔法打敗魔法”張瑩表示,，當(dāng)前在人工智能規(guī)則治理方向中,，惡意誤導(dǎo)模型、虛假信息傳播,、有害的信息傳遞三個(gè)方面的問(wèn)題較為突出,。具體來(lái)看，惡意誤導(dǎo)模型使得模型訓(xùn)練結(jié)果受損,，浪費(fèi)算力資源,；模型生成的不真實(shí)或不良信息的傳播會(huì)影響公眾的價(jià)值觀和認(rèn)知，進(jìn)而被別有用心的人用于制造社會(huì)輿論,，甚至涉及司法犯罪,；大模型的普遍應(yīng)用一方面方便了工作生活,，另一方面也造成了大模型生成有害信息無(wú)法事前攔截的問(wèn)題。對(duì)此,，她建議針對(duì)受眾群體較大或訓(xùn)練成本較高的模型,，采取必要的安全監(jiān)管措施，一方面針對(duì)數(shù)據(jù)的安全監(jiān)管,，對(duì)敏感數(shù)據(jù)進(jìn)行加密和脫敏處理,，確保數(shù)據(jù)存儲(chǔ)、傳輸及使用安全的基礎(chǔ)上,，建立嚴(yán)格的數(shù)據(jù)訪問(wèn),、處理控制機(jī)制，并構(gòu)建完善的審計(jì)流程,，防止數(shù)據(jù)被惡意篡改或泄露。另一方面針對(duì)參與訓(xùn)練的技術(shù)人員建立完備的權(quán)限管理機(jī)制,，按照“最小化”原則訪問(wèn)其所需資源并對(duì)訪問(wèn)及使用過(guò)程運(yùn)用自動(dòng)化安全檢測(cè)工具或平臺(tái)實(shí)時(shí)進(jìn)行審查及監(jiān)管,，發(fā)現(xiàn)潛在的風(fēng)險(xiǎn)并及時(shí)修復(fù)。張瑩認(rèn)為,，在模型生產(chǎn)內(nèi)容安全風(fēng)險(xiǎn)加劇的情況下,，需要迭代更新新型安全治理技術(shù)，構(gòu)筑大模型安全能力,，用“魔法打敗魔法”,。對(duì)可能存在的各類(lèi)大模型安全風(fēng)險(xiǎn)相關(guān)數(shù)據(jù)進(jìn)行收集，構(gòu)筑完備的數(shù)據(jù)底座來(lái)為風(fēng)險(xiǎn)識(shí)別奠定基礎(chǔ),，并在數(shù)據(jù)底座的基礎(chǔ)上運(yùn)用合理的技術(shù)手段,，如相似度匹配、語(yǔ)義分析等進(jìn)行有效的風(fēng)險(xiǎn)識(shí)別及風(fēng)險(xiǎn)等級(jí)評(píng)估,。算法升級(jí)方面,，針對(duì)模型結(jié)構(gòu)進(jìn)行優(yōu)化，基于當(dāng)前模型的特點(diǎn)可以針對(duì)性地進(jìn)行模型結(jié)構(gòu)改進(jìn)和訓(xùn)練策略調(diào)整,。試點(diǎn)在中小學(xué)開(kāi)設(shè)人工智能實(shí)踐體驗(yàn)課消除就業(yè)不確定影響作為在行業(yè)一線進(jìn)行人工智能應(yīng)用落地的代表,，張瑩也觀察到當(dāng)前企業(yè)內(nèi)人工智能高層次人才不足，青年科技人才更多是應(yīng)用層人才,，能力偏重于數(shù)據(jù)資源應(yīng)用與數(shù)據(jù)加工挖掘,，研發(fā)顛覆性成果需進(jìn)一步提升人才培養(yǎng)的深度與針對(duì)性。在她看來(lái),，為減少人工智能出現(xiàn)“幻覺(jué)”,，保持AI模型的自洽性需要在模型訓(xùn)練、推理,、微調(diào)等不同環(huán)節(jié)由具備在交叉學(xué)科融合過(guò)程中運(yùn)用適當(dāng)?shù)募夹g(shù)來(lái)選擇符合邏輯的合理結(jié)果的專業(yè)人才,，幫助模型自洽性的保持和提高,。隨著人工智能技術(shù)的不斷進(jìn)步，未來(lái)的就業(yè)環(huán)境更加復(fù)雜,，部分傳統(tǒng)職業(yè)用工需求將極速下降,，而相應(yīng)地也會(huì)產(chǎn)生新的與人工智能領(lǐng)域相適應(yīng)的新型職業(yè)。對(duì)此,，她建議企業(yè)內(nèi)部針對(duì)人才培養(yǎng)加強(qiáng)頂層設(shè)計(jì)及戰(zhàn)略規(guī)劃,，深化企業(yè)與高校聯(lián)合高層次人才培養(yǎng)模式改革，聚焦機(jī)器人,、教育,、醫(yī)療、文化,、交通等領(lǐng)域,，持續(xù)推進(jìn)交叉學(xué)科人工智能領(lǐng)域人才培育?！斑m時(shí)試點(diǎn)在中小學(xué)開(kāi)設(shè)人工智能實(shí)踐體驗(yàn)課程,，鼓勵(lì)有條件的科技型企業(yè)與教育集團(tuán)或?qū)W校建立戰(zhàn)略合作關(guān)系，共同培養(yǎng)拔尖創(chuàng)新人才,，使學(xué)生及家長(zhǎng)對(duì)就業(yè)市場(chǎng)未來(lái)發(fā)展有一個(gè)客觀的認(rèn)知,，對(duì)行業(yè)趨勢(shì)保持敏感，以消除未來(lái)就業(yè)環(huán)境的不確定性帶來(lái)的影響,。通過(guò)針對(duì)性的培養(yǎng)專業(yè)素養(yǎng)及職業(yè)技能,，鼓勵(lì)學(xué)生發(fā)展創(chuàng)新思維、邏輯思維和實(shí)施變革的能力,，為未來(lái)新型職業(yè)尤其是行業(yè)顛覆性職業(yè)的人才缺口做足充分的準(zhǔn)備,。”張瑩說(shuō),。新京報(bào)記者 羅亦丹編輯 陶野校對(duì) 盧茜