今年政府工作報(bào)告強(qiáng)調(diào),，制定支持?jǐn)?shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展政策,，積極推進(jìn)數(shù)字產(chǎn)業(yè)化、產(chǎn)業(yè)數(shù)字化,，促進(jìn)數(shù)字技術(shù)和實(shí)體經(jīng)濟(jì)深度融合,。其中，“人工智能+”行動(dòng)提出了以生成式人工智能為代表的人工智能技術(shù)即將加速落地各行各業(yè)，催生垂直行業(yè)的新質(zhì)生產(chǎn)力。生成式人工智能技術(shù)是發(fā)展新質(zhì)生產(chǎn)力的重要引擎,。作為新興數(shù)字技術(shù),，人工智能體現(xiàn)出了更高的自主性與擬真性，也同時(shí)帶來(lái)了運(yùn)行過(guò)程的不透明性與數(shù)據(jù)收集的規(guī)模性,，成為垂直行業(yè)數(shù)字化,、人工智能化的風(fēng)險(xiǎn)隱患。進(jìn)一步推動(dòng)人工智能技術(shù)的行業(yè)落地應(yīng)用,，尤其是醫(yī)療,、金融、政府治理,、自動(dòng)駕駛等高風(fēng)險(xiǎn)行業(yè)領(lǐng)域,，應(yīng)當(dāng)著重突破數(shù)據(jù)隱私保護(hù)、模型可解釋性?xún)纱笃款i,，借負(fù)責(zé)任的人工智能來(lái)賦能更廣泛的垂直行業(yè),。“人工智能+”行動(dòng)的落地依靠實(shí)體經(jīng)濟(jì),、傳統(tǒng)產(chǎn)業(yè)的人工智能化,，以期實(shí)現(xiàn)行業(yè)顛覆式創(chuàng)新，鍛造行業(yè)發(fā)展新動(dòng)能,。目前的大語(yǔ)言模型人工智能技術(shù)在訓(xùn)練,、部署、應(yīng)用的過(guò)程中,，將不可避免地接觸到涉及公民個(gè)人隱私,、企業(yè)核心信息的數(shù)據(jù)。聚焦到具體使用場(chǎng)景,，個(gè)人與企業(yè)在提問(wèn)端,、回答端、訓(xùn)練端,、存儲(chǔ)端全鏈條均存在隱私泄露隱患,。例如，用戶(hù)在不知情情況下向大模型誤傳個(gè)人或非公開(kāi)信息,，聊天記錄裹挾敏感數(shù)據(jù)被儲(chǔ)存并面臨網(wǎng)絡(luò)攻擊風(fēng)險(xiǎn),，若大模型將其用于進(jìn)一步訓(xùn)練，敏感數(shù)據(jù)還有可能受到大模型“幻覺(jué)”的影響,，出現(xiàn)在其他用戶(hù)的對(duì)話(huà)回答中,。而對(duì)于金融、政府治理等低容錯(cuò)率,、高信任要求的行業(yè)來(lái)說(shuō),，恰恰要求對(duì)全部環(huán)節(jié)的風(fēng)險(xiǎn)做到“零容忍”。解決人工智能技術(shù)隱私風(fēng)險(xiǎn)問(wèn)題，大模型的通用屬性有時(shí)候反而會(huì)產(chǎn)生一些問(wèn)題,，未來(lái)產(chǎn)業(yè)發(fā)展應(yīng)當(dāng)著重發(fā)力人工智能大模型私有化部署,，提供更高的數(shù)據(jù)安全性與隱私保護(hù)，獲得更加定制化人工智能應(yīng)用的同時(shí),，也能夠避免非公開(kāi)數(shù)據(jù)外流,。技術(shù)發(fā)展方面，要構(gòu)建形成數(shù)據(jù)存儲(chǔ)安全,、數(shù)據(jù)使用合規(guī),、數(shù)據(jù)流向透明的負(fù)責(zé)任的人工智能技術(shù)，加快政策法規(guī)落地實(shí)施,。數(shù)據(jù)進(jìn)入模型訓(xùn)練前,，嚴(yán)格執(zhí)行數(shù)據(jù)加密協(xié)議并做好密鑰管理策略，利用匿名化處理技術(shù)完成數(shù)據(jù)脫敏,，重點(diǎn)把關(guān)數(shù)據(jù)訪(fǎng)問(wèn)控制,。針對(duì)重點(diǎn)行業(yè)模型落地，優(yōu)先考慮本地私有化部署方案,，以滿(mǎn)足企業(yè)數(shù)據(jù)治理與監(jiān)管責(zé)任落實(shí)的要求。一旦高敏感數(shù)據(jù)混入大語(yǔ)言模型,，大模型應(yīng)當(dāng)有能力“刪除”或“遺忘”特定數(shù)據(jù)特征,，未來(lái)人工智能技術(shù)研發(fā)亟須落實(shí)數(shù)據(jù)“刪除”義務(wù)，把握對(duì)惡劣突發(fā)事件及時(shí)處置,、消除影響的能力,。人工智能技術(shù)落地垂直行業(yè)的另一大挑戰(zhàn)是可解釋性問(wèn)題，隨著模型參數(shù)和深度的爆炸式增長(zhǎng),，模型的決策過(guò)程成為難以解釋的“算法黑箱”,。可解釋性是打造可靠,、可信,、公平、安全的負(fù)責(zé)任的人工智能技術(shù)的基礎(chǔ)支撐,，也是人工智能技術(shù)進(jìn)入更廣泛行業(yè)的先決條件,。一方面，人工智能技術(shù)的落地需要更好的審計(jì)路徑和問(wèn)責(zé)機(jī)制,，自動(dòng)駕駛汽車(chē)的故障為何產(chǎn)生,，醫(yī)療診斷決策的步驟是什么，回答好這些問(wèn)題才能破除公眾和企業(yè)對(duì)人工智能產(chǎn)品的懷疑和不信任,。另一方面,，人工智能大模型已經(jīng)展現(xiàn)出許多前所未有的能力，包括思維推理、上下文學(xué)習(xí),、指令遵循等,，打開(kāi)能力背后成因和機(jī)制的“黑箱”，也是推動(dòng)人工智能技術(shù)向高水平躍升的重要路徑,。形成可解釋性人工智能,，應(yīng)當(dāng)從人工智能的全生命周期入手，突破模型設(shè)計(jì),、垂直應(yīng)用部署,、模型效果評(píng)估階段的關(guān)鍵問(wèn)題。模型設(shè)計(jì)上,，針對(duì)簡(jiǎn)單模型,，采用決策樹(shù)等自身較為透明清晰的架構(gòu)，針對(duì)復(fù)雜的深度學(xué)習(xí)模型,，嘗試用代理模型提供模型解釋?zhuān)M(jìn)一步幫助用戶(hù)理解輸入的特征是如何影響模型決策的,；垂直應(yīng)用部署時(shí)，利用可解釋性增強(qiáng)工具提高模型透明度,，并提供決策過(guò)程的詳細(xì)記錄和解釋,。使用相關(guān)方法計(jì)算每個(gè)特征對(duì)結(jié)果的貢獻(xiàn)度；模型效果評(píng)估時(shí),，亟須建立超越定性評(píng)估的量化解釋方法,，統(tǒng)籌考慮模型性能、覆蓋率,、忠實(shí)度等指標(biāo),，最大化降低模型落地后的監(jiān)管審計(jì)風(fēng)險(xiǎn)。（作者為中國(guó)人民大學(xué)國(guó)家發(fā)展與戰(zhàn)略研究院研究員,、信息學(xué)院教授）