本報(bào)記者 趙姍微軟的創(chuàng)始人比爾·蓋茨有一句名言：“我們總是高估在一年或者兩年中能夠做到的，而低估五年或十年中能夠做到的,?！边@句話(huà)用來(lái)理解人工智能的影響是相當(dāng)合適的。目前,，隨著人工智能產(chǎn)業(yè)飛速發(fā)展,，催生了新的人機(jī)交互模式,，核心便是AI大模型驅(qū)動(dòng)的智能體（AI Agent）（以下簡(jiǎn)稱(chēng)“AI助手”）。AI助手讓“人機(jī)協(xié)同”成為新常態(tài),，個(gè)人與企業(yè)正在步入AI助手時(shí)代,。然而,，伴隨著快速發(fā)展，一系列問(wèn)題與挑戰(zhàn)也隨之而來(lái),。如何在應(yīng)對(duì)AI助手面臨挑戰(zhàn)的同時(shí)抓住發(fā)展機(jī)遇,，實(shí)現(xiàn)AI助手的可持續(xù)發(fā)展和更廣泛應(yīng)用，成為行業(yè)需要深入思考和探討的重點(diǎn),。數(shù)據(jù)隱私安全,、倫理和法律等成為挑戰(zhàn)“AI助手在快速發(fā)展的同時(shí)，也面臨許多挑戰(zhàn)和問(wèn)題,?！眹?guó)務(wù)院發(fā)展研究中心創(chuàng)新發(fā)展研究部第二研究室主任楊超在接受中國(guó)經(jīng)濟(jì)時(shí)報(bào)記者采訪(fǎng)時(shí)表示，在這些問(wèn)題中,，最為關(guān)鍵的還在于AI助手使用所帶來(lái)的數(shù)據(jù)隱私安全,、倫理和法律問(wèn)題。楊超認(rèn)為,，從數(shù)據(jù)隱私保護(hù)來(lái)看,，由于人工智能系統(tǒng)本身需要依賴(lài)大量用戶(hù)數(shù)據(jù)進(jìn)行訓(xùn)練，必然會(huì)導(dǎo)致相關(guān)機(jī)構(gòu)將AI助手服務(wù)期間獲取和產(chǎn)生的數(shù)據(jù)用于AI助手本身的優(yōu)化,，即使通過(guò)刪除個(gè)性化屬性等方式對(duì)數(shù)據(jù)脫敏,，數(shù)據(jù)隱私和安全問(wèn)題也難以完全避免。尤其是隨著AI助手的普及,，其訓(xùn)練涉及的數(shù)據(jù)量將快速提升,，從而進(jìn)一步放大安全風(fēng)險(xiǎn)。從倫理和法律角度看,，隨著AI助手能力的增強(qiáng),，其自主性和決策能力必然會(huì)顯著提升，在部分應(yīng)用場(chǎng)景中將會(huì)脫離人類(lèi)的直接指令而開(kāi)展自主行為,。這些自主行為一旦產(chǎn)生外部性影響,，就將引發(fā)倫理和法律問(wèn)題?！耙粋€(gè)經(jīng)典的例子是,，人工智能自動(dòng)駕駛的汽車(chē)在行駛過(guò)程中，前方突然出現(xiàn)行人,，改變行駛方向會(huì)傷害乘客,，不改變方向則會(huì)傷害行人。這種情況下無(wú)論AI助手做出何種選擇都會(huì)帶來(lái)倫理問(wèn)題,?！睏畛f(shuō)。清華大學(xué)復(fù)雜工程系統(tǒng)實(shí)驗(yàn)室主任,、中國(guó)人工智能學(xué)會(huì)智能產(chǎn)品與產(chǎn)業(yè)工作委員會(huì)主任任勇在接受中國(guó)經(jīng)濟(jì)時(shí)報(bào)記者采訪(fǎng)時(shí)表示,，在當(dāng)下階段,，AI助手仍然面臨技術(shù)創(chuàng)新與場(chǎng)景適配度的挑戰(zhàn)。一是算法的精準(zhǔn)性與可靠性,。AI助手的核心——算法需要不斷學(xué)習(xí)和優(yōu)化以提高準(zhǔn)確性和可靠性,，然而，面對(duì)復(fù)雜多變的用戶(hù)需求和場(chǎng)景,，當(dāng)前的算法往往難以達(dá)到期待的要求,。二是跨模態(tài)學(xué)習(xí)與環(huán)境理解能力。AI助手當(dāng)前的技術(shù)水平仍存在一定的局限性,，難以充分理解和整合應(yīng)用時(shí)空變化的模態(tài)信息,，對(duì)環(huán)境信息的多模態(tài)感知與理解尚有很大的提升空間。三是場(chǎng)景理解與適應(yīng)能力,。有些場(chǎng)景化需求超越了簡(jiǎn)單的物理環(huán)境感知,，需要與場(chǎng)景自身的底層邏輯、應(yīng)用邏輯相結(jié)合才能理解,，這對(duì)當(dāng)下的AI助手而言是一個(gè)現(xiàn)實(shí)挑戰(zhàn)?！按送?，AI技術(shù)的復(fù)雜性和變化性使得已有法規(guī)難以完全覆蓋各種變動(dòng)。當(dāng)AI助手出現(xiàn)錯(cuò)誤或造成損害時(shí),，責(zé)任追究便成了難題,。”任勇說(shuō),?！癆I助手面臨的挑戰(zhàn)還有算法偏見(jiàn)與歧視、過(guò)度依賴(lài)和成癮,?！鼻迦A大學(xué)人工智能?chē)?guó)際治理研究院秘書(shū)長(zhǎng)、歐美同學(xué)會(huì)研究院人工智能和數(shù)字經(jīng)濟(jì)研究中心執(zhí)行主任魯俊群在接受中國(guó)經(jīng)濟(jì)時(shí)報(bào)記者采訪(fǎng)時(shí)表示,。魯俊群認(rèn)為,，目前，AI算法的訓(xùn)練數(shù)據(jù)還存在不完備性和偏向性,。由于AI訓(xùn)練所使用的語(yǔ)料數(shù)據(jù)本身可能客觀上就存在著統(tǒng)計(jì)學(xué)上的一定偏差,，還有可能存在開(kāi)發(fā)者的個(gè)人偏好等，因此,，現(xiàn)階段的各種AI助手仍有可能存在一定的算法偏見(jiàn)與歧視問(wèn)題,。對(duì)此，有必要建立對(duì)技術(shù)背后訓(xùn)練數(shù)據(jù)和算法的審查機(jī)制,，如通過(guò)建立AI倫理委員會(huì)等形式加強(qiáng)審核,。另外,，“假如一名用戶(hù)經(jīng)常與AI角色互動(dòng)來(lái)尋求幫助和安慰，容易對(duì)其產(chǎn)生情感上的依賴(lài),，以此來(lái)填補(bǔ)情感需求上的空缺,，這有可能導(dǎo)致用戶(hù)沉迷虛擬世界而忽視現(xiàn)實(shí)世界。對(duì)此,，建議對(duì)于AI助手應(yīng)該使用得當(dāng),，同時(shí)應(yīng)該注意保持與現(xiàn)實(shí)世界的互動(dòng)?！濒斂∪赫f(shuō),。未來(lái)發(fā)展方向：垂直領(lǐng)域?qū)I(yè)化、與具身智能的結(jié)合當(dāng)前,，大模型進(jìn)入應(yīng)用時(shí)代,，多家科技公司都展出了最新AI應(yīng)用?！癆I助手發(fā)展的方向是多樣的,，在技術(shù)路線(xiàn)和應(yīng)用場(chǎng)景的雙重影響下，將會(huì)迎來(lái)種類(lèi)繁多的AI助手,?！睏畛J(rèn)為，其中,，有兩個(gè)方向是較為確定的,。一是垂直領(lǐng)域?qū)I(yè)化。在特定行業(yè)或領(lǐng)域,，如家政,、健康,、醫(yī)療,、法律,、金融等大領(lǐng)域，甚至是制造業(yè)中不同行業(yè)等小領(lǐng)域,，AI助手都將具備更深入的專(zhuān)業(yè)知識(shí)和技能,，提供專(zhuān)業(yè)服務(wù)。二是與具身智能的結(jié)合,。隨著人工智能能力的提升，其提供的服務(wù)將不僅是咨詢(xún)和智力服務(wù),，而是通過(guò)更多的感知和操作,，為人類(lèi)提供直接與物質(zhì)世界交互的能力,。任勇認(rèn)為,，就發(fā)展方向而言,，AI助手在產(chǎn)業(yè)場(chǎng)景和個(gè)體場(chǎng)景中的應(yīng)用雖然都基于人工智能技術(shù),，但在技術(shù)路徑和響應(yīng)機(jī)理上存在著顯著差異。AI助手產(chǎn)業(yè)場(chǎng)景的技術(shù)路徑主要是針對(duì)特定需求,，如制造業(yè),、物流,、醫(yī)療,、教育等,，AI助手通常需要進(jìn)行定制化開(kāi)發(fā),，以符合行業(yè)的特定需求。利用相應(yīng)產(chǎn)業(yè)所產(chǎn)生的數(shù)據(jù),，結(jié)合各種機(jī)器學(xué)習(xí)算法,，AI助手能夠自主學(xué)習(xí)和優(yōu)化，實(shí)現(xiàn)智能排班,、任務(wù)分配,、數(shù)據(jù)分析,、流程優(yōu)化等高級(jí)功能,。在此過(guò)程中，AI助手往往需要與企業(yè)的其他系統(tǒng)進(jìn)行集成,，如ERP（企業(yè)資源計(jì)劃）,、CRM（客戶(hù)關(guān)系管理）等,，以實(shí)現(xiàn)信息的共享和協(xié)作,。通過(guò)上述技術(shù)路徑實(shí)現(xiàn)對(duì)重復(fù)性煩瑣任務(wù)的自主處理和數(shù)據(jù)洞察,、科學(xué)決策,、降本增效,。AI助手用于個(gè)體場(chǎng)景的技術(shù)路徑主要是利用通用智能平臺(tái),，如智能手機(jī),、智能家居設(shè)備等，通過(guò)語(yǔ)音識(shí)別和自然語(yǔ)言交互,、多設(shè)備協(xié)同來(lái)輔助用戶(hù)完成任務(wù),，提升日常生活的便利性和服務(wù)的精準(zhǔn)性,?！霸诋a(chǎn)業(yè)場(chǎng)景中,，AI助手主要關(guān)注于提升效率,、優(yōu)化決策和降低成本,，需要更多的定制化開(kāi)發(fā)和集成協(xié)作,；而在個(gè)人生活場(chǎng)景中,，AI助手則更注重于提供便捷化,、個(gè)性化,、適應(yīng)性服務(wù),，未來(lái)的技術(shù)創(chuàng)新只能?chē)@不同場(chǎng)景下各自的內(nèi)生邏輯進(jìn)行迭代優(yōu)化?！比斡抡f(shuō),。魯俊群認(rèn)為,，AI助手未來(lái)可能會(huì)向多模態(tài)交互以及具身智能方向發(fā)展,?！盀榱藢?shí)現(xiàn)具身智能，需要將類(lèi)ChatGPT等這些基礎(chǔ)大模型與進(jìn)化學(xué)習(xí)機(jī)制相結(jié)合,，通過(guò)與物理世界交互取得的新數(shù)據(jù)（而不再是人類(lèi)投喂的數(shù)據(jù)）來(lái)不斷學(xué)習(xí),，并適應(yīng)新環(huán)境，優(yōu)化行為策略,。多模態(tài)大模型能夠整合視覺(jué),、聽(tīng)覺(jué)、觸覺(jué)等多種感官數(shù)據(jù),，提升機(jī)器人的理解能力,。使具身智能機(jī)器人在與物理世界的互動(dòng)和理解方面更加人性化。這些未來(lái)的AI助手機(jī)器人可以自主理解場(chǎng)景,、識(shí)別自然語(yǔ)言指令,、規(guī)劃任務(wù)，并執(zhí)行操作,，將是人類(lèi)最得力的智能助理,。”魯俊群說(shuō),。從創(chuàng)新方向引導(dǎo),、應(yīng)用場(chǎng)景規(guī)范方面為AI助手提供支持保障當(dāng)前，AI助手的服務(wù)升級(jí)與互聯(lián)互通是國(guó)內(nèi)多家互聯(lián)網(wǎng)科技公司持續(xù)探索的重點(diǎn),。楊超建議,，第一，加強(qiáng)對(duì)用戶(hù)隱私和數(shù)據(jù)安全的保護(hù),。強(qiáng)制性地將用戶(hù)隱私和數(shù)據(jù)安全作為提供AI助手服務(wù)的前置條件,，引導(dǎo)和鼓勵(lì)相關(guān)機(jī)構(gòu)采用先進(jìn)的數(shù)據(jù)加密和匿名化技術(shù)，確保用戶(hù)數(shù)據(jù)的安全和隱私,。第二,，增強(qiáng)AI助手決策過(guò)程的可解釋性，讓用戶(hù)能夠理解其行為和決策邏輯,，從而提高用戶(hù)信任度,。為整個(gè)社會(huì)更好接納AI助手創(chuàng)造良好的環(huán)境，從而為在更廣闊的應(yīng)用場(chǎng)景中使用AI助手提供幫助,。第三,，加強(qiáng)倫理和法規(guī)遵從。根據(jù)人工智能技術(shù)的進(jìn)步及時(shí)修訂相關(guān)法律法規(guī),，完善對(duì)AI助手進(jìn)行規(guī)制的制度環(huán)境,，確保AI助手的開(kāi)發(fā)和應(yīng)用符合倫理標(biāo)準(zhǔn)和法律法規(guī)，避免產(chǎn)生歧視,、偏見(jiàn)等問(wèn)題,?！皣?guó)家政策層面應(yīng)該從創(chuàng)新方向引導(dǎo)和應(yīng)用場(chǎng)景規(guī)范兩個(gè)方面出發(fā)，為AI助手的發(fā)展提供支持和保障,。包括明確AI助手的適用場(chǎng)景和范圍等,，避免誤用，更要避免國(guó)際資本集團(tuán)假借技術(shù)觸發(fā)虛假市場(chǎng)的濫用,。特別是在醫(yī)療,、教育、交通等關(guān)鍵領(lǐng)域,，應(yīng)嚴(yán)格規(guī)范AI助手的應(yīng)用條件和程序,。此外，要建立健全AI助手的監(jiān)管機(jī)制,，加強(qiáng)社會(huì)力量尤其是人民群眾對(duì)AI助手應(yīng)用的監(jiān)督和評(píng)估,，確保其合規(guī)性、合理性和安全性,。對(duì)于違規(guī)行為,，應(yīng)依法進(jìn)行處罰和追責(zé)?！比斡卤硎?。未來(lái)，企業(yè)可以利用AI助手優(yōu)化現(xiàn)有業(yè)務(wù)流程,，特別是在新產(chǎn)品研發(fā)和服務(wù)的創(chuàng)新應(yīng)用方面,，AI助手的普及將推動(dòng)不同行業(yè)之間的跨界融合和協(xié)同發(fā)展，為企業(yè)帶來(lái)新的商業(yè)機(jī)會(huì)和合作伙伴,，進(jìn)而帶動(dòng)商業(yè)模式和生態(tài)的變革,。中央財(cái)經(jīng)大學(xué)數(shù)字經(jīng)濟(jì)融合創(chuàng)新發(fā)展中心主任陳端在接受中國(guó)經(jīng)濟(jì)時(shí)報(bào)記者采訪(fǎng)時(shí)認(rèn)為，企業(yè)運(yùn)用AI助手強(qiáng)化核心競(jìng)爭(zhēng)力需要一系列的戰(zhàn)略規(guī)劃和技術(shù)實(shí)施,。一是要識(shí)別關(guān)鍵業(yè)務(wù)場(chǎng)景,，深入了解業(yè)務(wù)需求，確定AI助手在哪些環(huán)節(jié)能夠發(fā)揮最大價(jià)值,，然后為選定的業(yè)務(wù)場(chǎng)景明確具體的需求和目標(biāo),，如提高客戶(hù)滿(mǎn)意度、優(yōu)化庫(kù)存管理,、增強(qiáng)市場(chǎng)分析能力等,。二是根據(jù)業(yè)務(wù)需求和技術(shù)成熟度，選擇適合的AI技術(shù)和解決方案,，要充分考慮與現(xiàn)有系統(tǒng)的兼容性,，確保AI助手能夠順利集成到企業(yè)的IT架構(gòu)中。此外，還要建立完善的數(shù)據(jù)治理體系,，避免因?yàn)閿?shù)據(jù)偏差導(dǎo)致的結(jié)果偏差,。三是需要設(shè)立明確的評(píng)估指標(biāo)和機(jī)制，對(duì)AI助手的性能和效果進(jìn)行定期評(píng)估,，及時(shí)調(diào)整和優(yōu)化AI助手的算法和模型，以提升其準(zhǔn)確性和效率,。此外,，還需要關(guān)注AI助手可能帶來(lái)的倫理和社會(huì)問(wèn)題，確保其應(yīng)用符合道德和法律規(guī)范,。