本報(bào)記者 趙姍微軟的創(chuàng)始人比爾·蓋茨有一句名言：“我們總是高估在一年或者兩年中能夠做到的，而低估五年或十年中能夠做到的,?！边@句話用來理解人工智能的影響是相當(dāng)合適的。目前,，隨著人工智能產(chǎn)業(yè)飛速發(fā)展,，催生了新的人機(jī)交互模式,，核心便是AI大模型驅(qū)動的智能體（AI Agent）（以下簡稱“AI助手”）。AI助手讓“人機(jī)協(xié)同”成為新常態(tài),，個(gè)人與企業(yè)正在步入AI助手時(shí)代,。然而，伴隨著快速發(fā)展,，一系列問題與挑戰(zhàn)也隨之而來,。如何在應(yīng)對AI助手面臨挑戰(zhàn)的同時(shí)抓住發(fā)展機(jī)遇，實(shí)現(xiàn)AI助手的可持續(xù)發(fā)展和更廣泛應(yīng)用,，成為行業(yè)需要深入思考和探討的重點(diǎn),。數(shù)據(jù)隱私安全、倫理和法律等成為挑戰(zhàn)“AI助手在快速發(fā)展的同時(shí),，也面臨許多挑戰(zhàn)和問題,。”國務(wù)院發(fā)展研究中心創(chuàng)新發(fā)展研究部第二研究室主任楊超在接受中國經(jīng)濟(jì)時(shí)報(bào)記者采訪時(shí)表示,，在這些問題中,，最為關(guān)鍵的還在于AI助手使用所帶來的數(shù)據(jù)隱私安全、倫理和法律問題,。楊超認(rèn)為,，從數(shù)據(jù)隱私保護(hù)來看，由于人工智能系統(tǒng)本身需要依賴大量用戶數(shù)據(jù)進(jìn)行訓(xùn)練,，必然會導(dǎo)致相關(guān)機(jī)構(gòu)將AI助手服務(wù)期間獲取和產(chǎn)生的數(shù)據(jù)用于AI助手本身的優(yōu)化,，即使通過刪除個(gè)性化屬性等方式對數(shù)據(jù)脫敏，數(shù)據(jù)隱私和安全問題也難以完全避免,。尤其是隨著AI助手的普及,，其訓(xùn)練涉及的數(shù)據(jù)量將快速提升，從而進(jìn)一步放大安全風(fēng)險(xiǎn),。從倫理和法律角度看,，隨著AI助手能力的增強(qiáng)，其自主性和決策能力必然會顯著提升,，在部分應(yīng)用場景中將會脫離人類的直接指令而開展自主行為。這些自主行為一旦產(chǎn)生外部性影響,，就將引發(fā)倫理和法律問題,。“一個(gè)經(jīng)典的例子是，人工智能自動駕駛的汽車在行駛過程中,，前方突然出現(xiàn)行人,，改變行駛方向會傷害乘客，不改變方向則會傷害行人,。這種情況下無論AI助手做出何種選擇都會帶來倫理問題,。”楊超說,。清華大學(xué)復(fù)雜工程系統(tǒng)實(shí)驗(yàn)室主任,、中國人工智能學(xué)會智能產(chǎn)品與產(chǎn)業(yè)工作委員會主任任勇在接受中國經(jīng)濟(jì)時(shí)報(bào)記者采訪時(shí)表示，在當(dāng)下階段,，AI助手仍然面臨技術(shù)創(chuàng)新與場景適配度的挑戰(zhàn),。一是算法的精準(zhǔn)性與可靠性。AI助手的核心——算法需要不斷學(xué)習(xí)和優(yōu)化以提高準(zhǔn)確性和可靠性,，然而,，面對復(fù)雜多變的用戶需求和場景，當(dāng)前的算法往往難以達(dá)到期待的要求,。二是跨模態(tài)學(xué)習(xí)與環(huán)境理解能力,。AI助手當(dāng)前的技術(shù)水平仍存在一定的局限性，難以充分理解和整合應(yīng)用時(shí)空變化的模態(tài)信息,，對環(huán)境信息的多模態(tài)感知與理解尚有很大的提升空間,。三是場景理解與適應(yīng)能力。有些場景化需求超越了簡單的物理環(huán)境感知,，需要與場景自身的底層邏輯,、應(yīng)用邏輯相結(jié)合才能理解，這對當(dāng)下的AI助手而言是一個(gè)現(xiàn)實(shí)挑戰(zhàn),?！按送猓珹I技術(shù)的復(fù)雜性和變化性使得已有法規(guī)難以完全覆蓋各種變動,。當(dāng)AI助手出現(xiàn)錯(cuò)誤或造成損害時(shí),，責(zé)任追究便成了難題?！比斡抡f,。“AI助手面臨的挑戰(zhàn)還有算法偏見與歧視,、過度依賴和成癮,。”清華大學(xué)人工智能國際治理研究院秘書長,、歐美同學(xué)會研究院人工智能和數(shù)字經(jīng)濟(jì)研究中心執(zhí)行主任魯俊群在接受中國經(jīng)濟(jì)時(shí)報(bào)記者采訪時(shí)表示,。魯俊群認(rèn)為,，目前，AI算法的訓(xùn)練數(shù)據(jù)還存在不完備性和偏向性,。由于AI訓(xùn)練所使用的語料數(shù)據(jù)本身可能客觀上就存在著統(tǒng)計(jì)學(xué)上的一定偏差,，還有可能存在開發(fā)者的個(gè)人偏好等，因此,，現(xiàn)階段的各種AI助手仍有可能存在一定的算法偏見與歧視問題,。對此，有必要建立對技術(shù)背后訓(xùn)練數(shù)據(jù)和算法的審查機(jī)制,，如通過建立AI倫理委員會等形式加強(qiáng)審核,。另外，“假如一名用戶經(jīng)常與AI角色互動來尋求幫助和安慰,，容易對其產(chǎn)生情感上的依賴,，以此來填補(bǔ)情感需求上的空缺，這有可能導(dǎo)致用戶沉迷虛擬世界而忽視現(xiàn)實(shí)世界,。對此,，建議對于AI助手應(yīng)該使用得當(dāng)，同時(shí)應(yīng)該注意保持與現(xiàn)實(shí)世界的互動,?！濒斂∪赫f。未來發(fā)展方向：垂直領(lǐng)域?qū)I(yè)化,、與具身智能的結(jié)合當(dāng)前,，大模型進(jìn)入應(yīng)用時(shí)代，多家科技公司都展出了最新AI應(yīng)用,?！癆I助手發(fā)展的方向是多樣的，在技術(shù)路線和應(yīng)用場景的雙重影響下,，將會迎來種類繁多的AI助手,。”楊超認(rèn)為,，其中,，有兩個(gè)方向是較為確定的。一是垂直領(lǐng)域?qū)I(yè)化,。在特定行業(yè)或領(lǐng)域,，如家政、健康,、醫(yī)療,、法律、金融等大領(lǐng)域,，甚至是制造業(yè)中不同行業(yè)等小領(lǐng)域,，AI助手都將具備更深入的專業(yè)知識和技能,，提供專業(yè)服務(wù)。二是與具身智能的結(jié)合,。隨著人工智能能力的提升，其提供的服務(wù)將不僅是咨詢和智力服務(wù),，而是通過更多的感知和操作,，為人類提供直接與物質(zhì)世界交互的能力。任勇認(rèn)為,，就發(fā)展方向而言,，AI助手在產(chǎn)業(yè)場景和個(gè)體場景中的應(yīng)用雖然都基于人工智能技術(shù)，但在技術(shù)路徑和響應(yīng)機(jī)理上存在著顯著差異,。AI助手產(chǎn)業(yè)場景的技術(shù)路徑主要是針對特定需求,，如制造業(yè)、物流,、醫(yī)療,、教育等，AI助手通常需要進(jìn)行定制化開發(fā),，以符合行業(yè)的特定需求,。利用相應(yīng)產(chǎn)業(yè)所產(chǎn)生的數(shù)據(jù)，結(jié)合各種機(jī)器學(xué)習(xí)算法,，AI助手能夠自主學(xué)習(xí)和優(yōu)化,，實(shí)現(xiàn)智能排班、任務(wù)分配,、數(shù)據(jù)分析,、流程優(yōu)化等高級功能。在此過程中,，AI助手往往需要與企業(yè)的其他系統(tǒng)進(jìn)行集成,，如ERP（企業(yè)資源計(jì)劃）、CRM（客戶關(guān)系管理）等,，以實(shí)現(xiàn)信息的共享和協(xié)作,。通過上述技術(shù)路徑實(shí)現(xiàn)對重復(fù)性煩瑣任務(wù)的自主處理和數(shù)據(jù)洞察、科學(xué)決策,、降本增效,。AI助手用于個(gè)體場景的技術(shù)路徑主要是利用通用智能平臺，如智能手機(jī),、智能家居設(shè)備等,，通過語音識別和自然語言交互、多設(shè)備協(xié)同來輔助用戶完成任務(wù),，提升日常生活的便利性和服務(wù)的精準(zhǔn)性,?！霸诋a(chǎn)業(yè)場景中，AI助手主要關(guān)注于提升效率,、優(yōu)化決策和降低成本,，需要更多的定制化開發(fā)和集成協(xié)作；而在個(gè)人生活場景中,，AI助手則更注重于提供便捷化,、個(gè)性化、適應(yīng)性服務(wù),，未來的技術(shù)創(chuàng)新只能圍繞不同場景下各自的內(nèi)生邏輯進(jìn)行迭代優(yōu)化,?！比斡抡f,。魯俊群認(rèn)為，AI助手未來可能會向多模態(tài)交互以及具身智能方向發(fā)展,?！盀榱藢?shí)現(xiàn)具身智能,，需要將類ChatGPT等這些基礎(chǔ)大模型與進(jìn)化學(xué)習(xí)機(jī)制相結(jié)合，通過與物理世界交互取得的新數(shù)據(jù)（而不再是人類投喂的數(shù)據(jù)）來不斷學(xué)習(xí),，并適應(yīng)新環(huán)境,，優(yōu)化行為策略。多模態(tài)大模型能夠整合視覺,、聽覺,、觸覺等多種感官數(shù)據(jù)，提升機(jī)器人的理解能力,。使具身智能機(jī)器人在與物理世界的互動和理解方面更加人性化,。這些未來的AI助手機(jī)器人可以自主理解場景、識別自然語言指令,、規(guī)劃任務(wù),，并執(zhí)行操作，將是人類最得力的智能助理,?！濒斂∪赫f。從創(chuàng)新方向引導(dǎo),、應(yīng)用場景規(guī)范方面為AI助手提供支持保障當(dāng)前,，AI助手的服務(wù)升級與互聯(lián)互通是國內(nèi)多家互聯(lián)網(wǎng)科技公司持續(xù)探索的重點(diǎn)。楊超建議,，第一,，加強(qiáng)對用戶隱私和數(shù)據(jù)安全的保護(hù)。強(qiáng)制性地將用戶隱私和數(shù)據(jù)安全作為提供AI助手服務(wù)的前置條件,，引導(dǎo)和鼓勵(lì)相關(guān)機(jī)構(gòu)采用先進(jìn)的數(shù)據(jù)加密和匿名化技術(shù),，確保用戶數(shù)據(jù)的安全和隱私,。第二，增強(qiáng)AI助手決策過程的可解釋性,，讓用戶能夠理解其行為和決策邏輯,，從而提高用戶信任度。為整個(gè)社會更好接納AI助手創(chuàng)造良好的環(huán)境,，從而為在更廣闊的應(yīng)用場景中使用AI助手提供幫助,。第三，加強(qiáng)倫理和法規(guī)遵從,。根據(jù)人工智能技術(shù)的進(jìn)步及時(shí)修訂相關(guān)法律法規(guī)，完善對AI助手進(jìn)行規(guī)制的制度環(huán)境,，確保AI助手的開發(fā)和應(yīng)用符合倫理標(biāo)準(zhǔn)和法律法規(guī),，避免產(chǎn)生歧視、偏見等問題,?！皣艺邔用鎽?yīng)該從創(chuàng)新方向引導(dǎo)和應(yīng)用場景規(guī)范兩個(gè)方面出發(fā)，為AI助手的發(fā)展提供支持和保障,。包括明確AI助手的適用場景和范圍等,，避免誤用，更要避免國際資本集團(tuán)假借技術(shù)觸發(fā)虛假市場的濫用,。特別是在醫(yī)療,、教育、交通等關(guān)鍵領(lǐng)域,，應(yīng)嚴(yán)格規(guī)范AI助手的應(yīng)用條件和程序,。此外，要建立健全AI助手的監(jiān)管機(jī)制,，加強(qiáng)社會力量尤其是人民群眾對AI助手應(yīng)用的監(jiān)督和評估,，確保其合規(guī)性、合理性和安全性,。對于違規(guī)行為,，應(yīng)依法進(jìn)行處罰和追責(zé)?！比斡卤硎?。未來，企業(yè)可以利用AI助手優(yōu)化現(xiàn)有業(yè)務(wù)流程,，特別是在新產(chǎn)品研發(fā)和服務(wù)的創(chuàng)新應(yīng)用方面,，AI助手的普及將推動不同行業(yè)之間的跨界融合和協(xié)同發(fā)展，為企業(yè)帶來新的商業(yè)機(jī)會和合作伙伴,，進(jìn)而帶動商業(yè)模式和生態(tài)的變革,。中央財(cái)經(jīng)大學(xué)數(shù)字經(jīng)濟(jì)融合創(chuàng)新發(fā)展中心主任陳端在接受中國經(jīng)濟(jì)時(shí)報(bào)記者采訪時(shí)認(rèn)為,，企業(yè)運(yùn)用AI助手強(qiáng)化核心競爭力需要一系列的戰(zhàn)略規(guī)劃和技術(shù)實(shí)施。一是要識別關(guān)鍵業(yè)務(wù)場景,，深入了解業(yè)務(wù)需求,，確定AI助手在哪些環(huán)節(jié)能夠發(fā)揮最大價(jià)值，然后為選定的業(yè)務(wù)場景明確具體的需求和目標(biāo),，如提高客戶滿意度,、優(yōu)化庫存管理、增強(qiáng)市場分析能力等,。二是根據(jù)業(yè)務(wù)需求和技術(shù)成熟度,，選擇適合的AI技術(shù)和解決方案，要充分考慮與現(xiàn)有系統(tǒng)的兼容性,，確保AI助手能夠順利集成到企業(yè)的IT架構(gòu)中,。此外，還要建立完善的數(shù)據(jù)治理體系,，避免因?yàn)閿?shù)據(jù)偏差導(dǎo)致的結(jié)果偏差,。三是需要設(shè)立明確的評估指標(biāo)和機(jī)制，對AI助手的性能和效果進(jìn)行定期評估,，及時(shí)調(diào)整和優(yōu)化AI助手的算法和模型,，以提升其準(zhǔn)確性和效率。此外,，還需要關(guān)注AI助手可能帶來的倫理和社會問題,，確保其應(yīng)用符合道德和法律規(guī)范。