本報記者 趙姍微軟的創(chuàng)始人比爾·蓋茨有一句名言：“我們總是高估在一年或者兩年中能夠做到的,，而低估五年或十年中能夠做到的,?！边@句話用來理解人工智能的影響是相當(dāng)合適的,。目前，隨著人工智能產(chǎn)業(yè)飛速發(fā)展,，催生了新的人機交互模式,，核心便是AI大模型驅(qū)動的智能體（AI Agent）（以下簡稱“AI助手”）。AI助手讓“人機協(xié)同”成為新常態(tài),，個人與企業(yè)正在步入AI助手時代,。然而，伴隨著快速發(fā)展,，一系列問題與挑戰(zhàn)也隨之而來,。如何在應(yīng)對AI助手面臨挑戰(zhàn)的同時抓住發(fā)展機遇,，實現(xiàn)AI助手的可持續(xù)發(fā)展和更廣泛應(yīng)用，成為行業(yè)需要深入思考和探討的重點,。數(shù)據(jù)隱私安全,、倫理和法律等成為挑戰(zhàn)“AI助手在快速發(fā)展的同時，也面臨許多挑戰(zhàn)和問題,?！眹鴦?wù)院發(fā)展研究中心創(chuàng)新發(fā)展研究部第二研究室主任楊超在接受中國經(jīng)濟時報記者采訪時表示，在這些問題中,，最為關(guān)鍵的還在于AI助手使用所帶來的數(shù)據(jù)隱私安全,、倫理和法律問題。楊超認為,，從數(shù)據(jù)隱私保護來看,，由于人工智能系統(tǒng)本身需要依賴大量用戶數(shù)據(jù)進行訓(xùn)練，必然會導(dǎo)致相關(guān)機構(gòu)將AI助手服務(wù)期間獲取和產(chǎn)生的數(shù)據(jù)用于AI助手本身的優(yōu)化,，即使通過刪除個性化屬性等方式對數(shù)據(jù)脫敏,，數(shù)據(jù)隱私和安全問題也難以完全避免。尤其是隨著AI助手的普及,，其訓(xùn)練涉及的數(shù)據(jù)量將快速提升,，從而進一步放大安全風(fēng)險。從倫理和法律角度看,，隨著AI助手能力的增強,，其自主性和決策能力必然會顯著提升，在部分應(yīng)用場景中將會脫離人類的直接指令而開展自主行為,。這些自主行為一旦產(chǎn)生外部性影響,，就將引發(fā)倫理和法律問題?！耙粋€經(jīng)典的例子是,，人工智能自動駕駛的汽車在行駛過程中，前方突然出現(xiàn)行人,，改變行駛方向會傷害乘客,，不改變方向則會傷害行人。這種情況下無論AI助手做出何種選擇都會帶來倫理問題,?！睏畛f。清華大學(xué)復(fù)雜工程系統(tǒng)實驗室主任,、中國人工智能學(xué)會智能產(chǎn)品與產(chǎn)業(yè)工作委員會主任任勇在接受中國經(jīng)濟時報記者采訪時表示,，在當(dāng)下階段，AI助手仍然面臨技術(shù)創(chuàng)新與場景適配度的挑戰(zhàn)。一是算法的精準性與可靠性,。AI助手的核心——算法需要不斷學(xué)習(xí)和優(yōu)化以提高準確性和可靠性,，然而，面對復(fù)雜多變的用戶需求和場景,，當(dāng)前的算法往往難以達到期待的要求,。二是跨模態(tài)學(xué)習(xí)與環(huán)境理解能力。AI助手當(dāng)前的技術(shù)水平仍存在一定的局限性,，難以充分理解和整合應(yīng)用時空變化的模態(tài)信息,，對環(huán)境信息的多模態(tài)感知與理解尚有很大的提升空間。三是場景理解與適應(yīng)能力,。有些場景化需求超越了簡單的物理環(huán)境感知,，需要與場景自身的底層邏輯、應(yīng)用邏輯相結(jié)合才能理解,，這對當(dāng)下的AI助手而言是一個現(xiàn)實挑戰(zhàn),。“此外,，AI技術(shù)的復(fù)雜性和變化性使得已有法規(guī)難以完全覆蓋各種變動,。當(dāng)AI助手出現(xiàn)錯誤或造成損害時，責(zé)任追究便成了難題,?！比斡抡f?！癆I助手面臨的挑戰(zhàn)還有算法偏見與歧視,、過度依賴和成癮?！鼻迦A大學(xué)人工智能國際治理研究院秘書長,、歐美同學(xué)會研究院人工智能和數(shù)字經(jīng)濟研究中心執(zhí)行主任魯俊群在接受中國經(jīng)濟時報記者采訪時表示。魯俊群認為,，目前,，AI算法的訓(xùn)練數(shù)據(jù)還存在不完備性和偏向性。由于AI訓(xùn)練所使用的語料數(shù)據(jù)本身可能客觀上就存在著統(tǒng)計學(xué)上的一定偏差,，還有可能存在開發(fā)者的個人偏好等,，因此，現(xiàn)階段的各種AI助手仍有可能存在一定的算法偏見與歧視問題,。對此，有必要建立對技術(shù)背后訓(xùn)練數(shù)據(jù)和算法的審查機制,，如通過建立AI倫理委員會等形式加強審核,。另外，“假如一名用戶經(jīng)常與AI角色互動來尋求幫助和安慰,，容易對其產(chǎn)生情感上的依賴,，以此來填補情感需求上的空缺,，這有可能導(dǎo)致用戶沉迷虛擬世界而忽視現(xiàn)實世界。對此,，建議對于AI助手應(yīng)該使用得當(dāng),，同時應(yīng)該注意保持與現(xiàn)實世界的互動?！濒斂∪赫f,。未來發(fā)展方向：垂直領(lǐng)域?qū)I(yè)化、與具身智能的結(jié)合當(dāng)前,，大模型進入應(yīng)用時代,，多家科技公司都展出了最新AI應(yīng)用?！癆I助手發(fā)展的方向是多樣的,，在技術(shù)路線和應(yīng)用場景的雙重影響下，將會迎來種類繁多的AI助手,?！睏畛J為，其中,，有兩個方向是較為確定的,。一是垂直領(lǐng)域?qū)I(yè)化。在特定行業(yè)或領(lǐng)域,，如家政,、健康、醫(yī)療,、法律,、金融等大領(lǐng)域，甚至是制造業(yè)中不同行業(yè)等小領(lǐng)域,，AI助手都將具備更深入的專業(yè)知識和技能,，提供專業(yè)服務(wù)。二是與具身智能的結(jié)合,。隨著人工智能能力的提升,，其提供的服務(wù)將不僅是咨詢和智力服務(wù)，而是通過更多的感知和操作,，為人類提供直接與物質(zhì)世界交互的能力,。任勇認為，就發(fā)展方向而言,，AI助手在產(chǎn)業(yè)場景和個體場景中的應(yīng)用雖然都基于人工智能技術(shù),，但在技術(shù)路徑和響應(yīng)機理上存在著顯著差異。AI助手產(chǎn)業(yè)場景的技術(shù)路徑主要是針對特定需求，如制造業(yè),、物流,、醫(yī)療、教育等,，AI助手通常需要進行定制化開發(fā),，以符合行業(yè)的特定需求。利用相應(yīng)產(chǎn)業(yè)所產(chǎn)生的數(shù)據(jù),，結(jié)合各種機器學(xué)習(xí)算法,，AI助手能夠自主學(xué)習(xí)和優(yōu)化，實現(xiàn)智能排班,、任務(wù)分配,、數(shù)據(jù)分析、流程優(yōu)化等高級功能,。在此過程中,，AI助手往往需要與企業(yè)的其他系統(tǒng)進行集成，如ERP（企業(yè)資源計劃）,、CRM（客戶關(guān)系管理）等,，以實現(xiàn)信息的共享和協(xié)作。通過上述技術(shù)路徑實現(xiàn)對重復(fù)性煩瑣任務(wù)的自主處理和數(shù)據(jù)洞察,、科學(xué)決策,、降本增效。AI助手用于個體場景的技術(shù)路徑主要是利用通用智能平臺,，如智能手機,、智能家居設(shè)備等，通過語音識別和自然語言交互,、多設(shè)備協(xié)同來輔助用戶完成任務(wù),，提升日常生活的便利性和服務(wù)的精準性?！霸诋a(chǎn)業(yè)場景中,，AI助手主要關(guān)注于提升效率、優(yōu)化決策和降低成本,，需要更多的定制化開發(fā)和集成協(xié)作,；而在個人生活場景中，AI助手則更注重于提供便捷化,、個性化,、適應(yīng)性服務(wù)，未來的技術(shù)創(chuàng)新只能圍繞不同場景下各自的內(nèi)生邏輯進行迭代優(yōu)化,?！比斡抡f,。魯俊群認為,，AI助手未來可能會向多模態(tài)交互以及具身智能方向發(fā)展,。“為了實現(xiàn)具身智能,，需要將類ChatGPT等這些基礎(chǔ)大模型與進化學(xué)習(xí)機制相結(jié)合,，通過與物理世界交互取得的新數(shù)據(jù)（而不再是人類投喂的數(shù)據(jù)）來不斷學(xué)習(xí)，并適應(yīng)新環(huán)境,，優(yōu)化行為策略,。多模態(tài)大模型能夠整合視覺、聽覺,、觸覺等多種感官數(shù)據(jù),，提升機器人的理解能力。使具身智能機器人在與物理世界的互動和理解方面更加人性化,。這些未來的AI助手機器人可以自主理解場景,、識別自然語言指令、規(guī)劃任務(wù),，并執(zhí)行操作,，將是人類最得力的智能助理?！濒斂∪赫f,。從創(chuàng)新方向引導(dǎo)、應(yīng)用場景規(guī)范方面為AI助手提供支持保障當(dāng)前,，AI助手的服務(wù)升級與互聯(lián)互通是國內(nèi)多家互聯(lián)網(wǎng)科技公司持續(xù)探索的重點,。楊超建議，第一,，加強對用戶隱私和數(shù)據(jù)安全的保護,。強制性地將用戶隱私和數(shù)據(jù)安全作為提供AI助手服務(wù)的前置條件，引導(dǎo)和鼓勵相關(guān)機構(gòu)采用先進的數(shù)據(jù)加密和匿名化技術(shù),，確保用戶數(shù)據(jù)的安全和隱私,。第二，增強AI助手決策過程的可解釋性,，讓用戶能夠理解其行為和決策邏輯,，從而提高用戶信任度。為整個社會更好接納AI助手創(chuàng)造良好的環(huán)境,，從而為在更廣闊的應(yīng)用場景中使用AI助手提供幫助,。第三，加強倫理和法規(guī)遵從,。根據(jù)人工智能技術(shù)的進步及時修訂相關(guān)法律法規(guī),，完善對AI助手進行規(guī)制的制度環(huán)境,，確保AI助手的開發(fā)和應(yīng)用符合倫理標準和法律法規(guī)，避免產(chǎn)生歧視,、偏見等問題,。“國家政策層面應(yīng)該從創(chuàng)新方向引導(dǎo)和應(yīng)用場景規(guī)范兩個方面出發(fā),，為AI助手的發(fā)展提供支持和保障,。包括明確AI助手的適用場景和范圍等，避免誤用,，更要避免國際資本集團假借技術(shù)觸發(fā)虛假市場的濫用,。特別是在醫(yī)療、教育,、交通等關(guān)鍵領(lǐng)域,，應(yīng)嚴格規(guī)范AI助手的應(yīng)用條件和程序。此外,，要建立健全AI助手的監(jiān)管機制,，加強社會力量尤其是人民群眾對AI助手應(yīng)用的監(jiān)督和評估，確保其合規(guī)性,、合理性和安全性,。對于違規(guī)行為，應(yīng)依法進行處罰和追責(zé),?！比斡卤硎尽Ｎ磥?，企業(yè)可以利用AI助手優(yōu)化現(xiàn)有業(yè)務(wù)流程,，特別是在新產(chǎn)品研發(fā)和服務(wù)的創(chuàng)新應(yīng)用方面，AI助手的普及將推動不同行業(yè)之間的跨界融合和協(xié)同發(fā)展,，為企業(yè)帶來新的商業(yè)機會和合作伙伴,，進而帶動商業(yè)模式和生態(tài)的變革。中央財經(jīng)大學(xué)數(shù)字經(jīng)濟融合創(chuàng)新發(fā)展中心主任陳端在接受中國經(jīng)濟時報記者采訪時認為,，企業(yè)運用AI助手強化核心競爭力需要一系列的戰(zhàn)略規(guī)劃和技術(shù)實施,。一是要識別關(guān)鍵業(yè)務(wù)場景，深入了解業(yè)務(wù)需求,，確定AI助手在哪些環(huán)節(jié)能夠發(fā)揮最大價值,，然后為選定的業(yè)務(wù)場景明確具體的需求和目標，如提高客戶滿意度,、優(yōu)化庫存管理,、增強市場分析能力等。二是根據(jù)業(yè)務(wù)需求和技術(shù)成熟度,，選擇適合的AI技術(shù)和解決方案,，要充分考慮與現(xiàn)有系統(tǒng)的兼容性,，確保AI助手能夠順利集成到企業(yè)的IT架構(gòu)中。此外,，還要建立完善的數(shù)據(jù)治理體系,，避免因為數(shù)據(jù)偏差導(dǎo)致的結(jié)果偏差。三是需要設(shè)立明確的評估指標和機制,，對AI助手的性能和效果進行定期評估,，及時調(diào)整和優(yōu)化AI助手的算法和模型，以提升其準確性和效率,。此外，還需要關(guān)注AI助手可能帶來的倫理和社會問題,，確保其應(yīng)用符合道德和法律規(guī)范,。