圖為在第六屆進(jìn)博會(huì)技術(shù)裝備展區(qū),，觀眾與軟銀機(jī)器人互動(dòng)。 新華社記者 張建松攝◎記者 倪 麟隨著《全球人工智能治理倡議》的發(fā)布,，人工智能治理再次引發(fā)全球關(guān)注,。作為引領(lǐng)科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性力量,，人工智能的廣泛應(yīng)用正在深刻改變經(jīng)濟(jì)社會(huì)結(jié)構(gòu)，重塑人們的生活方式,。同時(shí),，人工智能也帶來(lái)改變就業(yè)結(jié)構(gòu)、沖擊法律與社會(huì)倫理,、侵犯?jìng)€(gè)人隱私等問(wèn)題,，對(duì)政府管理、經(jīng)濟(jì)安全和社會(huì)穩(wěn)定乃至全球治理產(chǎn)生深遠(yuǎn)影響,。當(dāng)前,，該如何讓人工智能拾起初心，平衡其安全和發(fā)展,？科技日?qǐng)?bào)記者近日邀請(qǐng)中國(guó)工程院院士沈昌祥,、百度首席技術(shù)官王海峰、清華大學(xué)人工智能研究院視覺(jué)智能研究中心主任鄧志東共同探討,，解讀人工智能發(fā)展之路,。本意：人工和智能，孰輕孰重記者：人工智能定義最早出現(xiàn)在1956年達(dá)特茅斯會(huì)議上,。從各位的實(shí)踐來(lái)看,，人工智能是什么？沈昌祥：人工智能是指通過(guò)人類設(shè)計(jì)和編程,，使智能機(jī)器能夠完成各種復(fù)雜任務(wù),，從而取代傳統(tǒng)人工角色。王海峰：人工智能是研究和開(kāi)發(fā)模擬,、延伸和擴(kuò)展人類智能的理論,、方法,、技術(shù)及應(yīng)用系統(tǒng)的科學(xué)。現(xiàn)階段,，人工智能已成為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù),，正驅(qū)動(dòng)第四次工業(yè)革命，將人類社會(huì)帶入智能時(shí)代,。鄧志東：從實(shí)踐來(lái)看,，人工智能具有模擬人類解決各種復(fù)雜任務(wù)的能力,。記者：隨著ChatGPT等產(chǎn)品的出現(xiàn)，有人認(rèn)為人工的作用逐漸被智能取代,，也有人認(rèn)為智能只是輔助人工的工具,。在各位所屬領(lǐng)域中，對(duì)于人工智能中“人工”與“智能”的權(quán)衡有何看法,？沈昌祥：智能機(jī)器是由人類智慧演化而來(lái)的智能產(chǎn)品,，能根據(jù)人類的喜好和需求，提供個(gè)性化服務(wù),。智能機(jī)器的所有動(dòng)作和行為都是由人類編程和控制的,，不可能完全脫離人類的掌控,。王海峰：人工智能發(fā)展要“以人為本”,，增進(jìn)人類福祉。以大語(yǔ)言模型為代表的人工智能技術(shù)飛速發(fā)展,，文心一言、ChatGPT可與人對(duì)話,、輔助創(chuàng)作,，提升人們的工作效率與生活體驗(yàn),。本質(zhì)上它仍是提升生產(chǎn)力的工具，能替代人類完成部分工作,，也創(chuàng)造了更多工作機(jī)會(huì),。未來(lái)，人類將作為管理者,，人工智能將輔助人,，與人協(xié)同，提高工作效率,，激發(fā)創(chuàng)造力,。社會(huì)各界應(yīng)對(duì)人工智能抱有正確認(rèn)知和合理期待,，推動(dòng)人工智能發(fā)展,，使其更好地為人類服務(wù),。鄧志東：“人工”與“智能”密不可分。人工智能指機(jī)器模擬實(shí)現(xiàn)的人類智能,，兩者關(guān)系應(yīng)稱為人工智能與人類的關(guān)系,。短期內(nèi)，通用人工智能是輔助工具,，幫助人類完成挑戰(zhàn)性任務(wù),。長(zhǎng)遠(yuǎn)來(lái)看,，交互式人工智能會(huì)推動(dòng)人類與智能體“共融”,，邁向“人—機(jī)融合發(fā)展”的嶄新世界,。定位：增長(zhǎng)產(chǎn)品還是基礎(chǔ)設(shè)施記者：人工智能對(duì)相關(guān)行業(yè)發(fā)展產(chǎn)生了重要影響,。各位更傾向于將人工智能視為增長(zhǎng)產(chǎn)品還是基礎(chǔ)設(shè)施？沈昌祥：人工智能最初是獨(dú)立產(chǎn)品,，后來(lái)被集成為具有各種功能的設(shè)備,。當(dāng)設(shè)備相互連接、協(xié)調(diào)工作時(shí),，就形成了系統(tǒng),。這些系統(tǒng)的集合和互相作用，構(gòu)建起人工智能基礎(chǔ)設(shè)施的框架,，為我們提供各種產(chǎn)品和服務(wù),。記者：在人工智能基礎(chǔ)設(shè)施建設(shè)領(lǐng)域，各位對(duì)哪個(gè)方面特別關(guān)注,？沈昌祥：安全問(wèn)題至關(guān)重要,。人工智能衍生出人工智能自身失誤、智能硬件被惡意襲擊以及機(jī)器人智能行為體失控等重大風(fēng)險(xiǎn),。需對(duì)這些問(wèn)題加強(qiáng)研究和防范,，構(gòu)建由法律、戰(zhàn)略和制度等組成的安全可信的保障體系,，確保人工智能基礎(chǔ)設(shè)施的安全,、穩(wěn)定,、可持續(xù)運(yùn)行。王海峰：我長(zhǎng)期關(guān)注深度學(xué)習(xí)平臺(tái)和大模型,。深度學(xué)習(xí)平臺(tái)相當(dāng)于智能時(shí)代的操作系統(tǒng),，處于人工智能技術(shù)體系的關(guān)鍵核心位置。深度學(xué)習(xí)呈現(xiàn)出標(biāo)準(zhǔn)化,、自動(dòng)化,、模塊化的特征，推動(dòng)人工智能進(jìn)入工業(yè)大生產(chǎn)階段,。隨著深度學(xué)習(xí)技術(shù)的普及和預(yù)訓(xùn)練技術(shù)的突破,，大模型已成為人工智能發(fā)展的主流方向，具有效果好,、泛化性強(qiáng),、研發(fā)流程標(biāo)準(zhǔn)化的特點(diǎn),，正成為人工智能技術(shù)及應(yīng)用的新基座,。鄧志東：從文本單模態(tài)的基礎(chǔ)大型語(yǔ)言模型到原生多模態(tài)大型語(yǔ)言模型，需要解決高水平人工智能通用大模型的API接入問(wèn)題,，推進(jìn)“以我為主”的人工智能基礎(chǔ)設(shè)施建設(shè),，包括人工智能芯片與云服務(wù)、開(kāi)源框架生態(tài)建設(shè)等,。視覺(jué)智能領(lǐng)域需要打好基礎(chǔ),，從國(guó)家層面推進(jìn)人工智能基礎(chǔ)設(shè)施建設(shè)，補(bǔ)短板,，賦能從基礎(chǔ)與基座大模型到垂域模型的開(kāi)發(fā)與應(yīng)用。記者：企業(yè)在利用人工智能時(shí)可能面臨雙重需求,。能否根據(jù)經(jīng)驗(yàn),，談?wù)勗谶@種情況下，企業(yè)如何將人工智能的價(jià)值最大化,？沈昌祥：企業(yè)需要考量產(chǎn)業(yè)數(shù)字化,、數(shù)字產(chǎn)業(yè)化以及社會(huì)智能化的需求，充分利用人工智能技術(shù),，提升生產(chǎn)效率和服務(wù)質(zhì)量,。同時(shí)，應(yīng)高度重視人工智能領(lǐng)域的人才培養(yǎng)與引進(jìn)，推動(dòng)技術(shù)研發(fā),，以保持技術(shù)領(lǐng)先地位,。還應(yīng)加強(qiáng)與其他行業(yè)的合作，不斷探索新的商業(yè)模式和應(yīng)用場(chǎng)景,，為社會(huì)提供更便捷,、更高效的服務(wù)。王海峰：百度既是人工智能基礎(chǔ)設(shè)施建設(shè)者,，也是人工智能技術(shù)創(chuàng)新引領(lǐng)者,。以飛槳深度學(xué)習(xí)平臺(tái)、文心大模型等為代表的人工智能技術(shù),，已成為智能時(shí)代的重要基礎(chǔ)設(shè)施,，賦能制造、能源,、農(nóng)業(yè)等領(lǐng)域,，帶動(dòng)新技術(shù)、新產(chǎn)品,、新業(yè)態(tài)等的發(fā)展,。大模型產(chǎn)業(yè)落地，可采取“集約化生產(chǎn),，平臺(tái)化應(yīng)用”模式,，即具有算法、算力和數(shù)據(jù)綜合優(yōu)勢(shì)的企業(yè)將模型生產(chǎn)的復(fù)雜過(guò)程封裝起來(lái),，通過(guò)低門檻,、高效率的生產(chǎn)平臺(tái),，為千行百業(yè)提供服務(wù),。文心大模型支撐大量AI原生應(yīng)用的開(kāi)發(fā)，重構(gòu)現(xiàn)有產(chǎn)品,，“從0到1”構(gòu)想出全新產(chǎn)品,，構(gòu)建人工智能原生應(yīng)用生態(tài)，推動(dòng)經(jīng)濟(jì)社會(huì)高質(zhì)量增長(zhǎng),。鄧志東：以多模態(tài)大型語(yǔ)言模型為代表的通用人工智能產(chǎn)業(yè)的發(fā)展,，尚處于產(chǎn)業(yè)早期。不同企業(yè)應(yīng)有不同側(cè)重,，人工智能頭部企業(yè)要對(duì)標(biāo)具有國(guó)際一流水平的基礎(chǔ),、基座大模型產(chǎn)品，縮短高性能AI芯片的國(guó)際差距,。中小企業(yè)要積極開(kāi)展人工智能價(jià)值與應(yīng)用產(chǎn)品的研發(fā),，著重于應(yīng)用場(chǎng)景多樣性、落地速度與商業(yè)模式創(chuàng)新,。風(fēng)險(xiǎn)：無(wú)處不在,，誰(shuí)更堪憂記者：當(dāng)前人工智能風(fēng)險(xiǎn)普遍存在嗎,？請(qǐng)結(jié)合具體案例說(shuō)明。沈昌祥：人工智能風(fēng)險(xiǎn)與網(wǎng)絡(luò)安全密切相關(guān),。網(wǎng)絡(luò)安全是人工智能發(fā)展的底座,，其風(fēng)險(xiǎn)度=脆弱度×威脅度，其中脆弱度來(lái)源于圖靈計(jì)算原理缺少攻防安全理念,、馮·諾依曼體系結(jié)構(gòu)缺少防護(hù)部件和重大工程應(yīng)用無(wú)安全治理服務(wù)三大原始性缺失,。這使得網(wǎng)絡(luò)空間極其脆弱，受網(wǎng)絡(luò)攻擊的風(fēng)險(xiǎn)性增加,。2021年5月7日,，美國(guó)最大的成品油管道運(yùn)營(yíng)商科洛尼爾管道運(yùn)輸公司（Colonial Pipeline）受到勒索軟件攻擊，被迫關(guān)閉其美國(guó)東部沿海各州智能化供油網(wǎng)絡(luò),，美國(guó)政府宣布美國(guó)17個(gè)州和華盛頓特區(qū)進(jìn)入緊急狀態(tài),。王海峰：從歷次工業(yè)革命來(lái)看，驅(qū)動(dòng)科技革命和產(chǎn)業(yè)變革的技術(shù),，無(wú)論是機(jī)械技術(shù),、電氣技術(shù)、信息技術(shù),，還是當(dāng)前的人工智能技術(shù),，在為人類帶來(lái)巨大價(jià)值的同時(shí)，也會(huì)帶來(lái)一定的風(fēng)險(xiǎn),。但隨著科技的進(jìn)步,，人類有足夠的能力控制風(fēng)險(xiǎn)，充分發(fā)揮新技術(shù)的價(jià)值,。鄧志東：通用人工智能的發(fā)展速度已超出大多數(shù)人的預(yù)期,。只要通用人工智能發(fā)展，其風(fēng)險(xiǎn)就必然會(huì)普遍存在,。從法律,、倫理、隱私到就業(yè)等,，各個(gè)領(lǐng)域與賽道,、千行百業(yè)都面臨重寫、重塑的挑戰(zhàn)與風(fēng)險(xiǎn),。記者：在自動(dòng)駕駛,、智慧醫(yī)療和人臉識(shí)別等特定領(lǐng)域，人工智能風(fēng)險(xiǎn)是否更為突出,？沈昌祥：自動(dòng)駕駛,、智慧醫(yī)療和人臉識(shí)別等技術(shù)，一旦出現(xiàn)問(wèn)題將威脅到人類的生命安全和財(cái)產(chǎn)安全。IT系統(tǒng)設(shè)計(jì)不能窮盡所有邏輯,，利用邏輯缺陷挖掘漏洞進(jìn)行攻擊的風(fēng)險(xiǎn)一直存在,，傳統(tǒng)“封堵查殺”難以應(yīng)對(duì)未知惡意攻擊，找漏洞,、打補(bǔ)丁的思路也不利于整體網(wǎng)絡(luò)安全,，需要通過(guò)由被動(dòng)防御轉(zhuǎn)為主動(dòng)免疫的方式來(lái)降低人工智能特定領(lǐng)域風(fēng)險(xiǎn)。治理：安全與發(fā)展能否相向而行記者：隨著人工智能技術(shù)的持續(xù)發(fā)展,，數(shù)據(jù)隱私和安全,、能耗等問(wèn)題日益凸顯。你們認(rèn)為,，針對(duì)這些問(wèn)題應(yīng)先發(fā)展后治理還是邊發(fā)展邊治理,？沈昌祥：要注重治理和發(fā)展平衡。應(yīng)構(gòu)建主動(dòng)免疫可信計(jì)算新模式,，打造計(jì)算部件和防護(hù)部件為核心的并行體系結(jié)構(gòu),，建設(shè)可信安全管理中心支持下的主動(dòng)免疫的防護(hù)框架，實(shí)現(xiàn)主體,、客體,、操作,、環(huán)境可信動(dòng)態(tài)訪問(wèn)控制，確保體系結(jié)構(gòu),、資源配置、操作行為,、數(shù)據(jù)存儲(chǔ),、策略管理可信。以此達(dá)到讓攻擊者進(jìn)不去,、非授權(quán)者重要信息拿不到,、竊取保密信息看不懂,、系統(tǒng)和信息改不了、系統(tǒng)工作癱不成和攻擊行為賴不掉的防護(hù)效果,，全方位維護(hù)人工智能安全,。王海峰：要堅(jiān)持發(fā)展和安全并重的原則，保障安全的同時(shí)支持和鼓勵(lì)創(chuàng)新發(fā)展,。只有持續(xù)發(fā)展人工智能技術(shù),，才能在發(fā)展中發(fā)現(xiàn)問(wèn)題、解決問(wèn)題,，把握科技競(jìng)爭(zhēng)主動(dòng)權(quán),。記者：從各位的經(jīng)驗(yàn)來(lái)看，行業(yè)或者企業(yè)應(yīng)如何預(yù)防人工智能潛在的安全問(wèn)題,？沈昌祥：要科學(xué)嚴(yán)謹(jǐn)分析研究,，堅(jiān)持自主創(chuàng)新，掌握核心競(jìng)爭(zhēng)力,，把握主動(dòng)優(yōu)勢(shì),。要以具有可信計(jì)算功能的國(guó)產(chǎn)軟硬件設(shè)備為基礎(chǔ)，在完備的法律,、戰(zhàn)略和制度的支持下,，盡快建立起完整的可信計(jì)算產(chǎn)品鏈，打造安全可信人工智能新生態(tài),，筑牢數(shù)字經(jīng)濟(jì)發(fā)展基石,。王海峰：正確認(rèn)識(shí)人工智能潛在的安全問(wèn)題。任何一項(xiàng)技術(shù)的發(fā)展和應(yīng)用,，都會(huì)帶來(lái)潛在的安全問(wèn)題,，而人工智能作為驅(qū)動(dòng)科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，其安全問(wèn)題更加受到關(guān)注,。技術(shù)安全問(wèn)題,，可以用技術(shù)的手段來(lái)解決,；產(chǎn)業(yè)安全問(wèn)題，一方面政府應(yīng)支持自主可控的人工智能技術(shù)及應(yīng)用,，另一方面應(yīng)建立健全相關(guān)法律法規(guī)，推動(dòng)產(chǎn)業(yè)在合適尺度,、明確標(biāo)準(zhǔn)之下發(fā)展人工智能技術(shù)及應(yīng)用,。鄧志東：人工智能發(fā)展在安全問(wèn)題上尚存在許多不確定性,。行業(yè)或企業(yè)需要邊走邊看,，大膽深入，小心布防,，造福人類,。記者：人工智能治理已經(jīng)上升為國(guó)際競(jìng)爭(zhēng)合作的重要議題。在推動(dòng)人工智能治理國(guó)際合作方面,，各位有何見(jiàn)解,？沈昌祥：應(yīng)認(rèn)真貫徹執(zhí)行《全球人工智能治理倡議》,，從創(chuàng)新發(fā)展,、安全保障、治理三個(gè)方面著手,，全方位保障我國(guó)人工智能基礎(chǔ)設(shè)施,，并積極走出國(guó)門，與全球伙伴共建網(wǎng)絡(luò)空間命運(yùn)共同體,。王海峰：人工智能領(lǐng)域的研究本身是開(kāi)放合作的,，人工智能治理是其研究熱點(diǎn)之一，各方都很關(guān)切,。來(lái)自全球?qū)W術(shù)界,、產(chǎn)業(yè)界的專家學(xué)者，都可以通過(guò)開(kāi)源社區(qū),、項(xiàng)目合作,、學(xué)術(shù)會(huì)議、專題研討等多種方式開(kāi)展合作交流,，貢獻(xiàn)智慧,。鄧志東：人工智能的治理與國(guó)際競(jìng)合，已超越了學(xué)術(shù)與產(chǎn)業(yè),，需要更強(qiáng)而有力的國(guó)際合作,，以期取得國(guó)際共識(shí)，盡快構(gòu)建具有約束性,、一致性與平衡性的國(guó)際規(guī)范,。來(lái)源：科技日?qǐng)?bào)