以AI為代表的革命,，實(shí)際上是知識生產(chǎn)力的變革，作為知識革命,，這在人類歷史上還沒有先例,。文︱何積豐?編輯顧佳贇1950年，在人工智能啟蒙時期,，艾倫·圖靈提出了著名的“圖靈測試”,，給出了判斷機(jī)器是否具有“智能”的方法,。受限于技術(shù)水平,，當(dāng)時的人工智能僅限于小范圍實(shí)驗(yàn),。20世紀(jì)50年代至90年代中期，人工智能發(fā)展處于比較緩慢的階段,，原因一是當(dāng)時算力基礎(chǔ)較差,，二是整個過程依賴符號計算、計算規(guī)則而非數(shù)據(jù),。第二個發(fā)展階段是從20世紀(jì)90年代至2015年前后,，AI從實(shí)驗(yàn)性向?qū)嵱眯赞D(zhuǎn)變，受限于算法瓶頸,，無法直接進(jìn)行內(nèi)容生成,。主要是以深度學(xué)習(xí)開始，建設(shè)小模型,，每5至7個月要求算力提高一倍,。從2015年前后至今,，人工智能進(jìn)入了快速發(fā)展階段。生成式大模型時代到來后,，對算力要求是每1至2個月翻一番,，算力基礎(chǔ)已落后于科技發(fā)展的需求。這個階段深度學(xué)習(xí)算法不斷迭代,，人工智能生成內(nèi)容百花齊放,，以AI為代表的革命，實(shí)際上是知識生產(chǎn)力的變革,，作為知識革命,，這在人類歷史上還沒有先例。人工智能學(xué)習(xí)知識的速度是人類平均速度的1倍以上,，人工智能檢索知識的時間是人類檢索時間的20%,。預(yù)計2026年后，人類歷史上所有有價值的文字?jǐn)?shù)據(jù),，智能系統(tǒng)都可以自動消化,。人類創(chuàng)造了一種物種，比人類學(xué)習(xí)得快,，比人類聰明,，但我們有駕馭的能力嗎？這是人類第一次遇到這樣的問題,。過去三次工業(yè)革命,，所有的東西都是由人創(chuàng)造，人工智能在這方面有明顯差別,。2023年7月8日,，2023世界人工智能大會會場“無孔不入”潛藏安全隱患據(jù)不完全統(tǒng)計，人工智能的行業(yè)采用率達(dá)到60%左右,，與各行業(yè)的關(guān)系非常密切,，可以說沒有一個行業(yè)與人工智能無關(guān)。好的技術(shù)出現(xiàn)后,，我們往往會擔(dān)心安全問題,。人工智能的安全隱患客觀上會產(chǎn)生哪些威脅？這里從兩個角度進(jìn)行分析：一是大模型開啟了真正意義上的通用人工智能,，人類如何去應(yīng)對一個比自己更強(qiáng)大的智能,？當(dāng)人類創(chuàng)造出比自己更聰明的“物種”，是否有足夠能力去駕馭,？這個問題現(xiàn)在并沒有明確的答案,。有人擔(dān)心人工智能可能比核武器還危險，需要降低發(fā)展速度,；也有人認(rèn)為人工智能推動人類進(jìn)步,，應(yīng)該盡可能發(fā)揮其作用,。二是大模型的通用能力讓其能夠應(yīng)用到人類生產(chǎn)生活的各個場景中，可謂“無孔不入”,，一旦AI出現(xiàn)安全問題,，其影響將難以預(yù)估。AI的三要素分別是數(shù)據(jù),、算力和算法,。關(guān)于AI的安全隱患早已存在，大模型時代的隱私安全問題涉及三個維度：首先,，訓(xùn)練過程會涉及大量用戶個人信息和數(shù)據(jù),；其次，使用過程會涉及很多用戶私密信息,，這些信息沒有受到應(yīng)有的保護(hù),；第三，生成能力讓“隱私泄露”的方式變得多樣化,，也讓隱私保護(hù)更加困難,。在提供大模型訓(xùn)練數(shù)據(jù)的過程中,，雖可通過脫敏處理使數(shù)據(jù)更加抽象和類型化,，但因?yàn)榇竽Ｐ涂梢赃M(jìn)行跨領(lǐng)域的交叉推理，所以依然能夠還原原始數(shù)據(jù)里的信息,。大模型階段使用過程需要通過互動進(jìn)行,，系統(tǒng)會將交流數(shù)據(jù)和訓(xùn)練數(shù)據(jù)捆綁在一起，記錄互動過程中的對話用于下一步訓(xùn)練,。除了在訓(xùn)練過程,、使用過程中可能發(fā)生數(shù)據(jù)隱私泄露，生成式大模型依靠語料庫,，還會按照“意志”對數(shù)據(jù)進(jìn)行修改,，而為搜索引擎建立的數(shù)據(jù)保護(hù)策略對大模型也無法奏效?！皩R”要求更審視人類文化為了應(yīng)對安全隱患問題,，需要對人工智能進(jìn)行對齊（alignment）?！皩R”是指系統(tǒng)的目標(biāo)和人類價值觀一致,，使其符合設(shè)計者的利益和預(yù)期，不會產(chǎn)生意外的有害后果,。然而在實(shí)際操作中,，做好“對齊”會遇到兩大類挑戰(zhàn)：一是對齊的基礎(chǔ)——“人類價值觀”是多元且動態(tài)變化的，對齊需要標(biāo)桿,，而全世界有很多不同的價值觀,。人類的價值和判定系統(tǒng)本身就充滿偏見和矛盾,，有非常多相互矛盾之處和沒有明確指出的潛在條件。這導(dǎo)致“對齊”成為一項(xiàng)令人眼花繚亂的跨學(xué)科研究,，不僅考驗(yàn)我們的技術(shù),，也在審視我們的文化。二是大模型“有用性”與“無害性”兩個目標(biāo)存在沖突,?！皩R”會發(fā)生另一個悖論。訓(xùn)練大模型價格高昂,，例如一個幾十億規(guī)模的大模型,，訓(xùn)練所需的電費(fèi)在100萬元左右。而要想訓(xùn)練出一個“不會犯錯”的大模型,，那么“什么都不回答”,，選擇“躺平”反而是最有可能實(shí)現(xiàn)安全性的——這就導(dǎo)致人們在大模型的可用性和安全性之間面臨艱難選擇。目前,，我們對大模型時代的安全問題依然“心里沒底”,，在“黑暗叢林”中到處都能感受到安全威脅，但我們找不到安全威脅的源頭,，往往只能通過打補(bǔ)丁的方法“就事論事”,，找到對付眼前問題的答案，卻沒有系統(tǒng)的解決方案,。AI重構(gòu)社會分工AI正在重構(gòu)社會分工,。主要體現(xiàn)在以下方面：人工智能的應(yīng)用使得那些例行性的任務(wù)變得更加次要，一些工作將會由AI來完成,。人們將專注于更高層次的規(guī)劃和分析工作,。未來的職場將會更加重視發(fā)現(xiàn)和解決問題的能力、創(chuàng)造力,，以及批判性思維,，還有主動學(xué)習(xí)和獲得新技能的能力?？蛻艋?、文書寫作、代碼編寫,、資料搜索與收集,、數(shù)據(jù)分析研究等工作內(nèi)容可以由AI取代，節(jié)省大量人力成本,。AI帶來的價值增長,，約75%集中在四個領(lǐng)域：客戶運(yùn)營、營銷和銷售,、軟件工程,、產(chǎn)品研發(fā),。在客戶運(yùn)營方面，AI可改善客戶體驗(yàn)并提升客服生產(chǎn)力,。例如提供客戶自助服務(wù),、在初次交流時就提供解決方案、減少響應(yīng)時間,、促進(jìn)銷量增加等,。在營銷和銷售方面，AI能夠提高個性化,、內(nèi)容創(chuàng)建和銷售效率,。包括高效的內(nèi)容創(chuàng)建、充分利用不同類型的數(shù)據(jù),、優(yōu)化搜索引擎,、實(shí)現(xiàn)產(chǎn)品和搜索個性化。在軟件工程方面,，AI可以作為編碼助理加快開發(fā)人員的工作,，將直接影響軟件工程支出的20%-45%。這一價值主要在于可減少部分工作時間,，如生成初始代碼,、代碼修正和重構(gòu)、根本原因分析以及生成新的系統(tǒng)設(shè)計等,。每一次軟件革新都會孕育新一代超級平臺：從早期的windows操作系統(tǒng),，到智能手機(jī)的各種App Store,；ChatGPT的誕生將產(chǎn)生一種新的社會工業(yè)性服務(wù)平臺,，有望成為人人可使用的社會基礎(chǔ)設(shè)施。在產(chǎn)品研發(fā)方面,，AI可減少研發(fā)和設(shè)計時間,，改進(jìn)產(chǎn)品模擬。包括提高產(chǎn)品研發(fā)的生產(chǎn)力,、加速產(chǎn)品上市時間,、優(yōu)化產(chǎn)品設(shè)計、改善產(chǎn)品質(zhì)量,。下一步,，生物制藥工程可能會大量使用AI促進(jìn)實(shí)驗(yàn)，預(yù)計降低成本可達(dá)10%-15%,。AI與實(shí)體經(jīng)濟(jì)緊密相關(guān),，智能化發(fā)展中的應(yīng)用和創(chuàng)新主要體現(xiàn)在三方面：一是數(shù)字孿生。由于成本,、風(fēng)險等原因,，我們無法對物理世界的規(guī)律在物理世界完成全部的相應(yīng)實(shí)驗(yàn),。因此需要在虛擬世界建立數(shù)學(xué)模型，通過數(shù)學(xué)模型進(jìn)行實(shí)驗(yàn),，觀察對應(yīng)結(jié)果和實(shí)際理想是否一致,。在數(shù)字孿生方面有很多大模型技術(shù)在應(yīng)用，例如數(shù)據(jù)匯集,、實(shí)時數(shù)據(jù)驅(qū)動,、仿真模擬、數(shù)字工藝配置,、打通數(shù)據(jù)脈絡(luò),、優(yōu)化制造流程等。二是智慧工廠,。高質(zhì)量發(fā)展的重要部分是新生產(chǎn)工藝,、新生產(chǎn)方式。在智慧工廠,，AI可以完成智能運(yùn)營,、智能生產(chǎn)、物流管理,、工藝優(yōu)化,、庫存管理、質(zhì)量管理等工作,。三是工業(yè)互聯(lián)網(wǎng),。我國是5G大國，據(jù)統(tǒng)計,，目前已建成超過330萬數(shù)字5G基站,，為工業(yè)互聯(lián)網(wǎng)提供了很好的設(shè)施基礎(chǔ)。通過AI可以進(jìn)行海量數(shù)據(jù)處理,、云邊端協(xié)同,、分布式計算、網(wǎng)絡(luò)協(xié)同,、知識復(fù)用,、實(shí)現(xiàn)全面互聯(lián)等。勇于擁抱AIAI可對社會經(jīng)濟(jì)帶來正面影響,。預(yù)估算,，AI每年可為全球經(jīng)濟(jì)帶來2.6萬億-4.4萬億美元的增長，生產(chǎn)力可以提高0.1%-0.6%,，相當(dāng)于每年貢獻(xiàn)一個英國的GDP,。AI也會對個人工作產(chǎn)生重要影響。例如，AI可以使60%-70%的工作實(shí)現(xiàn)自動化,，對高學(xué)歷,、高收入的知識工作者影響更大。在人工智能不斷改變?nèi)祟惿鐣慕裉?，人要專精自己的?yōu)勢和專業(yè)領(lǐng)域,，不斷提高自己的專業(yè)水平，思考如何把AI應(yīng)用到自己的專業(yè)中,，提高自己的產(chǎn)出效率,。同時，不斷接收新信息,、擁抱新變化,，拓展自己的事業(yè)，接觸更多的人和行業(yè),。在未來一段時間內(nèi),，AI主要研究方向可聚焦以下方面：一是解決軟件和硬件的融合問題；二是跨行業(yè)的多模態(tài)融合,；三是提升使用便捷度,。大模型受歡迎的原因就在于可以使用自然語言。在人機(jī)界面使用自然語言是極大的突破,，當(dāng)界面越容易使用,，使用者就越多，市場面也就更廣,。（作者系中國科學(xué)院院士,、華科智谷人工智能研究院院長）