以AI為代表的革命,，實(shí)際上是知識(shí)生產(chǎn)力的變革,，作為知識(shí)革命，這在人類歷史上還沒(méi)有先例,。文︱何積豐?編輯顧佳贇1950年,，在人工智能啟蒙時(shí)期,，艾倫·圖靈提出了著名的“圖靈測(cè)試”，給出了判斷機(jī)器是否具有“智能”的方法,。受限于技術(shù)水平,，當(dāng)時(shí)的人工智能僅限于小范圍實(shí)驗(yàn),。20世紀(jì)50年代至90年代中期，人工智能發(fā)展處于比較緩慢的階段,，原因一是當(dāng)時(shí)算力基礎(chǔ)較差,，二是整個(gè)過(guò)程依賴符號(hào)計(jì)算、計(jì)算規(guī)則而非數(shù)據(jù),。第二個(gè)發(fā)展階段是從20世紀(jì)90年代至2015年前后,，AI從實(shí)驗(yàn)性向?qū)嵱眯赞D(zhuǎn)變,，受限于算法瓶頸，無(wú)法直接進(jìn)行內(nèi)容生成,。主要是以深度學(xué)習(xí)開始,，建設(shè)小模型，每5至7個(gè)月要求算力提高一倍,。從2015年前后至今,，人工智能進(jìn)入了快速發(fā)展階段。生成式大模型時(shí)代到來(lái)后,，對(duì)算力要求是每1至2個(gè)月翻一番,，算力基礎(chǔ)已落后于科技發(fā)展的需求。這個(gè)階段深度學(xué)習(xí)算法不斷迭代,，人工智能生成內(nèi)容百花齊放,，以AI為代表的革命，實(shí)際上是知識(shí)生產(chǎn)力的變革,，作為知識(shí)革命,，這在人類歷史上還沒(méi)有先例。人工智能學(xué)習(xí)知識(shí)的速度是人類平均速度的1倍以上,，人工智能檢索知識(shí)的時(shí)間是人類檢索時(shí)間的20%,。預(yù)計(jì)2026年后，人類歷史上所有有價(jià)值的文字?jǐn)?shù)據(jù),，智能系統(tǒng)都可以自動(dòng)消化,。人類創(chuàng)造了一種物種，比人類學(xué)習(xí)得快,，比人類聰明,，但我們有駕馭的能力嗎？這是人類第一次遇到這樣的問(wèn)題,。過(guò)去三次工業(yè)革命,，所有的東西都是由人創(chuàng)造，人工智能在這方面有明顯差別,。2023年7月8日，2023世界人工智能大會(huì)會(huì)場(chǎng)“無(wú)孔不入”潛藏安全隱患據(jù)不完全統(tǒng)計(jì),，人工智能的行業(yè)采用率達(dá)到60%左右,，與各行業(yè)的關(guān)系非常密切，可以說(shuō)沒(méi)有一個(gè)行業(yè)與人工智能無(wú)關(guān),。好的技術(shù)出現(xiàn)后,，我們往往會(huì)擔(dān)心安全問(wèn)題。人工智能的安全隱患客觀上會(huì)產(chǎn)生哪些威脅,？這里從兩個(gè)角度進(jìn)行分析：一是大模型開啟了真正意義上的通用人工智能,，人類如何去應(yīng)對(duì)一個(gè)比自己更強(qiáng)大的智能,？當(dāng)人類創(chuàng)造出比自己更聰明的“物種”，是否有足夠能力去駕馭,？這個(gè)問(wèn)題現(xiàn)在并沒(méi)有明確的答案,。有人擔(dān)心人工智能可能比核武器還危險(xiǎn)，需要降低發(fā)展速度,；也有人認(rèn)為人工智能推動(dòng)人類進(jìn)步,，應(yīng)該盡可能發(fā)揮其作用。二是大模型的通用能力讓其能夠應(yīng)用到人類生產(chǎn)生活的各個(gè)場(chǎng)景中,，可謂“無(wú)孔不入”,，一旦AI出現(xiàn)安全問(wèn)題，其影響將難以預(yù)估,。AI的三要素分別是數(shù)據(jù),、算力和算法。關(guān)于AI的安全隱患早已存在,，大模型時(shí)代的隱私安全問(wèn)題涉及三個(gè)維度：首先,，訓(xùn)練過(guò)程會(huì)涉及大量用戶個(gè)人信息和數(shù)據(jù)；其次,，使用過(guò)程會(huì)涉及很多用戶私密信息,，這些信息沒(méi)有受到應(yīng)有的保護(hù)；第三,，生成能力讓“隱私泄露”的方式變得多樣化,，也讓隱私保護(hù)更加困難。在提供大模型訓(xùn)練數(shù)據(jù)的過(guò)程中,，雖可通過(guò)脫敏處理使數(shù)據(jù)更加抽象和類型化,，但因?yàn)榇竽Ｐ涂梢赃M(jìn)行跨領(lǐng)域的交叉推理，所以依然能夠還原原始數(shù)據(jù)里的信息,。大模型階段使用過(guò)程需要通過(guò)互動(dòng)進(jìn)行,，系統(tǒng)會(huì)將交流數(shù)據(jù)和訓(xùn)練數(shù)據(jù)捆綁在一起，記錄互動(dòng)過(guò)程中的對(duì)話用于下一步訓(xùn)練,。除了在訓(xùn)練過(guò)程,、使用過(guò)程中可能發(fā)生數(shù)據(jù)隱私泄露，生成式大模型依靠語(yǔ)料庫(kù),，還會(huì)按照“意志”對(duì)數(shù)據(jù)進(jìn)行修改,，而為搜索引擎建立的數(shù)據(jù)保護(hù)策略對(duì)大模型也無(wú)法奏效?！皩?duì)齊”要求更審視人類文化為了應(yīng)對(duì)安全隱患問(wèn)題,，需要對(duì)人工智能進(jìn)行對(duì)齊（alignment）?！皩?duì)齊”是指系統(tǒng)的目標(biāo)和人類價(jià)值觀一致,，使其符合設(shè)計(jì)者的利益和預(yù)期,，不會(huì)產(chǎn)生意外的有害后果。然而在實(shí)際操作中,，做好“對(duì)齊”會(huì)遇到兩大類挑戰(zhàn)：一是對(duì)齊的基礎(chǔ)——“人類價(jià)值觀”是多元且動(dòng)態(tài)變化的,，對(duì)齊需要標(biāo)桿，而全世界有很多不同的價(jià)值觀,。人類的價(jià)值和判定系統(tǒng)本身就充滿偏見和矛盾,，有非常多相互矛盾之處和沒(méi)有明確指出的潛在條件。這導(dǎo)致“對(duì)齊”成為一項(xiàng)令人眼花繚亂的跨學(xué)科研究,，不僅考驗(yàn)我們的技術(shù),，也在審視我們的文化。二是大模型“有用性”與“無(wú)害性”兩個(gè)目標(biāo)存在沖突,?！皩?duì)齊”會(huì)發(fā)生另一個(gè)悖論。訓(xùn)練大模型價(jià)格高昂,，例如一個(gè)幾十億規(guī)模的大模型,，訓(xùn)練所需的電費(fèi)在100萬(wàn)元左右。而要想訓(xùn)練出一個(gè)“不會(huì)犯錯(cuò)”的大模型,，那么“什么都不回答”,，選擇“躺平”反而是最有可能實(shí)現(xiàn)安全性的——這就導(dǎo)致人們?cè)诖竽Ｐ偷目捎眯院桶踩灾g面臨艱難選擇。目前,，我們對(duì)大模型時(shí)代的安全問(wèn)題依然“心里沒(méi)底”,，在“黑暗叢林”中到處都能感受到安全威脅，但我們找不到安全威脅的源頭,，往往只能通過(guò)打補(bǔ)丁的方法“就事論事”,，找到對(duì)付眼前問(wèn)題的答案，卻沒(méi)有系統(tǒng)的解決方案,。AI重構(gòu)社會(huì)分工AI正在重構(gòu)社會(huì)分工,。主要體現(xiàn)在以下方面：人工智能的應(yīng)用使得那些例行性的任務(wù)變得更加次要，一些工作將會(huì)由AI來(lái)完成,。人們將專注于更高層次的規(guī)劃和分析工作,。未來(lái)的職場(chǎng)將會(huì)更加重視發(fā)現(xiàn)和解決問(wèn)題的能力、創(chuàng)造力,，以及批判性思維,，還有主動(dòng)學(xué)習(xí)和獲得新技能的能力?？蛻艋?dòng)、文書寫作,、代碼編寫,、資料搜索與收集,、數(shù)據(jù)分析研究等工作內(nèi)容可以由AI取代，節(jié)省大量人力成本,。AI帶來(lái)的價(jià)值增長(zhǎng),，約75%集中在四個(gè)領(lǐng)域：客戶運(yùn)營(yíng)、營(yíng)銷和銷售,、軟件工程,、產(chǎn)品研發(fā)。在客戶運(yùn)營(yíng)方面,，AI可改善客戶體驗(yàn)并提升客服生產(chǎn)力,。例如提供客戶自助服務(wù)、在初次交流時(shí)就提供解決方案,、減少響應(yīng)時(shí)間,、促進(jìn)銷量增加等。在營(yíng)銷和銷售方面,，AI能夠提高個(gè)性化,、內(nèi)容創(chuàng)建和銷售效率。包括高效的內(nèi)容創(chuàng)建,、充分利用不同類型的數(shù)據(jù),、優(yōu)化搜索引擎、實(shí)現(xiàn)產(chǎn)品和搜索個(gè)性化,。在軟件工程方面,，AI可以作為編碼助理加快開發(fā)人員的工作，將直接影響軟件工程支出的20%-45%,。這一價(jià)值主要在于可減少部分工作時(shí)間,，如生成初始代碼、代碼修正和重構(gòu),、根本原因分析以及生成新的系統(tǒng)設(shè)計(jì)等,。每一次軟件革新都會(huì)孕育新一代超級(jí)平臺(tái)：從早期的windows操作系統(tǒng)，到智能手機(jī)的各種App Store,；ChatGPT的誕生將產(chǎn)生一種新的社會(huì)工業(yè)性服務(wù)平臺(tái),，有望成為人人可使用的社會(huì)基礎(chǔ)設(shè)施。在產(chǎn)品研發(fā)方面,，AI可減少研發(fā)和設(shè)計(jì)時(shí)間,，改進(jìn)產(chǎn)品模擬。包括提高產(chǎn)品研發(fā)的生產(chǎn)力,、加速產(chǎn)品上市時(shí)間,、優(yōu)化產(chǎn)品設(shè)計(jì)、改善產(chǎn)品質(zhì)量。下一步,，生物制藥工程可能會(huì)大量使用AI促進(jìn)實(shí)驗(yàn),，預(yù)計(jì)降低成本可達(dá)10%-15%。AI與實(shí)體經(jīng)濟(jì)緊密相關(guān),，智能化發(fā)展中的應(yīng)用和創(chuàng)新主要體現(xiàn)在三方面：一是數(shù)字孿生,。由于成本、風(fēng)險(xiǎn)等原因,，我們無(wú)法對(duì)物理世界的規(guī)律在物理世界完成全部的相應(yīng)實(shí)驗(yàn),。因此需要在虛擬世界建立數(shù)學(xué)模型，通過(guò)數(shù)學(xué)模型進(jìn)行實(shí)驗(yàn),，觀察對(duì)應(yīng)結(jié)果和實(shí)際理想是否一致,。在數(shù)字孿生方面有很多大模型技術(shù)在應(yīng)用，例如數(shù)據(jù)匯集,、實(shí)時(shí)數(shù)據(jù)驅(qū)動(dòng),、仿真模擬、數(shù)字工藝配置,、打通數(shù)據(jù)脈絡(luò),、優(yōu)化制造流程等。二是智慧工廠,。高質(zhì)量發(fā)展的重要部分是新生產(chǎn)工藝,、新生產(chǎn)方式。在智慧工廠,，AI可以完成智能運(yùn)營(yíng),、智能生產(chǎn)、物流管理,、工藝優(yōu)化,、庫(kù)存管理、質(zhì)量管理等工作,。三是工業(yè)互聯(lián)網(wǎng),。我國(guó)是5G大國(guó)，據(jù)統(tǒng)計(jì),，目前已建成超過(guò)330萬(wàn)數(shù)字5G基站,，為工業(yè)互聯(lián)網(wǎng)提供了很好的設(shè)施基礎(chǔ)。通過(guò)AI可以進(jìn)行海量數(shù)據(jù)處理,、云邊端協(xié)同,、分布式計(jì)算、網(wǎng)絡(luò)協(xié)同,、知識(shí)復(fù)用,、實(shí)現(xiàn)全面互聯(lián)等。勇于擁抱AIAI可對(duì)社會(huì)經(jīng)濟(jì)帶來(lái)正面影響。預(yù)估算,，AI每年可為全球經(jīng)濟(jì)帶來(lái)2.6萬(wàn)億-4.4萬(wàn)億美元的增長(zhǎng),，生產(chǎn)力可以提高0.1%-0.6%，相當(dāng)于每年貢獻(xiàn)一個(gè)英國(guó)的GDP,。AI也會(huì)對(duì)個(gè)人工作產(chǎn)生重要影響。例如,，AI可以使60%-70%的工作實(shí)現(xiàn)自動(dòng)化,，對(duì)高學(xué)歷、高收入的知識(shí)工作者影響更大,。在人工智能不斷改變?nèi)祟惿鐣?huì)的今天,，人要專精自己的優(yōu)勢(shì)和專業(yè)領(lǐng)域，不斷提高自己的專業(yè)水平,，思考如何把AI應(yīng)用到自己的專業(yè)中,，提高自己的產(chǎn)出效率。同時(shí),，不斷接收新信息,、擁抱新變化，拓展自己的事業(yè),，接觸更多的人和行業(yè),。在未來(lái)一段時(shí)間內(nèi)，AI主要研究方向可聚焦以下方面：一是解決軟件和硬件的融合問(wèn)題,；二是跨行業(yè)的多模態(tài)融合,；三是提升使用便捷度。大模型受歡迎的原因就在于可以使用自然語(yǔ)言,。在人機(jī)界面使用自然語(yǔ)言是極大的突破,，當(dāng)界面越容易使用，使用者就越多,，市場(chǎng)面也就更廣,。（作者系中國(guó)科學(xué)院院士、華科智谷人工智能研究院院長(zhǎng)）