編者按：生成式人工智能確實是一個非常有潛力的工具,，但我們需要暫時停止對它的炒作，靜下來仔細審視它的缺陷和弊端,，然后以一種謹慎的,、經(jīng)過深思熟慮的方式推出各類工具。本文來自編譯,，希望對您有所啟發(fā),。

人工智能來了,。它被過度炒作,，且存在缺陷。我們對其理解不足,，但它已經(jīng)是我們生活的核心了,，而且只會越來越擴大其影響范圍。

人工智能可以為無人駕駛汽車研究提供支持,，可以幫助在醫(yī)學圖像中發(fā)現(xiàn)原本看不見的疾病跡象,，可以讓你迅速得到一個問題的答案。這些只是人工智能觸及我們生活的幾種方式,，還有很多方面,。但別擔心，超級智能算法不會搶走所有的工作,，也不會消滅人類,。

目前所有人工智能領域的繁榮，都是由機器學習領域的突破推動的,。計算機經(jīng)過“訓練”后,，可以根據(jù)實例執(zhí)行任務，而不是依賴于人的編程,。一種名為深度學習的技術,，使這種方法更加強大。只要問問李世石（Lee Sedol）就知道了,，他在復雜的圍棋比賽中獲得了 18 個國際冠軍,。而 2016 年，他被一個名為 AlphaGo 的軟件擊敗了,。

有證據(jù)表明,，人工智能可以讓我們更快樂、更健康,。但也有理由讓我們對人工智能保持謹慎。不管是抄襲問題,，還是擴大社會偏見的問題,，都讓我們認識到人工智能強化的未來不會自動變得更好。

1. 人工智能的開端

塑造人工智能的時刻

1956

達特茅斯夏季人工智能研究項目（Dartmouth Summer Research Project on Artificial Intelligence）為一個致力于“讓軟件像人類一樣聰明”的新領域起了個名字,。

1965

麻省理工學院的約瑟夫·魏岑鮑姆（Joseph Weizenbaum）創(chuàng)造了第一個聊天機器人 Eliza,，它以心理治療師的身份出現(xiàn),。

1975

Meta-Dendral 是斯坦福大學開發(fā)的一個用于解釋化學分析的程序。

1987

在工程師恩斯特·迪克曼斯（Ernst Dickmanns）領導的一個學術項目中,，一輛裝有兩個攝像頭和一堆電腦的奔馳貨車,，以超過 55 英里/小時的速度在德國一條高速公路上自動行駛了 20 公里。

1997

IBM 電腦“Deep Blue”擊敗國際象棋世界冠軍加里·卡斯帕羅夫（Garry Kasparov）,。

2004

五角大樓舉辦了 Darpa 大挑戰(zhàn)賽,，這是一場在莫哈韋沙漠舉行的機器人汽車比賽，促進了自動駕駛汽車產(chǎn)業(yè)的發(fā)展,。

2012

深度學習這一小眾領域的研究人員,，通過展示深度學習可以使語音和圖像識別更加準確，激發(fā)了企業(yè)對人工智能的新興趣,。

2016

AlphaGo 擊敗了圍棋世界冠軍,。

我們所知道的“人工智能”最初只是一個假期項目。達特茅斯大學教授約翰·麥卡錫（John McCarthy）在 1956 年夏天創(chuàng)造了這個詞,，當時他邀請了一個小組花幾周時間思考如何讓機器做一些事情,，比如使用語言。

他對推動機器人達到人類的水平寄予厚望,?！拔覀冋J為，如果一組經(jīng)過精心挑選的科學家花一個夏天的時間一起研究,，就可以取得重大進展,。”麥卡錫及其共同組織者寫道,。

這些希望并沒有實現(xiàn),，麥卡錫后來承認他當時過于樂觀了。但這個研討會幫助那些有著共同夢想的研究人員,，整合成了一個公認的學術領域,。

人工智能研究領域早期的工作通常集中在解決數(shù)學和邏輯中的抽象問題上。但沒過多久,，人工智能就開始在更多的人類任務上顯示出希望,。在 20 世紀 50 年代末，亞瑟·塞繆爾（Arthur Samuel）創(chuàng)建了學習下跳棋的程序,。1962 年,，其中一個程序在比賽中戰(zhàn)勝了一位下棋高手。1967 年,，一個名為 Dendral 的程序證明,，它可以復制化學家解釋化學樣品構(gòu)成的質(zhì)譜數(shù)據(jù)的方式。

隨著人工智能領域的發(fā)展,，制造更智能機器的不同策略也在發(fā)展,。一些研究人員試圖將人類知識提煉成代碼,，或為特定任務（如理解語言）制定規(guī)則。其他人則受到了人類和動物智力的啟發(fā),，他們構(gòu)建的系統(tǒng)可以隨著時間的推移在一項任務上做得更好,，也許是通過模擬進化或從示例數(shù)據(jù)中學習。隨著計算機掌握了以前只能由人類完成的任務,，這一領域取得了一個又一個里程碑,。

深度學習是當前人工智能熱潮的火箭燃料，是人工智能領域最古老思想之一的復興,。該技術涉及通過數(shù)學網(wǎng)絡傳遞數(shù)據(jù),，而數(shù)學網(wǎng)絡的靈感來自于被稱為人工神經(jīng)網(wǎng)絡的腦細胞工作方式。當網(wǎng)絡處理訓練數(shù)據(jù)時,，網(wǎng)絡各部分之間的連接會進行調(diào)整,，從而建立起解釋未來數(shù)據(jù)的能力。

在達特茅斯研討會之后不久,，人工神經(jīng)網(wǎng)絡就成為了人工智能領域的一個既定理念,。例如，1958 年的感知機 Mark 1 學會了區(qū)分不同的幾何形狀,，并被《紐約時報》稱為“為閱讀和變得更聰明而設計的計算機胚胎”,。但 1969 年，麻省理工學院（MIT）的馬文·明斯基（Marvin Minsky）與人合著的一本頗具影響力的書指出,，神經(jīng)網(wǎng)絡不可能變得非常強大,，此后神經(jīng)網(wǎng)絡就失寵了。

然而,，并不是所有人都被懷疑論者所說服了,，一些研究人員在過去幾十年里一直保持著對這種技術的研究。他們在 2012 年被證明是正確的,，當時一系列實驗表明,，經(jīng)過大量數(shù)據(jù)訓練的神經(jīng)網(wǎng)絡可以賦予機器新的感知能力。使用傳統(tǒng)的計算機芯片處理如此多的數(shù)據(jù)是很困難的,，但顯卡的使用導致了處理能力的爆炸式增長,。

一個引人注目的結(jié)果是，多倫多大學的研究人員在一年一度的軟件圖像分類比賽中擊敗了對手,。在另一項研究中,，來自 IBM、微軟和谷歌的研究人員合作發(fā)布的結(jié)果顯示,，深度學習也可以在語音識別的準確性上實現(xiàn)顯著提升,。科技公司開始瘋狂招聘他們能找到的所有深度學習專家。值得注意的是,，人工智能領域在過去經(jīng)歷了幾次繁榮和蕭條后（也就是“人工智能寒冬”），今天仍然有可能再次發(fā)生翻天覆地的變化,。

2. 人工智能的現(xiàn)狀

人工智能硬件的改進,、機器學習培訓課程的增長，以及開源機器學習項目加速了人工智能向其他行業(yè)的傳播,，從國家安全到商業(yè)支持和醫(yī)療,。

Alphabet 旗下的 DeepMind 已將其人工智能用于解決各種問題：足球運動員的移動、古代文本的修復,，甚至是控制核聚變的方法,。2020 年，DeepMind 表示,，其 AlphaFold 人工智能可以預測蛋白質(zhì)的結(jié)構(gòu),，這是一個長期以來阻礙研究的問題。這被廣泛認為是第一次用人工智能來回答真正的科學問題,。AlphaFold 隨后被用于研究 Covid-19,，而現(xiàn)在它正在幫助科學家研究被忽視的疾病。

與此同時,，消費者可以期待看到更多帶有人工智能功能的小工具和服務,。尤其是谷歌和亞馬遜（Amazon），他們相信機器學習的改進將使他們的虛擬助手和智能音箱更加強大,。例如,，亞馬遜的設備帶有攝像頭，可以觀察用戶和周圍的世界,。

人工智能在過去的二十年里已經(jīng)取得了很大的進展,，但還有很多工作要做。盡管人工智能領域最近成效顯著,，人們也對其不久的未來做出了瘋狂的預測,，但仍有許多事情是機器無法做到的，比如理解語言的細微差別,、進行常識推理,，以及僅從一兩個例子中學習新技能。

只有掌握上述這些任務,，人工智能軟件才能接近人類的多面性,、適應性和創(chuàng)造性智能——這一智能被稱為通用人工智能，盡管它也可能永遠都實現(xiàn)不了,。深度學習的先驅(qū)之一,、谷歌的杰夫·辛頓（Geoff Hinton）認為，要在這一重大挑戰(zhàn)上取得進展，就需要重新思考人工智能領域的一些基礎,。

3. 生成式 AI 及其爭議

有一種特殊類型的人工智能正成為頭條新聞,。生成式人工智能是一個包羅萬象的術語，它可以將數(shù)字世界的碎片拼湊起來,，做出一些新的東西,，比如藝術作品、插圖,、圖像,、完整的代碼，而且它不僅能通過圖靈測試,，還能通過 MBA 考試的部分內(nèi)容,。

像 OpenAI 的 Chat-GPT 文本生成器和 Stable Diffusion 的文本-圖像生成器這樣的工具，通過吸納令人難以置信的數(shù)據(jù)量,，用神經(jīng)網(wǎng)絡分析模式來完成上述任務,。Chat-GPT 背后的自然語言系統(tǒng)已經(jīng)瀏覽了整個互聯(lián)網(wǎng)，以及數(shù)不清的書籍,，讓它可以回答問題,，根據(jù)提示編寫內(nèi)容，并且為網(wǎng)站編寫解釋性文章以匹配搜索詞,。

當投資者垂涎的時候,，作家、視覺藝術家和其他創(chuàng)作者自然會擔心：聊天機器人很便宜（或者至少看起來很便宜）,，而人類則需要一份穩(wěn)定的收入,。如果你能讓 Dall-E 免費做一些東西，為什么還要花錢請插畫師來制作圖像呢,？

內(nèi)容制作者并不是唯一擔心人工智能的人,。谷歌正在悄悄加強其在人工智能方面的努力，以回應 OpenAI 的成就,。這家搜索巨頭在擔心,，如果聊天機器人可以為我們回答問題，那么人們的搜索習慣會發(fā)生什么變化,。遇事不再是 Google 一下,，而是Chat-GPT 一下？

然而,，挑戰(zhàn)正在逼近,。人工智能模型需要越來越多的數(shù)據(jù)來改進，但 OpenAI 很難再找到大量的數(shù)據(jù)來源,，而且即使找到,，數(shù)據(jù)也可能不再免費,。法律挑戰(zhàn)也迫在眉睫：OpenAI 正在訓練其系統(tǒng)使用可能受版權(quán)保護的文本和圖像，這些文本和圖像甚至可能是由那些因這項技術而面臨失業(yè)風險的人創(chuàng)作的,。隨著越來越多的在線內(nèi)容使用人工智能創(chuàng)建,，它形成了一個反饋循環(huán)，在這個循環(huán)中,，在線數(shù)據(jù)訓練模型將不是由人類創(chuàng)建,，而是由機器創(chuàng)建。

拋開數(shù)據(jù)不談,，這種語言模型有一個根本問題：它們輸出的文本讀起來足夠好，但不一定準確,。盡管這些模型很聰明,，但它們不知道自己在說什么，也不知道什么是真理,。在瘋狂地利用這些工具開展新業(yè)務或創(chuàng)建內(nèi)容的過程中,，這一點很容易被遺忘。語言不僅僅是為了聽起來好聽,，它們也要傳達意思,。

4. 人工智能的挑戰(zhàn)和未來

人工智能的批評者非常之多，考慮到圍繞這項技術的炒作,，這是個好消息,。對人工智能的批評涉及到可持續(xù)性、倫理,、偏見,、虛假信息甚至版權(quán)等不同的問題，一些人認為這項技術并不像大多數(shù)人認為的那樣強大,，另一些人則預測它將成為人類的終結(jié)者,。要考慮的東西還有很多。

首先,，深度學習本身就需要大量的數(shù)據(jù),，盡管芯片的創(chuàng)新意味著我們可以比以往任何時候都更快、更有效地獲取海量數(shù)據(jù),，但毫無疑問,，人工智能研究需要大量的精力。一家初創(chuàng)公司估計,，OpenAI 在教一個系統(tǒng)用機械手解魔方的過程中,，消耗了 2.8 千兆瓦時的電力，相當于三個核電站一小時的發(fā)電量,。還有一些估計表明,，訓練一個人工智能模型排放的二氧化碳，相當于制造 5 輛美國汽車并駕駛和使用完它們的平均壽命。

有一些技術可以減少這種影響：研究人員正在開發(fā)更有效的訓練技術,，模型可以被分割,，只運行必要的部分，數(shù)據(jù)中心和實驗室正在轉(zhuǎn)向更清潔的能源,。人工智能的確在提高其他行業(yè)的效率,，以及幫助解決氣候危機方面也可以發(fā)揮作用。但提高人工智能的準確性通常意味著讓更復雜的模型篩選更多的數(shù)據(jù),，據(jù)報道,，OpenAI 的 GPT2 模型有 15 億個權(quán)重來評估數(shù)據(jù)，而 GPT3 有 1750 億個權(quán)重,，這表明人工智能的可持續(xù)性在變得越來越糟,。

收集構(gòu)建這些模型所需的數(shù)據(jù)帶來了額外的挑戰(zhàn)。偏見仍然是一個核心問題：數(shù)據(jù)集反映了我們周圍的世界,，這意味著模型吸收了種族主義,、性別歧視和其他文化。這導致了一系列嚴重的問題：經(jīng)過訓練的人工智能更適合白人,；用來預測再次犯罪的軟件從一開始就認為黑人更有可能再犯,；有缺陷的人工智能面部識別軟件會錯誤地識別出黑人，導致他們被捕,。有時人工智能根本不起作用：由于一個明顯的代碼錯誤,，警方的一個暴力犯罪預測工具變得非常不準確。

同樣,，緩解措施也是能夠被創(chuàng)造的,。更具包容性的數(shù)據(jù)集可能有助于從源頭上解決偏見問題，而迫使科技公司解釋算法可能會增加一層問責制,。將行業(yè)多元化,，使之可以不僅是為白人服務。但最重要的是一點是,，在有可能對人類造成風險的情況下,，需要監(jiān)管（甚至是禁止）使用人工智能決策。

雖然我們不希望看到這種情況,，但人們也已經(jīng)在把人工智能用于邪惡的目的了,，比如制造深度假象和傳播虛假信息。雖然人工智能編輯或人工智能生成的視頻和圖像有有趣的用例（比如在配音演員離開演出或去世后代替配音演員）,，但生成式人工智能也被用于制作深度偽造的色情片,，或用于誹謗普通人。人工智能還被用來在網(wǎng)絡上傳播虛假信息,，盡管事實核查人員已經(jīng)開始轉(zhuǎn)而利用人工智能技術進行反擊這一行為,。

隨著人工智能系統(tǒng)變得越來越強大,，它們將理所當然地招致更多審查。更強大的人工智能有可能造成更嚴重的問題,，例如,，延續(xù)對女性或黑人的歷史偏見和刻板印象。民間社會團體,，甚至科技行業(yè)本身,，現(xiàn)在都在探索關于人工智能安全和道德的規(guī)則和指導方針。

但圍繞生成式模型的炒作表明,，在人工智能方面,，我們?nèi)匀粵]有吸取多少教訓。我們需要冷靜下來,，了解它是如何起作用的,，以及什么時候不起作用，然后以一種謹慎的,、經(jīng)過深思熟慮的方式推出這一工具。人工智能確實有潛力改善我們的生活,，甚至延長人類的壽命,，但要真正受益于人工智能，我們需要在應用人工智能這件事上變得更聰明些,。

譯者：Jane