來(lái)源：火訊財(cái)經(jīng)

文章轉(zhuǎn)載來(lái)源：Yangz

撰文：比爾?蓋茨

來(lái)源：Gatesnotes

圖片來(lái)源：由無(wú)界 AI工具生成

在處理突破性創(chuàng)新帶來(lái)的問(wèn)題方面,，我們已經(jīng)學(xué)到了很多。

人工智能帶來(lái)的風(fēng)險(xiǎn)似乎難以承受,。被智能機(jī)器奪走工作的人會(huì)怎樣,？人工智能會(huì)影響選舉結(jié)果嗎,？如果未來(lái)的人工智能決定不再需要人類(lèi)，并想要擺脫我們?cè)撛趺崔k,？

這些都是合理的問(wèn)題,，它們所引發(fā)的擔(dān)憂(yōu)需要認(rèn)真對(duì)待。但我們有充分的理由相信,，我們能夠解決這些問(wèn)題：這并不是重大創(chuàng)新首次帶來(lái)必須加以控制的新威脅,，我們以前也遇到過(guò)。

無(wú)論是汽車(chē)的問(wèn)世,，還是個(gè)人電腦和互聯(lián)網(wǎng)的興起,，人們都曾經(jīng)歷過(guò)其他變革時(shí)刻，盡管經(jīng)歷了許多動(dòng)蕩,，但最終都獲得了更好的發(fā)展,。第一輛汽車(chē)上路后不久，就發(fā)生了第一起車(chē)禍,。但我們并沒(méi)有禁止汽車(chē),，而是采用了限速、安全標(biāo)準(zhǔn),、駕照要求,、酒駕法以及其他道路規(guī)則,。

現(xiàn)在的我們正處于另一場(chǎng)深刻變革的初期階段,，即人工智能時(shí)代。這類(lèi)似于限速和安全帶之前的不確定時(shí)代,。人工智能的變化如此之快,，我們還不清楚下一步會(huì)發(fā)生什么,。我們正面臨著由當(dāng)前技術(shù)的工作方式,、人們將如何惡意使用該技術(shù)以及人工智能將如何改變社會(huì)和個(gè)人所引發(fā)的重大問(wèn)題,。

在這樣的時(shí)刻，感到不安是很自然的,。但歷史表明,，解決新技術(shù)帶來(lái)的挑戰(zhàn)是可能的。

我曾經(jīng)寫(xiě)過(guò)一篇文章,，談到人工智能將如何徹底改變我們的生活,。它將幫助解決健康、教育,、氣候變化等方面的問(wèn)題,，而這些問(wèn)題在過(guò)去似乎是難以解決的。蓋茨基金會(huì)將其作為優(yōu)先事項(xiàng),，我們的首席執(zhí)行官 Mark Suzman 最近也分享了他對(duì)人工智能在減少不平等方面的作用的看法,。

將來(lái)我會(huì)更多地談?wù)撊斯ぶ悄艿暮锰帲谶@篇文章中,，我想談?wù)勎医?jīng)常聽(tīng)到和讀到的一些擔(dān)憂(yōu),，其中許多我也有同感，并解釋一下我是如何看待這些擔(dān)憂(yōu)的,。

到目前為止,，從所有關(guān)于人工智能風(fēng)險(xiǎn)的文章可以清楚地看出一件事，那就是沒(méi)有人知道所有答案,。另一個(gè)清楚的點(diǎn)是,，人工智能的未來(lái)并不像某些人想象的那樣嚴(yán)峻，也不像其他人想象的那樣美好,。風(fēng)險(xiǎn)是真實(shí)存在的,，但我樂(lè)觀地認(rèn)為這些風(fēng)險(xiǎn)是可以控制的。當(dāng)我逐一闡述這些擔(dān)憂(yōu)時(shí),，我將回到以下幾個(gè)主題：

• 人工智能引發(fā)的許多問(wèn)題都有歷史先例,。例如,，它將對(duì)教育產(chǎn)生巨大影響，但幾十年前的手持計(jì)算器以及最近的允許計(jì)算機(jī)進(jìn)入課堂也是如此,。我們可以借鑒過(guò)去的成功經(jīng)驗(yàn)。
• 人工智能帶來(lái)的許多問(wèn)題也可以在人工智能的幫助下得到解決,。
• 我們需要調(diào)整舊的法律并采用新的法律 — 就像現(xiàn)有的反欺詐法律必須適應(yīng)網(wǎng)絡(luò)世界一樣,。

在這篇文章中，我將重點(diǎn)關(guān)注已經(jīng)存在或即將存在的風(fēng)險(xiǎn),。我不會(huì)討論當(dāng)我們開(kāi)發(fā)一個(gè)可以學(xué)習(xí)任何主題或任務(wù)的人工智能時(shí)會(huì)發(fā)生什么,，這與今天的專(zhuān)用人工智能不同。無(wú)論我們是在未來(lái)十年還是一個(gè)世紀(jì)內(nèi)到達(dá)這一時(shí)刻,，社會(huì)都需要考慮深刻的問(wèn)題,。如果超級(jí)人工智能設(shè)定了自己的目標(biāo)怎么辦？如果它們與人類(lèi)發(fā)生沖突怎么辦,？我們是否應(yīng)該制造一個(gè)超級(jí)人工智能？

然而,，對(duì)這些長(zhǎng)期風(fēng)險(xiǎn)的思考不應(yīng)以眼前更直接的風(fēng)險(xiǎn)為代價(jià),。

AI 生成的深度造假和錯(cuò)誤信息可能會(huì)破壞選舉和民主

利用技術(shù)傳播謊言和不實(shí)信息并不是什么新鮮事。幾個(gè)世紀(jì)以來(lái),，人們一直通過(guò)書(shū)籍和傳單這么做,。隨著文字處理器、激光打印機(jī),、電子郵件和社交網(wǎng)絡(luò)的出現(xiàn),，這一切變得更加容易。

人工智能解決了偽造文本的問(wèn)題,，并對(duì)其進(jìn)行了擴(kuò)展,，使幾乎任何人都可以制作偽造的音頻和視頻，即所謂的深度偽造（Deepfake）,。如果您收到一條語(yǔ)音消息,，聽(tīng)起來(lái)像是您的孩子在說(shuō)“我被綁架了，請(qǐng)?jiān)诮酉聛?lái)的 10 分鐘內(nèi)向此銀行帳戶(hù)發(fā)送 1,000 美元,，并且不要報(bào)警”,，它所產(chǎn)生的可怕情感沖擊力將遠(yuǎn)遠(yuǎn)超過(guò)一封說(shuō)著同樣內(nèi)容的電子郵件。

從更大的范圍看,，人工智能生成的深度造假可能被用來(lái)試圖影響選舉,。當(dāng)然，對(duì)選舉的合法獲勝者產(chǎn)生懷疑并不需要復(fù)雜的技術(shù),，但人工智能將使其變得更加容易,。

現(xiàn)在已經(jīng)出現(xiàn)了偽造知名政客鏡頭的虛假視頻,。試想一下，在大選當(dāng)天早上,，一段顯示某位候選人搶劫銀行的視頻在網(wǎng)上瘋傳,。這是假的，但新聞機(jī)構(gòu)和競(jìng)選團(tuán)隊(duì)花了幾個(gè)小時(shí)才證明這一點(diǎn),。有多少人會(huì)看到這段視頻并在最后一刻改變投票,？這可能會(huì)使天平傾斜，尤其是在選情膠著的情況下,。

最近,，OpenAI 聯(lián)合創(chuàng)始人 Sam Altman 在美國(guó)參議院委員會(huì)作證時(shí)，兩黨參議員都談到了人工智能對(duì)選舉和民主的影響,。我希望這個(gè)話(huà)題能繼續(xù)被提上每個(gè)人的議程,。

我們當(dāng)然還沒(méi)有解決錯(cuò)誤信息和深度造假的問(wèn)題。但有兩件事讓我持謹(jǐn)慎樂(lè)觀的態(tài)度,。一是人們有能力學(xué)會(huì)不輕信一切表面價(jià)值,。多年來(lái)，電子郵件用戶(hù)深陷詐騙風(fēng)波,，有人會(huì)冒充尼日利亞王子許諾分享信用卡號(hào)碼,，以換取巨額回報(bào)。但最終,，大多數(shù)人學(xué)會(huì)了三思而后行,。隨著詐騙手段越來(lái)越高明，許多目標(biāo)也變得越來(lái)越狡猾,。我們需要為深度偽造建立同樣的能力,。

另一件讓我覺(jué)得充滿(mǎn)希望的事情是，人工智能可以幫助識(shí)別深度偽造以及制造深度偽造,。例如,，英特爾已經(jīng)開(kāi)發(fā)出一種深度偽造檢測(cè)器，而政府機(jī)構(gòu) DARPA 也正在研發(fā)識(shí)別視頻或音頻是否被篡改的技術(shù),。

這將是一個(gè)循環(huán)往復(fù)的過(guò)程：有人會(huì)找到檢測(cè)造假的方法,，有人會(huì)想出對(duì)付造假的辦法，有人會(huì)開(kāi)發(fā)出反制措施,，如此循環(huán)往復(fù),。這不會(huì)是完美的，但我們也不至于束手無(wú)策,。

AI 將使攻擊人類(lèi)和政府變得更加容易

如今,，當(dāng)黑客希望找到軟件中的可利用漏洞時(shí)，他們會(huì)通過(guò)“蠻力”來(lái)實(shí)現(xiàn) — 編寫(xiě)代碼,，對(duì)潛在的弱點(diǎn)進(jìn)行攻擊,，直到發(fā)現(xiàn)漏洞為止,。這需要走很多彎路，因此需要時(shí)間和耐心,。

想要對(duì)抗黑客的安全專(zhuān)家也必須這么做,。您在手機(jī)或筆記本電腦上安裝的每一個(gè)軟件補(bǔ)丁，都象征著大量時(shí)間的搜索,。

AI 模型將通過(guò)幫助黑客編寫(xiě)更有效的代碼來(lái)加速這一過(guò)程,。他們還能夠利用個(gè)人的公共信息，如工作地點(diǎn)和朋友等,，開(kāi)發(fā)出比現(xiàn)在更先進(jìn)的網(wǎng)絡(luò)釣魚(yú)攻擊。

好消息是,，人工智能是把雙刃劍,。政府和私營(yíng)部門(mén)的安全團(tuán)隊(duì)需要擁有最新的工具，以便在犯罪分子利用安全漏洞之前發(fā)現(xiàn)并修復(fù)它們,。我希望軟件安全行業(yè)能夠擴(kuò)大他們?cè)谶@方面已經(jīng)開(kāi)展的工作,，這應(yīng)該是他們最關(guān)心的問(wèn)題。

當(dāng)然,，這也是為什么我們不應(yīng)該像某些人建議的那樣,，試圖暫時(shí)阻止人們實(shí)施人工智能的新發(fā)展。網(wǎng)絡(luò)犯罪分子不會(huì)停止制造新工具,。想要利用人工智能設(shè)計(jì)核武器和生物恐怖襲擊的人也不會(huì)停止,。阻止他們的努力需要以同樣的速度繼續(xù)下去。

在全球?qū)用孢€有一個(gè)相關(guān)的風(fēng)險(xiǎn)：人工智能的軍備競(jìng)賽,，這種人工智能可以用來(lái)設(shè)計(jì)和發(fā)動(dòng)針對(duì)其他國(guó)家的網(wǎng)絡(luò)攻擊,。每個(gè)國(guó)家的政府都希望擁有最強(qiáng)大的技術(shù)，以阻止對(duì)手的攻擊,。這種“不讓任何人搶先”的動(dòng)機(jī)可能會(huì)引發(fā)一場(chǎng)制造日益危險(xiǎn)的網(wǎng)絡(luò)武器的競(jìng)賽,。每個(gè)人的處境都會(huì)變得更糟。

這是一個(gè)可怕的想法,，但我們有歷史為鑒,。盡管世界核不擴(kuò)散機(jī)制存在缺陷，但它阻止了我們這一代人在成長(zhǎng)過(guò)程中非常害怕的全面核戰(zhàn)爭(zhēng),。各國(guó)政府應(yīng)考慮建立一個(gè)類(lèi)似于國(guó)際原子能機(jī)構(gòu)的全球人工智能機(jī)構(gòu),。

AI 將奪走人們的工作

未來(lái)幾年，人工智能對(duì)工作的主要影響將是幫助人們更高效地完成工作,。無(wú)論是在工廠(chǎng)工作,，還是在辦公室處理銷(xiāo)售電話(huà)和應(yīng)付賬款，都將如此,。最終,，人工智能將能夠很好地表達(dá)自己的想法,，為您撰寫(xiě)電子郵件并管理收件箱。通過(guò)簡(jiǎn)單的英語(yǔ)或任何其他語(yǔ)言撰寫(xiě)請(qǐng)求,，你就可以得到你想要的 PPT,。

正如我在二月份的文章中所說(shuō)，生產(chǎn)力提高對(duì)社會(huì)有益,。它讓人們有更多的時(shí)間在工作和家庭中做其他事情,。對(duì)助人為樂(lè)者的需求永遠(yuǎn)不會(huì)消失 — 比如教書(shū)育人、照顧病人和贍養(yǎng)老人,。但是,，在我們向人工智能驅(qū)動(dòng)的工作場(chǎng)所過(guò)渡的過(guò)程中，一些工人確實(shí)需要支持和再培訓(xùn),。這是政府和企業(yè)的職責(zé)所在,，它們需要妥善管理，以免工人被拋在時(shí)代之后 — 避免出現(xiàn)美國(guó)制造業(yè)工作崗位減少時(shí)發(fā)生的對(duì)人們生活的干擾,。

此外,，請(qǐng)記住，這并不是新技術(shù)第一次導(dǎo)致勞動(dòng)力市場(chǎng)發(fā)生重大變化,。我不認(rèn)為人工智能的影響會(huì)像工業(yè)革命那樣巨大,，但它肯定與個(gè)人電腦引入時(shí)期的影響類(lèi)似。文字處理應(yīng)用軟件并沒(méi)有消除辦公室工作,，但卻永遠(yuǎn)地改變了辦公室工作,。雇主和員工必須適應(yīng)，他們也確實(shí)做到了,。人工智能帶來(lái)的轉(zhuǎn)變將是一個(gè)崎嶇的過(guò)渡,，但我們完全有理由相信，我們能夠減少對(duì)人們生活和生計(jì)的干擾,。

AI 會(huì)繼承我們的偏見(jiàn),，并胡編亂造

幻覺(jué)——指的是人工智能自信地提出一些根本不符合事實(shí)的主張——通常是因?yàn)闄C(jī)器不了解您的請(qǐng)求而發(fā)生的。讓 AI 寫(xiě)一個(gè)去月球度假的小故事,，它可能會(huì)給你一個(gè)富有想象力的答案,。但如果讓 AI 幫你撰寫(xiě)坦桑尼亞的旅行計(jì)劃，它可能會(huì)把你送到一家根本不存在的酒店,。

人工智能的另一個(gè)風(fēng)險(xiǎn)是,，它反映甚至加劇了人們對(duì)某些性別、種族,、民族等的偏見(jiàn),。

要理解為什么會(huì)出現(xiàn)幻覺(jué)和偏見(jiàn)，重要的是要知道當(dāng)今最常見(jiàn)的人工智能模型是如何工作的。它們本質(zhì)上是非常復(fù)雜的代碼版本,，可以讓您的電子郵件應(yīng)用程序預(yù)測(cè)您將要鍵入的下一個(gè)單詞：它們掃描海量文本 — 在某些情況下,，幾乎是網(wǎng)上所有可用的文本 — 然后進(jìn)行分析，找出人類(lèi)語(yǔ)言中的模式,。

當(dāng)您向人工智能提出一個(gè)問(wèn)題時(shí),，它會(huì)查看您使用的單詞，然后搜索經(jīng)常與這些單詞相關(guān)聯(lián)的文本塊,。如果你寫(xiě)下“列出煎餅的配料”,，人工智能可能會(huì)注意到“面粉、糖,、鹽,、發(fā)酵粉、牛奶和雞蛋”等詞經(jīng)常與該短語(yǔ)一起出現(xiàn),。然后,，根據(jù)它所知道的這些單詞通常出現(xiàn)的順序，它會(huì)生成一個(gè)答案,。（以這種方式工作的人工智能模型使用了所謂的 Transformer。GPT-4 就是這樣的模型之一）,。

這個(gè)過(guò)程解釋了為什么人工智能可能會(huì)產(chǎn)生幻覺(jué)或出現(xiàn)偏差,。它沒(méi)有你提出的問(wèn)題或你所說(shuō)的內(nèi)容的上下文。如果你告訴 AI 它犯了一個(gè)錯(cuò)誤,，它可能會(huì)說(shuō)“對(duì)不起,，我打錯(cuò)了”。但這只是幻覺(jué),，實(shí)際上它什么也沒(méi)輸入,。它之所以這么說(shuō)，是因?yàn)樗呀?jīng)掃描了足夠多的文本,，知道“對(duì)不起,，我打錯(cuò)了”是人們?cè)趧e人糾正他們之后經(jīng)常寫(xiě)的一句話(huà)。

同樣,，AI 模型也會(huì)繼承它們所訓(xùn)練的文本中蘊(yùn)含的偏見(jiàn),。如果一個(gè)人讀了很多關(guān)于醫(yī)生的文章，而文章大多提到男性醫(yī)生,，那么它的答案就會(huì)假定大多數(shù)醫(yī)生都是男性,。

盡管一些研究人員認(rèn)為幻覺(jué)是一個(gè)固有的問(wèn)題，但我并不同意,。我很樂(lè)觀地認(rèn)為,，隨著時(shí)間的推移，AI 模型可以學(xué)會(huì)區(qū)分事實(shí)與虛構(gòu),。例如,，OpenAI 就在這方面做了很有前途的研究,。

包括艾倫圖靈研究所（Alan Turing Institute）和美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院（National Institute of Standards and Technology）在內(nèi)的其他組織也在致力于解決偏見(jiàn)問(wèn)題。一種方法是在人工智能中構(gòu)建人類(lèi)價(jià)值觀和更高層次的推理,。這類(lèi)似于有自我意識(shí)的人類(lèi)的工作方式：也許你認(rèn)為大多數(shù)醫(yī)生都是男性,，但你對(duì)這一假設(shè)有足夠的意識(shí)，知道你必須有意識(shí)地與之斗爭(zhēng),。人工智能也可以以類(lèi)似的方式運(yùn)行,，特別是如果模型是由來(lái)自不同背景的人設(shè)計(jì)的。

最后,，每個(gè)使用人工智能的人都需要意識(shí)到偏見(jiàn)問(wèn)題,，并成為知情的用戶(hù)。你要求人工智能起草的論文可能會(huì)充滿(mǎn)偏見(jiàn)和事實(shí)錯(cuò)誤,。你需要檢查人工智能的偏見(jiàn)以及你自己的偏見(jiàn),。

學(xué)生不會(huì)學(xué)習(xí)寫(xiě)作，因?yàn)?AI 會(huì)替他們完成寫(xiě)作

許多教師擔(dān)心 AI 會(huì)破壞他們與學(xué)生的合作,。在一個(gè)只要能上網(wǎng),，任何人都能用 AI 寫(xiě)出一篇可圈可點(diǎn)的論文初稿的時(shí)代，有什么能阻止學(xué)生將其作為自己的作品上交呢,？

已經(jīng)有 AI 工具能夠?qū)W會(huì)分辨文章是由人所寫(xiě)還是由電腦所寫(xiě),，這樣教師就能分辨出學(xué)生是否在自己做作業(yè)。但一些老師并沒(méi)有試圖阻止學(xué)生在寫(xiě)作中使用人工智能——他們實(shí)際上鼓勵(lì)這么做,。

今年 1 月,，一位名叫 Cherie Shields 的資深英語(yǔ)教師在《教育周刊》（Education Week）上撰文，介紹了她如何在課堂上使用 ChatGPT,。ChatGPT 幫助她的學(xué)生完成了從開(kāi)始寫(xiě)作到撰寫(xiě)提綱的所有任務(wù),，甚至還為他們的作業(yè)提供了反饋。

“教師必須接受人工智能技術(shù),，將其作為學(xué)生可以使用的另一種工具,，”她寫(xiě)道?！熬拖裎覀?cè)?jīng)教學(xué)生如何進(jìn)行正確的 Google 搜索一樣,，教師應(yīng)該圍繞 ChatGPT 機(jī)器人如何協(xié)助論文寫(xiě)作設(shè)計(jì)清晰的課程。承認(rèn)人工智能的存在并幫助學(xué)生使用它可以徹底改變我們的教學(xué)方式,?！辈⒉皇敲课唤處煻加袝r(shí)間學(xué)習(xí)和使用新工具，但像 Cherie Shields 這樣的教育工作者提出了一個(gè)很好的論點(diǎn),，即那些有時(shí)間的教師將受益匪淺,。

這讓我想起了上世紀(jì)七八十年代電子計(jì)算器開(kāi)始普及的時(shí)候。一些數(shù)學(xué)老師擔(dān)心學(xué)生會(huì)停止學(xué)習(xí)基本算術(shù)，但另一些老師則接受了這項(xiàng)新技術(shù),，并將重點(diǎn)放在了算術(shù)背后的思維能力上,。

AI 還可以幫助寫(xiě)作和批判性思維。特別是在早期,，當(dāng)幻覺(jué)和偏見(jiàn)仍然是一個(gè)問(wèn)題時(shí),，教育工作者可以讓 AI 生成文章，然后與學(xué)生一起檢查事實(shí),。我資助的可汗學(xué)院（Khan Academy）和開(kāi)放教育資源項(xiàng)目（OER Project）等非營(yíng)利性教育機(jī)構(gòu)為教師和學(xué)生提供免費(fèi)的在線(xiàn)工具,，這些工具非常強(qiáng)調(diào)對(duì)論斷的檢驗(yàn)。沒(méi)什么技能比知道如何辨別真假更重要了,。

我們確實(shí)需要確保教育軟件有助于縮小成績(jī)差距,，而不是使其變得更糟。如今的軟件主要面向那些已經(jīng)有學(xué)習(xí)動(dòng)力的學(xué)生,。它可以為你制定學(xué)習(xí)計(jì)劃,，為你指出好的資源，并測(cè)試你的知識(shí),。但是,，它還不知道如何吸引你去學(xué)習(xí)你還不感興趣的科目。這是開(kāi)發(fā)人員需要解決的一個(gè)問(wèn)題,，以便讓所有類(lèi)型的學(xué)生都能從人工智能中受益,。

下一步是什么？

我相信,，我們有更多的理由樂(lè)觀地認(rèn)為，我們可以管理人工智能的風(fēng)險(xiǎn),，同時(shí)最大限度地發(fā)揮其效益,。但我們需要快速行動(dòng)。

各國(guó)政府需要積累人工智能方面的專(zhuān)業(yè)知識(shí),，以便制定應(yīng)對(duì)這一新技術(shù)的知情法律法規(guī),。他們需要應(yīng)對(duì)錯(cuò)誤信息和深度偽造、安全威脅,、就業(yè)市場(chǎng)的變化以及對(duì)教育的影響,。僅舉一例：法律需要明確哪些使用深度偽造是合法的，以及如何標(biāo)注深度偽造,，以便每個(gè)人都能了解他們所看到或聽(tīng)到的是假的,。

政治領(lǐng)導(dǎo)人需要具備與選民進(jìn)行知情的、深思熟慮的對(duì)話(huà)的能力,。他們還需要決定在這些問(wèn)題上與其他國(guó)家合作的程度,，而不是單打獨(dú)斗。

在私營(yíng)領(lǐng)域，人工智能公司需要安全,、負(fù)責(zé)任地開(kāi)展工作,。這包括保護(hù)人們的隱私，確保 AI 模型反映人類(lèi)的基本價(jià)值觀,，最大限度地減少偏見(jiàn),，讓盡可能多的人受益，并防止技術(shù)被犯罪分子或恐怖分子利用,。許多經(jīng)濟(jì)領(lǐng)域的公司都需要幫助其員工過(guò)渡到以 AI 為中心的工作場(chǎng)所,，這樣就不會(huì)有人掉隊(duì)?？蛻?hù)應(yīng)始終知道他們是在與 AI 而非人類(lèi)互動(dòng),。

最后，我鼓勵(lì)大家盡可能關(guān)注人工智能的發(fā)展,。這是我們有生之年將看到的最具變革性的創(chuàng)新,，健康的公共辯論將取決于每個(gè)人對(duì)這項(xiàng)技術(shù)、其好處和風(fēng)險(xiǎn)的了解,。人工智能將帶來(lái)巨大的效益,，而相信我們能夠控制風(fēng)險(xiǎn)的最好理由就是我們?cè)?jīng)做到過(guò)。