來源：火訊財(cái)經(jīng)

文章轉(zhuǎn)載來源：Yangz

撰文：比爾?蓋茨

來源：Gatesnotes

圖片來源：由無界 AI工具生成

在處理突破性創(chuàng)新帶來的問題方面,，我們已經(jīng)學(xué)到了很多。

人工智能帶來的風(fēng)險(xiǎn)似乎難以承受,。被智能機(jī)器奪走工作的人會(huì)怎樣,？人工智能會(huì)影響選舉結(jié)果嗎,？如果未來的人工智能決定不再需要人類,，并想要擺脫我們該怎么辦？

這些都是合理的問題,，它們所引發(fā)的擔(dān)憂需要認(rèn)真對待,。但我們有充分的理由相信，我們能夠解決這些問題：這并不是重大創(chuàng)新首次帶來必須加以控制的新威脅,，我們以前也遇到過。

無論是汽車的問世,，還是個(gè)人電腦和互聯(lián)網(wǎng)的興起,，人們都曾經(jīng)歷過其他變革時(shí)刻，盡管經(jīng)歷了許多動(dòng)蕩,，但最終都獲得了更好的發(fā)展,。第一輛汽車上路后不久，就發(fā)生了第一起車禍,。但我們并沒有禁止汽車,，而是采用了限速、安全標(biāo)準(zhǔn),、駕照要求,、酒駕法以及其他道路規(guī)則。

現(xiàn)在的我們正處于另一場深刻變革的初期階段,，即人工智能時(shí)代,。這類似于限速和安全帶之前的不確定時(shí)代。人工智能的變化如此之快,，我們還不清楚下一步會(huì)發(fā)生什么,。我們正面臨著由當(dāng)前技術(shù)的工作方式、人們將如何惡意使用該技術(shù)以及人工智能將如何改變社會(huì)和個(gè)人所引發(fā)的重大問題,。

在這樣的時(shí)刻,，感到不安是很自然的,。但歷史表明，解決新技術(shù)帶來的挑戰(zhàn)是可能的,。

我曾經(jīng)寫過一篇文章,，談到人工智能將如何徹底改變我們的生活。它將幫助解決健康,、教育,、氣候變化等方面的問題，而這些問題在過去似乎是難以解決的,。蓋茨基金會(huì)將其作為優(yōu)先事項(xiàng),，我們的首席執(zhí)行官 Mark Suzman 最近也分享了他對人工智能在減少不平等方面的作用的看法。

將來我會(huì)更多地談?wù)撊斯ぶ悄艿暮锰?，但在這篇文章中,，我想談?wù)勎医?jīng)常聽到和讀到的一些擔(dān)憂，其中許多我也有同感,，并解釋一下我是如何看待這些擔(dān)憂的,。

到目前為止，從所有關(guān)于人工智能風(fēng)險(xiǎn)的文章可以清楚地看出一件事,，那就是沒有人知道所有答案,。另一個(gè)清楚的點(diǎn)是，人工智能的未來并不像某些人想象的那樣嚴(yán)峻,，也不像其他人想象的那樣美好,。風(fēng)險(xiǎn)是真實(shí)存在的，但我樂觀地認(rèn)為這些風(fēng)險(xiǎn)是可以控制的,。當(dāng)我逐一闡述這些擔(dān)憂時(shí),，我將回到以下幾個(gè)主題：

• 人工智能引發(fā)的許多問題都有歷史先例。例如,，它將對教育產(chǎn)生巨大影響,，但幾十年前的手持計(jì)算器以及最近的允許計(jì)算機(jī)進(jìn)入課堂也是如此。我們可以借鑒過去的成功經(jīng)驗(yàn),。
• 人工智能帶來的許多問題也可以在人工智能的幫助下得到解決,。
• 我們需要調(diào)整舊的法律并采用新的法律 — 就像現(xiàn)有的反欺詐法律必須適應(yīng)網(wǎng)絡(luò)世界一樣。

在這篇文章中,，我將重點(diǎn)關(guān)注已經(jīng)存在或即將存在的風(fēng)險(xiǎn),。我不會(huì)討論當(dāng)我們開發(fā)一個(gè)可以學(xué)習(xí)任何主題或任務(wù)的人工智能時(shí)會(huì)發(fā)生什么，這與今天的專用人工智能不同,。無論我們是在未來十年還是一個(gè)世紀(jì)內(nèi)到達(dá)這一時(shí)刻,，社會(huì)都需要考慮深刻的問題。如果超級人工智能設(shè)定了自己的目標(biāo)怎么辦？如果它們與人類發(fā)生沖突怎么辦,？我們是否應(yīng)該制造一個(gè)超級人工智能,？

然而，對這些長期風(fēng)險(xiǎn)的思考不應(yīng)以眼前更直接的風(fēng)險(xiǎn)為代價(jià),。

AI 生成的深度造假和錯(cuò)誤信息可能會(huì)破壞選舉和民主

利用技術(shù)傳播謊言和不實(shí)信息并不是什么新鮮事,。幾個(gè)世紀(jì)以來，人們一直通過書籍和傳單這么做,。隨著文字處理器,、激光打印機(jī)、電子郵件和社交網(wǎng)絡(luò)的出現(xiàn),，這一切變得更加容易,。

人工智能解決了偽造文本的問題，并對其進(jìn)行了擴(kuò)展,，使幾乎任何人都可以制作偽造的音頻和視頻,，即所謂的深度偽造（Deepfake）。如果您收到一條語音消息,，聽起來像是您的孩子在說“我被綁架了,，請?jiān)诮酉聛淼?10 分鐘內(nèi)向此銀行帳戶發(fā)送 1,000 美元，并且不要報(bào)警”,，它所產(chǎn)生的可怕情感沖擊力將遠(yuǎn)遠(yuǎn)超過一封說著同樣內(nèi)容的電子郵件,。

從更大的范圍看，人工智能生成的深度造假可能被用來試圖影響選舉,。當(dāng)然,，對選舉的合法獲勝者產(chǎn)生懷疑并不需要復(fù)雜的技術(shù)，但人工智能將使其變得更加容易,。

現(xiàn)在已經(jīng)出現(xiàn)了偽造知名政客鏡頭的虛假視頻。試想一下,，在大選當(dāng)天早上,，一段顯示某位候選人搶劫銀行的視頻在網(wǎng)上瘋傳。這是假的,，但新聞機(jī)構(gòu)和競選團(tuán)隊(duì)花了幾個(gè)小時(shí)才證明這一點(diǎn),。有多少人會(huì)看到這段視頻并在最后一刻改變投票？這可能會(huì)使天平傾斜,，尤其是在選情膠著的情況下,。

最近，OpenAI 聯(lián)合創(chuàng)始人 Sam Altman 在美國參議院委員會(huì)作證時(shí),，兩黨參議員都談到了人工智能對選舉和民主的影響,。我希望這個(gè)話題能繼續(xù)被提上每個(gè)人的議程。

我們當(dāng)然還沒有解決錯(cuò)誤信息和深度造假的問題,。但有兩件事讓我持謹(jǐn)慎樂觀的態(tài)度,。一是人們有能力學(xué)會(huì)不輕信一切表面價(jià)值,。多年來，電子郵件用戶深陷詐騙風(fēng)波,，有人會(huì)冒充尼日利亞王子許諾分享信用卡號碼,，以換取巨額回報(bào)。但最終,，大多數(shù)人學(xué)會(huì)了三思而后行,。隨著詐騙手段越來越高明，許多目標(biāo)也變得越來越狡猾,。我們需要為深度偽造建立同樣的能力,。

另一件讓我覺得充滿希望的事情是，人工智能可以幫助識(shí)別深度偽造以及制造深度偽造,。例如,，英特爾已經(jīng)開發(fā)出一種深度偽造檢測器，而政府機(jī)構(gòu) DARPA 也正在研發(fā)識(shí)別視頻或音頻是否被篡改的技術(shù),。

這將是一個(gè)循環(huán)往復(fù)的過程：有人會(huì)找到檢測造假的方法,，有人會(huì)想出對付造假的辦法，有人會(huì)開發(fā)出反制措施,，如此循環(huán)往復(fù),。這不會(huì)是完美的，但我們也不至于束手無策,。

AI 將使攻擊人類和政府變得更加容易

如今,，當(dāng)黑客希望找到軟件中的可利用漏洞時(shí)，他們會(huì)通過“蠻力”來實(shí)現(xiàn) — 編寫代碼,，對潛在的弱點(diǎn)進(jìn)行攻擊,，直到發(fā)現(xiàn)漏洞為止。這需要走很多彎路,，因此需要時(shí)間和耐心,。

想要對抗黑客的安全專家也必須這么做。您在手機(jī)或筆記本電腦上安裝的每一個(gè)軟件補(bǔ)丁,，都象征著大量時(shí)間的搜索,。

AI 模型將通過幫助黑客編寫更有效的代碼來加速這一過程。他們還能夠利用個(gè)人的公共信息,，如工作地點(diǎn)和朋友等,，開發(fā)出比現(xiàn)在更先進(jìn)的網(wǎng)絡(luò)釣魚攻擊。

好消息是,，人工智能是把雙刃劍,。政府和私營部門的安全團(tuán)隊(duì)需要擁有最新的工具，以便在犯罪分子利用安全漏洞之前發(fā)現(xiàn)并修復(fù)它們。我希望軟件安全行業(yè)能夠擴(kuò)大他們在這方面已經(jīng)開展的工作,，這應(yīng)該是他們最關(guān)心的問題,。

當(dāng)然，這也是為什么我們不應(yīng)該像某些人建議的那樣,，試圖暫時(shí)阻止人們實(shí)施人工智能的新發(fā)展,。網(wǎng)絡(luò)犯罪分子不會(huì)停止制造新工具。想要利用人工智能設(shè)計(jì)核武器和生物恐怖襲擊的人也不會(huì)停止,。阻止他們的努力需要以同樣的速度繼續(xù)下去,。

在全球?qū)用孢€有一個(gè)相關(guān)的風(fēng)險(xiǎn)：人工智能的軍備競賽，這種人工智能可以用來設(shè)計(jì)和發(fā)動(dòng)針對其他國家的網(wǎng)絡(luò)攻擊,。每個(gè)國家的政府都希望擁有最強(qiáng)大的技術(shù),，以阻止對手的攻擊。這種“不讓任何人搶先”的動(dòng)機(jī)可能會(huì)引發(fā)一場制造日益危險(xiǎn)的網(wǎng)絡(luò)武器的競賽,。每個(gè)人的處境都會(huì)變得更糟,。

這是一個(gè)可怕的想法，但我們有歷史為鑒,。盡管世界核不擴(kuò)散機(jī)制存在缺陷,，但它阻止了我們這一代人在成長過程中非常害怕的全面核戰(zhàn)爭。各國政府應(yīng)考慮建立一個(gè)類似于國際原子能機(jī)構(gòu)的全球人工智能機(jī)構(gòu),。

AI 將奪走人們的工作

未來幾年,，人工智能對工作的主要影響將是幫助人們更高效地完成工作。無論是在工廠工作,，還是在辦公室處理銷售電話和應(yīng)付賬款,，都將如此。最終,，人工智能將能夠很好地表達(dá)自己的想法,，為您撰寫電子郵件并管理收件箱。通過簡單的英語或任何其他語言撰寫請求,，你就可以得到你想要的 PPT,。

正如我在二月份的文章中所說，生產(chǎn)力提高對社會(huì)有益,。它讓人們有更多的時(shí)間在工作和家庭中做其他事情。對助人為樂者的需求永遠(yuǎn)不會(huì)消失 — 比如教書育人,、照顧病人和贍養(yǎng)老人,。但是，在我們向人工智能驅(qū)動(dòng)的工作場所過渡的過程中,，一些工人確實(shí)需要支持和再培訓(xùn),。這是政府和企業(yè)的職責(zé)所在，它們需要妥善管理，以免工人被拋在時(shí)代之后 — 避免出現(xiàn)美國制造業(yè)工作崗位減少時(shí)發(fā)生的對人們生活的干擾,。

此外,，請記住，這并不是新技術(shù)第一次導(dǎo)致勞動(dòng)力市場發(fā)生重大變化,。我不認(rèn)為人工智能的影響會(huì)像工業(yè)革命那樣巨大,，但它肯定與個(gè)人電腦引入時(shí)期的影響類似。文字處理應(yīng)用軟件并沒有消除辦公室工作,，但卻永遠(yuǎn)地改變了辦公室工作,。雇主和員工必須適應(yīng)，他們也確實(shí)做到了,。人工智能帶來的轉(zhuǎn)變將是一個(gè)崎嶇的過渡,，但我們完全有理由相信，我們能夠減少對人們生活和生計(jì)的干擾,。

AI 會(huì)繼承我們的偏見,，并胡編亂造

幻覺——指的是人工智能自信地提出一些根本不符合事實(shí)的主張——通常是因?yàn)闄C(jī)器不了解您的請求而發(fā)生的。讓 AI 寫一個(gè)去月球度假的小故事,，它可能會(huì)給你一個(gè)富有想象力的答案,。但如果讓 AI 幫你撰寫坦桑尼亞的旅行計(jì)劃，它可能會(huì)把你送到一家根本不存在的酒店,。

人工智能的另一個(gè)風(fēng)險(xiǎn)是,，它反映甚至加劇了人們對某些性別、種族,、民族等的偏見,。

要理解為什么會(huì)出現(xiàn)幻覺和偏見，重要的是要知道當(dāng)今最常見的人工智能模型是如何工作的,。它們本質(zhì)上是非常復(fù)雜的代碼版本,，可以讓您的電子郵件應(yīng)用程序預(yù)測您將要鍵入的下一個(gè)單詞：它們掃描海量文本 — 在某些情況下，幾乎是網(wǎng)上所有可用的文本 — 然后進(jìn)行分析,，找出人類語言中的模式,。

當(dāng)您向人工智能提出一個(gè)問題時(shí)，它會(huì)查看您使用的單詞,，然后搜索經(jīng)常與這些單詞相關(guān)聯(lián)的文本塊,。如果你寫下“列出煎餅的配料”，人工智能可能會(huì)注意到“面粉,、糖,、鹽、發(fā)酵粉,、牛奶和雞蛋”等詞經(jīng)常與該短語一起出現(xiàn),。然后,，根據(jù)它所知道的這些單詞通常出現(xiàn)的順序，它會(huì)生成一個(gè)答案,。（以這種方式工作的人工智能模型使用了所謂的 Transformer,。GPT-4 就是這樣的模型之一）。

這個(gè)過程解釋了為什么人工智能可能會(huì)產(chǎn)生幻覺或出現(xiàn)偏差,。它沒有你提出的問題或你所說的內(nèi)容的上下文,。如果你告訴 AI 它犯了一個(gè)錯(cuò)誤，它可能會(huì)說“對不起,，我打錯(cuò)了”,。但這只是幻覺，實(shí)際上它什么也沒輸入,。它之所以這么說,，是因?yàn)樗呀?jīng)掃描了足夠多的文本，知道“對不起,，我打錯(cuò)了”是人們在別人糾正他們之后經(jīng)常寫的一句話,。

同樣，AI 模型也會(huì)繼承它們所訓(xùn)練的文本中蘊(yùn)含的偏見,。如果一個(gè)人讀了很多關(guān)于醫(yī)生的文章,，而文章大多提到男性醫(yī)生，那么它的答案就會(huì)假定大多數(shù)醫(yī)生都是男性,。

盡管一些研究人員認(rèn)為幻覺是一個(gè)固有的問題,，但我并不同意。我很樂觀地認(rèn)為,，隨著時(shí)間的推移,，AI 模型可以學(xué)會(huì)區(qū)分事實(shí)與虛構(gòu)。例如,，OpenAI 就在這方面做了很有前途的研究,。

包括艾倫圖靈研究所（Alan Turing Institute）和美國國家標(biāo)準(zhǔn)與技術(shù)研究院（National Institute of Standards and Technology）在內(nèi)的其他組織也在致力于解決偏見問題。一種方法是在人工智能中構(gòu)建人類價(jià)值觀和更高層次的推理,。這類似于有自我意識(shí)的人類的工作方式：也許你認(rèn)為大多數(shù)醫(yī)生都是男性,，但你對這一假設(shè)有足夠的意識(shí)，知道你必須有意識(shí)地與之斗爭,。人工智能也可以以類似的方式運(yùn)行,，特別是如果模型是由來自不同背景的人設(shè)計(jì)的。

最后,，每個(gè)使用人工智能的人都需要意識(shí)到偏見問題,，并成為知情的用戶。你要求人工智能起草的論文可能會(huì)充滿偏見和事實(shí)錯(cuò)誤,。你需要檢查人工智能的偏見以及你自己的偏見,。

學(xué)生不會(huì)學(xué)習(xí)寫作，因?yàn)?AI 會(huì)替他們完成寫作

許多教師擔(dān)心 AI 會(huì)破壞他們與學(xué)生的合作,。在一個(gè)只要能上網(wǎng),，任何人都能用 AI 寫出一篇可圈可點(diǎn)的論文初稿的時(shí)代，有什么能阻止學(xué)生將其作為自己的作品上交呢,？

已經(jīng)有 AI 工具能夠?qū)W會(huì)分辨文章是由人所寫還是由電腦所寫,，這樣教師就能分辨出學(xué)生是否在自己做作業(yè)。但一些老師并沒有試圖阻止學(xué)生在寫作中使用人工智能——他們實(shí)際上鼓勵(lì)這么做,。

今年 1 月,，一位名叫 Cherie Shields 的資深英語教師在《教育周刊》（Education Week）上撰文，介紹了她如何在課堂上使用 ChatGPT,。ChatGPT 幫助她的學(xué)生完成了從開始寫作到撰寫提綱的所有任務(wù),，甚至還為他們的作業(yè)提供了反饋。

“教師必須接受人工智能技術(shù),，將其作為學(xué)生可以使用的另一種工具,，”她寫道?！熬拖裎覀冊?jīng)教學(xué)生如何進(jìn)行正確的 Google 搜索一樣,，教師應(yīng)該圍繞 ChatGPT 機(jī)器人如何協(xié)助論文寫作設(shè)計(jì)清晰的課程。承認(rèn)人工智能的存在并幫助學(xué)生使用它可以徹底改變我們的教學(xué)方式,?！辈⒉皇敲课唤處煻加袝r(shí)間學(xué)習(xí)和使用新工具，但像 Cherie Shields 這樣的教育工作者提出了一個(gè)很好的論點(diǎn),，即那些有時(shí)間的教師將受益匪淺,。

這讓我想起了上世紀(jì)七八十年代電子計(jì)算器開始普及的時(shí)候。一些數(shù)學(xué)老師擔(dān)心學(xué)生會(huì)停止學(xué)習(xí)基本算術(shù),，但另一些老師則接受了這項(xiàng)新技術(shù),，并將重點(diǎn)放在了算術(shù)背后的思維能力上。

AI 還可以幫助寫作和批判性思維,。特別是在早期,，當(dāng)幻覺和偏見仍然是一個(gè)問題時(shí)，教育工作者可以讓 AI 生成文章,，然后與學(xué)生一起檢查事實(shí),。我資助的可汗學(xué)院（Khan Academy）和開放教育資源項(xiàng)目（OER Project）等非營利性教育機(jī)構(gòu)為教師和學(xué)生提供免費(fèi)的在線工具，這些工具非常強(qiáng)調(diào)對論斷的檢驗(yàn),。沒什么技能比知道如何辨別真假更重要了,。

我們確實(shí)需要確保教育軟件有助于縮小成績差距，而不是使其變得更糟,。如今的軟件主要面向那些已經(jīng)有學(xué)習(xí)動(dòng)力的學(xué)生,。它可以為你制定學(xué)習(xí)計(jì)劃,，為你指出好的資源，并測試你的知識(shí),。但是,，它還不知道如何吸引你去學(xué)習(xí)你還不感興趣的科目。這是開發(fā)人員需要解決的一個(gè)問題,，以便讓所有類型的學(xué)生都能從人工智能中受益,。

下一步是什么？

我相信,，我們有更多的理由樂觀地認(rèn)為,，我們可以管理人工智能的風(fēng)險(xiǎn)，同時(shí)最大限度地發(fā)揮其效益,。但我們需要快速行動(dòng),。

各國政府需要積累人工智能方面的專業(yè)知識(shí)，以便制定應(yīng)對這一新技術(shù)的知情法律法規(guī),。他們需要應(yīng)對錯(cuò)誤信息和深度偽造,、安全威脅、就業(yè)市場的變化以及對教育的影響,。僅舉一例：法律需要明確哪些使用深度偽造是合法的,，以及如何標(biāo)注深度偽造，以便每個(gè)人都能了解他們所看到或聽到的是假的,。

政治領(lǐng)導(dǎo)人需要具備與選民進(jìn)行知情的,、深思熟慮的對話的能力。他們還需要決定在這些問題上與其他國家合作的程度,，而不是單打獨(dú)斗,。

在私營領(lǐng)域，人工智能公司需要安全,、負(fù)責(zé)任地開展工作,。這包括保護(hù)人們的隱私，確保 AI 模型反映人類的基本價(jià)值觀,，最大限度地減少偏見,，讓盡可能多的人受益，并防止技術(shù)被犯罪分子或恐怖分子利用,。許多經(jīng)濟(jì)領(lǐng)域的公司都需要幫助其員工過渡到以 AI 為中心的工作場所,，這樣就不會(huì)有人掉隊(duì)?？蛻魬?yīng)始終知道他們是在與 AI 而非人類互動(dòng),。

最后，我鼓勵(lì)大家盡可能關(guān)注人工智能的發(fā)展,。這是我們有生之年將看到的最具變革性的創(chuàng)新,，健康的公共辯論將取決于每個(gè)人對這項(xiàng)技術(shù),、其好處和風(fēng)險(xiǎn)的了解。人工智能將帶來巨大的效益,，而相信我們能夠控制風(fēng)險(xiǎn)的最好理由就是我們曾經(jīng)做到過,。