是福還是禍？

神譯局是36氪旗下編譯團(tuán)隊,，關(guān)注科技,、商業(yè)、職場、生活等領(lǐng)域，重點介紹國外的新技術(shù)、新觀點,、新風(fēng)向。

編者按：伴隨著最近chatGTP爆火網(wǎng)絡(luò),，AI已經(jīng)逐步滲透教育,、生活、工作,、就業(yè),、金融等各大領(lǐng)域。但與此同時,，人們對人工智能飛速發(fā)展帶來的隱患也愈發(fā)擔(dān)憂,。究竟AI是科技進(jìn)步的象征還是人類的威脅,？文章來自翻譯，希望能對你有所啟示,。

幾十年來,，研究人員和科學(xué)家們一直在探索人工智能成為人類助理、導(dǎo)師和顧問的未來生活,。早在1987年,，蘋果公司就提出了Knowledge Navigator(知識導(dǎo)航儀)的概念。我似乎還記得上世紀(jì)90年代參加麻省理工學(xué)院媒體實驗室關(guān)于軟件代理的活動時,，主持人戴著圓頂硬禮帽,，以管家的形象出現(xiàn)。隨著生成式人工智能的出現(xiàn),，軟件作為人類助手的模糊愿景突然變得清晰起來,。WIRED 的威爾·奈特（Will Knight）本周概述了目前已有的技術(shù)和即將出現(xiàn)的技術(shù)。

注冊Plaintext,，利用 Steven 的獨特見解和無與倫比的人脈，從長遠(yuǎn)角度了解科技,。

我關(guān)心的是,，從長遠(yuǎn)來看，這將如何改變我們,，以及我們與他人的關(guān)系,。我們與他人的許多互動將由機(jī)器人代替我們進(jìn)行。機(jī)器人助手與人類助手不同的是：它們不會休息,，它們可以立即秒回信息,。我們使用它們的次數(shù)越多,，我們就越容易離不開它們。

目前人工智能助手仍不完善,。我們還沒有達(dá)到智能機(jī)器人能夠接管那些復(fù)雜且容易出錯的事情,，比如訂機(jī)票、預(yù)約醫(yī)生和管理金融投資組合,。但這種情況將會改變,，因為它在進(jìn)步。我們似乎注定要像長途航空公司的飛行員那樣生活——在設(shè)定了某條固定航線后,，就可以讓人工智能駕駛飛機(jī),，從而解放我們的雙手。只有在必要時,，切換到手動模式即可,。但令人擔(dān)心的是，最終決定飛機(jī)飛行方向的可能是人工智能機(jī)器人,。

拋開世界末日論不談,，我們所有人都將不得不應(yīng)對他人的超級聰明、可能具有操控欲的代理人,。我們將把自己的日?；顒雍腿粘＿x擇的控制權(quán)，從購物清單到約會日程,，交給人工智能助手,，他們也將與我們的家人、朋友和陌生人的代理人進(jìn)行互動,。隨著它們越來越具有獨立性,，我們的智能助手可能最終會代表我們做出不好的決定或交易。

為了獲得對未來的樂觀看法,，我咨詢了穆斯塔法·蘇萊曼(Mustafa Suleyman),。他是人工智能初創(chuàng)公司DeepMind的聯(lián)合創(chuàng)始人，現(xiàn)在是谷歌人工智能開發(fā)的核心,，他現(xiàn)在是Inflection的首席執(zhí)行官,。AI是一家開發(fā)聊天機(jī)器人的公司。最近,，蘇萊曼的著作《即將到來的浪潮》(The Coming Wave)登上了《紐約時報》(New York Times)暢銷書排行榜,，該書提出了人類如何應(yīng)對人工智能帶來的生存危險?？偟膩碚f,，他是一個樂觀主義者，當(dāng)然對軟件代理的前景也很樂觀,。他將自己公司制造的機(jī)器人“派”（ Pi）描述為個人的“幕僚長”,，不僅為人類提供智慧,，還提供善解人意的鼓勵和支持。

蘇萊曼說：“如今,，派不能幫你訂餐廳,、安排汽車，也不能幫你買東西,。但在未來,，它將有合同和法律代理權(quán)限，這意味著你將授權(quán)派能夠代表自己簽訂合同,，花你的錢,，并將你約束在現(xiàn)實世界的實質(zhì)性協(xié)議中?！贝送?，派還將代表其所有者打電話，并與客戶服務(wù)代理進(jìn)行談判,。

這似乎很公平,，因為現(xiàn)在太多的服務(wù)代理已經(jīng)是機(jī)器人了，也許是被設(shè)計出來的,？——不接受企業(yè)雇主欺騙自己客戶,。不可避免地，在生活的各個領(lǐng)域,，人工智能助手之間要進(jìn)行談判。蘇萊曼承認(rèn),，我們不希望這些機(jī)器人彼此之間過于親密,，也不希望它們以人類無法知曉的方式互動。蘇萊曼說：“我們實際上希望人工智能與人工智能之間的交流僅限于簡單的英語,。這樣,，我們就可以掌控它們?！?/p>

這是一個善意的擔(dān)憂,，但它可能會迫使代理工作效率變慢，甚至可能阻止我們的超級智能助手可能提出的一些更具創(chuàng)新性的解決方案,。我懷疑,，讓人工智能與人工智能之間的交流變得高效和有效會壓抑這種美好的情感。

另一個潛在的危害是廣告資助的機(jī)器人將用戶引導(dǎo)到受贊助的產(chǎn)品和服務(wù),。蘇萊曼不喜歡這一點,，但他似乎不排除這種可能性。他說,，他器人能帶來巨大的價值,，而且價值不菲,。通常我們每小時付給律師數(shù)百美元，但出于某種原因,，我對于每月支付超過10美元的任何在線服務(wù)都很敏感,。這種情況必須改變。那么,，那些負(fù)擔(dān)不起費用的用戶是否會被提供無廣告版本呢,？他承認(rèn)，并非所有人都愿意為這項技術(shù)付費,。蘇萊曼說,，無論如何，信任和問責(zé)是至關(guān)重要的,。他說：“我們還需要很多年才能對人工智能的自主行為完全放心和滿意,，我認(rèn)為短期內(nèi)我們不應(yīng)該這么做?！?/p>

技術(shù)將使個人更強(qiáng)大——我擔(dān)心的一個問題是,，人們會用這種力量做什么?

喬納森·格拉奇，Jonathan gratch,，南加州大學(xué)

對我來說,，這就是我所擔(dān)心的。一旦我們安于現(xiàn)狀了,，我們就完蛋了,。當(dāng)我在瀏覽研究論文時，我的注意力被標(biāo)題“傷害的力量：人工智能助手為不道德行為鋪平道路”吸引了,。這篇論文由南加州大學(xué)科學(xué)家喬納森-格拉奇（Jonathan Gratch）和納塔內(nèi)爾-法斯特（Nathanael Fast）合著,，假設(shè)智能代理可以將富人的不良習(xí)慣民主化，富人通過律師,、發(fā)言人和惡棍下屬外包他們的不良行為,。他們寫道：“我們回顧了一系列研究，這些研究說明了在廣泛的社會任務(wù)中,，當(dāng)人們通過人工智能代理采取行動時,，他們的行為可能更不道德，也更愿意欺騙他人,?！?/p>

我找到了格拉奇，他在德國維爾茨堡的一個會議上接受了我的采訪,?！懊總€男人或女人都可以讓他們的私人助理代表他們做事，”他說，“我們的研究表明,，人們可能更愿意讓助手去做一些道德上有問題的事情,，而不是他們自己愿意做的事情?！?/p>

格拉奇多年來一直在研究智能代理可能產(chǎn)生的影響,。在過去的一年里，這一領(lǐng)域發(fā)生了巨大的變化,。他說：“過去,，你要花整篇博士論文的時間來構(gòu)建你想測試的那個該死的代理。而現(xiàn)在,，只要花兩天時間利用GPT或其他東西,，你就能得到一些非常有價值的內(nèi)容信息”。格拉奇說,，“他所在的領(lǐng)域現(xiàn)在充滿了興奮和擔(dān)憂,。”

他說：“這項技術(shù)將使個人變得更加強(qiáng)大,，從而為人們帶來更多的自由時間,。我擔(dān)心的是，人們?nèi)绾卫眠@種力量,？例如,，他說，如果我指示代理人代表我給某個與打電話,，就會失去潛在的人際聯(lián)系,。”格拉奇說：”這些人際關(guān)系是我們保持友好和促進(jìn)共鳴的基礎(chǔ),。當(dāng)人工智能使其更多地涉及算法,、法律和交易時，它就會削弱我們作為人的作用,。”

格拉奇的領(lǐng)域曾經(jīng)以假設(shè)為中心,，而現(xiàn)在卻能讓人感覺到,，它就像一本指南，指引著即將到來的商業(yè)人工智能服務(wù),。請看維爾茨堡會議上的一些演講：“代理在人類代理談判中的體現(xiàn)效果”,，“在保持虛擬酒精濫用顧問安全的同時適應(yīng)用戶表達(dá)”，“融洽關(guān)系對虛擬代理授權(quán)的影響”,。令人欣慰的是,，其他論文是關(guān)于在一個充滿智能代理的世界中如何保持道德。格拉奇最近在麻省理工學(xué)院參加的一次會議上也看到了類似的文章。他說,，所有大型科技公司都在那里,，他希望這些公司能雇用他的學(xué)生。

格拉奇介紹說,，在本周的一次會議上,，研究人員探討了人工智能軟件如何通過情感或非語言行為或手勢來操縱人們，并找到最有效的技術(shù),。他說：“你可以對ChatGPT進(jìn)行微調(diào),，讓它做到這一切，然后以更高的價格賣給你,。你覺得自己被賦予權(quán)力了嗎,？”

時間旅行

2010年12月，《連線》搶先一步宣布：“人工智能革命開始了,?！痹谖业奈恼轮校艺劦搅伺宄斯ぶ悄墚a(chǎn)品的用途的困難,，即使它們做得很好,。

我們正在與機(jī)器進(jìn)行一場持久戰(zhàn)。然而,，由于機(jī)器人的行為不是基于人類的思維過程,，我們往往無力解釋它們的行為。由科學(xué)家斯蒂芬·沃爾夫勒姆創(chuàng)建的網(wǎng)站W(wǎng)olfram Alpha可以解決許多數(shù)學(xué)問題,。它似乎也顯示了這些答案是如何得出的,。但人類看到的邏輯步驟與網(wǎng)站的實際計算完全不同?！八蛔鋈魏瓮评?，”Wolfram說?！澳切┎襟E純粹是假的,。我們想，我們?nèi)绾蜗蚰切┤私忉屵@一點?”

我們得到的教訓(xùn)是,，人工智能有時不得不遷就我們,，否則它們會把我們嚇壞。埃里克·霍維茨(Eric horvitz)現(xiàn)在是微軟(Microsoft)的高級研究員,，也是人工智能促進(jìn)協(xié)會(Association for the Advancement of Artificial intelligence)的前主席,。他在上世紀(jì)80年代幫助建立了一個人工智能系統(tǒng)，幫助病理學(xué)家進(jìn)行研究,，分析每個結(jié)果,，并建議下一步要進(jìn)行的測試,。只有一個問題——它給出答案的速度太快了?；艟S茨說：“我們發(fā)現(xiàn),，如果給它們加一個延遲時間，人們就會更相信它,，就好像它是經(jīng)過認(rèn)真思考才想出的答案,。”

但我們必須學(xué)會適應(yīng),。人工智能對一些系統(tǒng)至關(guān)重要,，比如金融基礎(chǔ)設(shè)施，要擺脫它比簡單地斷開HAL 9000的模塊要困難得多,?！皬哪撤N意義上說，你可以說科幻小說中的場景已經(jīng)開始發(fā)生了,，”思維機(jī)器公司的希利斯說,。“電腦掌控著一切,，而我們只是生活在它們的世界里,。”Wolfram說,，隨著人工智能承擔(dān)新的任務(wù),，這個難題將會加劇，進(jìn)一步超出人類的理解范圍,。他問道：“你監(jiān)管底層算法嗎?這太瘋狂了,，因為在大多數(shù)情況下，你無法預(yù)見算法會產(chǎn)生什么后果,?！?/p>

問答環(huán)節(jié)

香蒂（Shanti）問：“電子郵件還會有后繼者嗎？”

謝謝你的問題,，香蒂,。電子郵件已過時了。現(xiàn)在,，人們可以通過短信,、社交網(wǎng)絡(luò)上的直接消息或Slack來接收信息。我認(rèn)為,，其他軟件的出現(xiàn)將進(jìn)一步削弱電子郵件曾經(jīng)的地位。我記得比爾·蓋茨有一次到我在《新聞周刊》的辦公室拜訪我,，告訴我垃圾郵件問題將在一年內(nèi)被解決,。 再過幾個月，我將迎來拜訪的20周年紀(jì)念日，而我每天都會收到幾十封垃圾郵件,，其中有很大一部分都躲過了垃圾郵件過濾器的攔截,。

拋開垃圾郵件不談，我其實仍舊喜歡使用電子郵件接受信息,。很難想象還有比這更簡單的方式發(fā)送或接收文件,，或搜索互動信息。

另一方面,，如果有人建議對那些單方面將我加入郵件列表（尤其是商業(yè)郵件列表）的人處以強(qiáng)制性最低刑罰,，我也不會反對。

寫在最后

除了提供建議和與客服人員爭論,，機(jī)器人還能寫作,。

Dall-E 3讓插畫家失業(yè)變得更容易。

發(fā)明CRISPR-Cas9基因組編輯方法對諾貝爾獎得主詹妮弗·杜德納來說還不夠,，她現(xiàn)在正研究微生物進(jìn)行基因編輯,。

特斯拉創(chuàng)始人埃隆·馬斯克創(chuàng)辦的大腦芯片公司Neuralink被指控虐待猴子。

譯者：Araon_