是福還是禍,？

神譯局是36氪旗下編譯團(tuán)隊(duì),，關(guān)注科技,、商業(yè)、職場,、生活等領(lǐng)域,，重點(diǎn)介紹國外的新技術(shù),、新觀點(diǎn),、新風(fēng)向,。

編者按：伴隨著最近c(diǎn)hatGTP爆火網(wǎng)絡(luò)，AI已經(jīng)逐步滲透教育,、生活,、工作、就業(yè),、金融等各大領(lǐng)域,。但與此同時(shí)，人們對(duì)人工智能飛速發(fā)展帶來的隱患也愈發(fā)擔(dān)憂。究竟AI是科技進(jìn)步的象征還是人類的威脅,？文章來自翻譯,，希望能對(duì)你有所啟示。

幾十年來,，研究人員和科學(xué)家們一直在探索人工智能成為人類助理,、導(dǎo)師和顧問的未來生活。早在1987年,，蘋果公司就提出了Knowledge Navigator(知識(shí)導(dǎo)航儀)的概念,。我似乎還記得上世紀(jì)90年代參加麻省理工學(xué)院媒體實(shí)驗(yàn)室關(guān)于軟件代理的活動(dòng)時(shí)，主持人戴著圓頂硬禮帽,，以管家的形象出現(xiàn),。隨著生成式人工智能的出現(xiàn)，軟件作為人類助手的模糊愿景突然變得清晰起來,。WIRED 的威爾·奈特（Will Knight）本周概述了目前已有的技術(shù)和即將出現(xiàn)的技術(shù),。

注冊Plaintext,，利用 Steven 的獨(dú)特見解和無與倫比的人脈,，從長遠(yuǎn)角度了解科技。

我關(guān)心的是,，從長遠(yuǎn)來看,，這將如何改變我們，以及我們與他人的關(guān)系,。我們與他人的許多互動(dòng)將由機(jī)器人代替我們進(jìn)行,。機(jī)器人助手與人類助手不同的是：它們不會(huì)休息，它們可以立即秒回信息,。我們使用它們的次數(shù)越多,，我們就越容易離不開它們,。

目前人工智能助手仍不完善。我們還沒有達(dá)到智能機(jī)器人能夠接管那些復(fù)雜且容易出錯(cuò)的事情,，比如訂機(jī)票,、預(yù)約醫(yī)生和管理金融投資組合。但這種情況將會(huì)改變,，因?yàn)樗谶M(jìn)步,。我們似乎注定要像長途航空公司的飛行員那樣生活——在設(shè)定了某條固定航線后，就可以讓人工智能駕駛飛機(jī),，從而解放我們的雙手,。只有在必要時(shí)，切換到手動(dòng)模式即可,。但令人擔(dān)心的是,，最終決定飛機(jī)飛行方向的可能是人工智能機(jī)器人。

拋開世界末日論不談,，我們所有人都將不得不應(yīng)對(duì)他人的超級(jí)聰明,、可能具有操控欲的代理人。我們將把自己的日?；顒?dòng)和日常選擇的控制權(quán),，從購物清單到約會(huì)日程，交給人工智能助手,，他們也將與我們的家人,、朋友和陌生人的代理人進(jìn)行互動(dòng)。隨著它們越來越具有獨(dú)立性,，我們的智能助手可能最終會(huì)代表我們做出不好的決定或交易,。

為了獲得對(duì)未來的樂觀看法，我咨詢了穆斯塔法·蘇萊曼(Mustafa Suleyman),。他是人工智能初創(chuàng)公司DeepMind的聯(lián)合創(chuàng)始人,，現(xiàn)在是谷歌人工智能開發(fā)的核心，他現(xiàn)在是Inflection的首席執(zhí)行官,。AI是一家開發(fā)聊天機(jī)器人的公司,。最近，蘇萊曼的著作《即將到來的浪潮》(The Coming Wave)登上了《紐約時(shí)報(bào)》(New York Times)暢銷書排行榜,，該書提出了人類如何應(yīng)對(duì)人工智能帶來的生存危險(xiǎn),。總的來說,，他是一個(gè)樂觀主義者,，當(dāng)然對(duì)軟件代理的前景也很樂觀。他將自己公司制造的機(jī)器人“派”（ Pi）描述為個(gè)人的“幕僚長”，不僅為人類提供智慧,，還提供善解人意的鼓勵(lì)和支持,。

蘇萊曼說：“如今，派不能幫你訂餐廳,、安排汽車,，也不能幫你買東西。但在未來,，它將有合同和法律代理權(quán)限,，這意味著你將授權(quán)派能夠代表自己簽訂合同，花你的錢,，并將你約束在現(xiàn)實(shí)世界的實(shí)質(zhì)性協(xié)議中,?！贝送?，派還將代表其所有者打電話，并與客戶服務(wù)代理進(jìn)行談判,。

這似乎很公平,，因?yàn)楝F(xiàn)在太多的服務(wù)代理已經(jīng)是機(jī)器人了，也許是被設(shè)計(jì)出來的,？——不接受企業(yè)雇主欺騙自己客戶,。不可避免地，在生活的各個(gè)領(lǐng)域,，人工智能助手之間要進(jìn)行談判,。蘇萊曼承認(rèn)，我們不希望這些機(jī)器人彼此之間過于親密,，也不希望它們以人類無法知曉的方式互動(dòng),。蘇萊曼說：“我們實(shí)際上希望人工智能與人工智能之間的交流僅限于簡單的英語。這樣,，我們就可以掌控它們,。”

這是一個(gè)善意的擔(dān)憂,，但它可能會(huì)迫使代理工作效率變慢,，甚至可能阻止我們的超級(jí)智能助手可能提出的一些更具創(chuàng)新性的解決方案。我懷疑,，讓人工智能與人工智能之間的交流變得高效和有效會(huì)壓抑這種美好的情感,。

另一個(gè)潛在的危害是廣告資助的機(jī)器人將用戶引導(dǎo)到受贊助的產(chǎn)品和服務(wù)。蘇萊曼不喜歡這一點(diǎn),，但他似乎不排除這種可能性,。他說，他器人能帶來巨大的價(jià)值，而且價(jià)值不菲,。通常我們每小時(shí)付給律師數(shù)百美元,，但出于某種原因，我對(duì)于每月支付超過10美元的任何在線服務(wù)都很敏感,。這種情況必須改變,。那么，那些負(fù)擔(dān)不起費(fèi)用的用戶是否會(huì)被提供無廣告版本呢,？他承認(rèn),，并非所有人都愿意為這項(xiàng)技術(shù)付費(fèi)。蘇萊曼說,，無論如何,，信任和問責(zé)是至關(guān)重要的。他說：“我們還需要很多年才能對(duì)人工智能的自主行為完全放心和滿意,，我認(rèn)為短期內(nèi)我們不應(yīng)該這么做,。”

技術(shù)將使個(gè)人更強(qiáng)大——我擔(dān)心的一個(gè)問題是,，人們會(huì)用這種力量做什么?

喬納森·格拉奇,，Jonathan gratch，南加州大學(xué)

對(duì)我來說,，這就是我所擔(dān)心的,。一旦我們安于現(xiàn)狀了，我們就完蛋了,。當(dāng)我在瀏覽研究論文時(shí),，我的注意力被標(biāo)題“傷害的力量：人工智能助手為不道德行為鋪平道路”吸引了。這篇論文由南加州大學(xué)科學(xué)家喬納森-格拉奇（Jonathan Gratch）和納塔內(nèi)爾-法斯特（Nathanael Fast）合著,，假設(shè)智能代理可以將富人的不良習(xí)慣民主化,，富人通過律師、發(fā)言人和惡棍下屬外包他們的不良行為,。他們寫道：“我們回顧了一系列研究,，這些研究說明了在廣泛的社會(huì)任務(wù)中，當(dāng)人們通過人工智能代理采取行動(dòng)時(shí),，他們的行為可能更不道德,，也更愿意欺騙他人?！?/p>

我找到了格拉奇,，他在德國維爾茨堡的一個(gè)會(huì)議上接受了我的采訪?！懊總€(gè)男人或女人都可以讓他們的私人助理代表他們做事,，”他說,，“我們的研究表明，人們可能更愿意讓助手去做一些道德上有問題的事情,，而不是他們自己愿意做的事情,。”

格拉奇多年來一直在研究智能代理可能產(chǎn)生的影響,。在過去的一年里,，這一領(lǐng)域發(fā)生了巨大的變化。他說：“過去,，你要花整篇博士論文的時(shí)間來構(gòu)建你想測試的那個(gè)該死的代理,。而現(xiàn)在，只要花兩天時(shí)間利用GPT或其他東西,，你就能得到一些非常有價(jià)值的內(nèi)容信息”,。格拉奇說，“他所在的領(lǐng)域現(xiàn)在充滿了興奮和擔(dān)憂,?！?/p>

他說：“這項(xiàng)技術(shù)將使個(gè)人變得更加強(qiáng)大，從而為人們帶來更多的自由時(shí)間,。我擔(dān)心的是,，人們?nèi)绾卫眠@種力量,？例如,，他說，如果我指示代理人代表我給某個(gè)與打電話,，就會(huì)失去潛在的人際聯(lián)系,。”格拉奇說：”這些人際關(guān)系是我們保持友好和促進(jìn)共鳴的基礎(chǔ),。當(dāng)人工智能使其更多地涉及算法,、法律和交易時(shí)，它就會(huì)削弱我們作為人的作用,?！?/p>

格拉奇的領(lǐng)域曾經(jīng)以假設(shè)為中心，而現(xiàn)在卻能讓人感覺到,，它就像一本指南,，指引著即將到來的商業(yè)人工智能服務(wù)。請(qǐng)看維爾茨堡會(huì)議上的一些演講：“代理在人類代理談判中的體現(xiàn)效果”,，“在保持虛擬酒精濫用顧問安全的同時(shí)適應(yīng)用戶表達(dá)”,，“融洽關(guān)系對(duì)虛擬代理授權(quán)的影響”。令人欣慰的是,，其他論文是關(guān)于在一個(gè)充滿智能代理的世界中如何保持道德,。格拉奇最近在麻省理工學(xué)院參加的一次會(huì)議上也看到了類似的文章,。他說，所有大型科技公司都在那里,，他希望這些公司能雇用他的學(xué)生,。

格拉奇介紹說，在本周的一次會(huì)議上,，研究人員探討了人工智能軟件如何通過情感或非語言行為或手勢來操縱人們,，并找到最有效的技術(shù)。他說：“你可以對(duì)ChatGPT進(jìn)行微調(diào),，讓它做到這一切,，然后以更高的價(jià)格賣給你。你覺得自己被賦予權(quán)力了嗎,？”

時(shí)間旅行

2010年12月,，《連線》搶先一步宣布：“人工智能革命開始了?！痹谖业奈恼轮?，我談到了弄清楚人工智能產(chǎn)品的用途的困難，即使它們做得很好,。

我們正在與機(jī)器進(jìn)行一場持久戰(zhàn),。然而，由于機(jī)器人的行為不是基于人類的思維過程,，我們往往無力解釋它們的行為,。由科學(xué)家斯蒂芬·沃爾夫勒姆創(chuàng)建的網(wǎng)站W(wǎng)olfram Alpha可以解決許多數(shù)學(xué)問題。它似乎也顯示了這些答案是如何得出的,。但人類看到的邏輯步驟與網(wǎng)站的實(shí)際計(jì)算完全不同,。“它不做任何推理,，”Wolfram說,。“那些步驟純粹是假的,。我們想,，我們?nèi)绾蜗蚰切┤私忉屵@一點(diǎn)?”

我們得到的教訓(xùn)是，人工智能有時(shí)不得不遷就我們,，否則它們會(huì)把我們嚇壞,。埃里克·霍維茨(Eric horvitz)現(xiàn)在是微軟(Microsoft)的高級(jí)研究員，也是人工智能促進(jìn)協(xié)會(huì)(Association for the Advancement of Artificial intelligence)的前主席,。他在上世紀(jì)80年代幫助建立了一個(gè)人工智能系統(tǒng),，幫助病理學(xué)家進(jìn)行研究，分析每個(gè)結(jié)果,，并建議下一步要進(jìn)行的測試,。只有一個(gè)問題——它給出答案的速度太快了,。霍維茨說：“我們發(fā)現(xiàn),，如果給它們加一個(gè)延遲時(shí)間,，人們就會(huì)更相信它，就好像它是經(jīng)過認(rèn)真思考才想出的答案,?！?/p>

但我們必須學(xué)會(huì)適應(yīng)。人工智能對(duì)一些系統(tǒng)至關(guān)重要,，比如金融基礎(chǔ)設(shè)施,，要擺脫它比簡單地?cái)嚅_HAL 9000的模塊要困難得多?！皬哪撤N意義上說,，你可以說科幻小說中的場景已經(jīng)開始發(fā)生了，”思維機(jī)器公司的希利斯說,?！半娔X掌控著一切，而我們只是生活在它們的世界里,?！盬olfram說，隨著人工智能承擔(dān)新的任務(wù),，這個(gè)難題將會(huì)加劇,，進(jìn)一步超出人類的理解范圍。他問道：“你監(jiān)管底層算法嗎?這太瘋狂了,，因?yàn)樵诖蠖鄶?shù)情況下,，你無法預(yù)見算法會(huì)產(chǎn)生什么后果?！?/p>

問答環(huán)節(jié)

香蒂（Shanti）問：“電子郵件還會(huì)有后繼者嗎？”

謝謝你的問題,，香蒂,。電子郵件已過時(shí)了。現(xiàn)在,，人們可以通過短信,、社交網(wǎng)絡(luò)上的直接消息或Slack來接收信息。我認(rèn)為,，其他軟件的出現(xiàn)將進(jìn)一步削弱電子郵件曾經(jīng)的地位,。我記得比爾·蓋茨有一次到我在《新聞周刊》的辦公室拜訪我，告訴我垃圾郵件問題將在一年內(nèi)被解決,。 再過幾個(gè)月,，我將迎來拜訪的20周年紀(jì)念日,，而我每天都會(huì)收到幾十封垃圾郵件，其中有很大一部分都躲過了垃圾郵件過濾器的攔截,。

拋開垃圾郵件不談，我其實(shí)仍舊喜歡使用電子郵件接受信息,。很難想象還有比這更簡單的方式發(fā)送或接收文件,，或搜索互動(dòng)信息。

另一方面,，如果有人建議對(duì)那些單方面將我加入郵件列表（尤其是商業(yè)郵件列表）的人處以強(qiáng)制性最低刑罰,，我也不會(huì)反對(duì)。

寫在最后

除了提供建議和與客服人員爭論,，機(jī)器人還能寫作,。

Dall-E 3讓插畫家失業(yè)變得更容易。

發(fā)明CRISPR-Cas9基因組編輯方法對(duì)諾貝爾獎(jiǎng)得主詹妮弗·杜德納來說還不夠,，她現(xiàn)在正研究微生物進(jìn)行基因編輯,。

特斯拉創(chuàng)始人埃隆·馬斯克創(chuàng)辦的大腦芯片公司Neuralink被指控虐待猴子。

譯者：Araon_