文｜Expert Pane

過去幾年,，人工智能成為無數(shù)頭條新聞的主題,，提高了公眾對(duì)其潛力的興趣和擔(dān)憂,。最近幾周，媒體對(duì)ChatGPT等生成式人工智能工具的用途和缺點(diǎn)進(jìn)行了報(bào)道,。而娛樂業(yè)也一直在討論人工智能發(fā)展的利（如新藝術(shù)形式的興起）和弊（無論是否得到表演者的許可,，都可以復(fù)制表演者的臉和/或聲音的深度偽造）。

這些故事清楚地表明,，雖然人工智能是一種不會(huì)消失的強(qiáng)大資源,，但各行各業(yè)、政府和廣大公眾需要隨時(shí)了解其發(fā)展動(dòng)態(tài),，并認(rèn)真思考其使用所涉及的道德問題。

福布斯技術(shù)委員會(huì)的17位成員分享了一些令人驚訝和不安的人工智能應(yīng)用方式,，這些方式也許曾經(jīng)我們不知道,，但現(xiàn)在應(yīng)該知道。

1. 釣魚信息和惡意軟件

人工智能增強(qiáng)了現(xiàn)有威脅并引入了新威脅,。聊天機(jī)器人可以省去制作網(wǎng)絡(luò)釣魚誘餌的繁瑣工作,；最終，黑客會(huì)將互聯(lián)網(wǎng)接入,、自動(dòng)化和人工智能結(jié)合起來,，讓他們編寫一個(gè)腳本說：“了解目標(biāo)X，并不斷向他們發(fā)送信息,，直到他們點(diǎn)擊為止,。”我們甚至已經(jīng)看到人工智能被用于編寫多態(tài)惡意軟件的證據(jù),。我們需要優(yōu)秀的人工智能來反擊,。

2. 身份盜竊

公眾應(yīng)該知道，人工智能生成的深度假冒不僅針對(duì)知名人士,。欺詐者正利用它們來竊取個(gè)人身份,，從而獲得銀行賬戶和機(jī)密信息。幸運(yùn)的是,，具有多種識(shí)別因素的驗(yàn)證平臺(tái)可以幫助阻止欺詐以及個(gè)人信息和文件的潛在泄漏,。

3. 日益復(fù)雜的網(wǎng)絡(luò)攻擊

黑客越來越多地利用人工智能進(jìn)行復(fù)雜的網(wǎng)絡(luò)攻擊,。人工智能可以自動(dòng)執(zhí)行和優(yōu)化任務(wù)，包括偵察和漏洞掃描,，并經(jīng)過訓(xùn)練模仿人類行為,，使攻擊者能夠發(fā)起令人信服的社交工程攻擊和網(wǎng)絡(luò)釣魚電子郵件。這給網(wǎng)絡(luò)安全帶來了巨大挑戰(zhàn),，需要不斷適應(yīng)和先進(jìn)的人工智能驅(qū)動(dòng)防御,。

4. 造謠行為

人工智能生成的文本可用于創(chuàng)建復(fù)雜的虛假信息活動(dòng)。通過模仿有影響力人物的寫作風(fēng)格,，人工智能可以生成看似真實(shí)的假新聞文章,、社交媒體帖子或博客文章。這引發(fā)了人們對(duì)虛假信息傳播和網(wǎng)絡(luò)內(nèi)容信任度下降的擔(dān)憂,。

5. 泄露個(gè)人數(shù)據(jù)

在大型數(shù)據(jù)集上訓(xùn)練的人工智能模型可以從文本中捕捉模式和知識(shí),，其中可能包括敏感或個(gè)人信息。這引發(fā)了人們對(duì)個(gè)人數(shù)據(jù)隱私和安全的擔(dān)憂,，因?yàn)槿斯ぶ悄苌傻奈谋究赡軙?huì)無意中泄露私人細(xì)節(jié)或被用于惡意目的,，如社交工程攻擊或身份盜竊。

6. 名譽(yù)損害

令人不安的是,，“深度偽造”技術(shù)可能帶來極具破壞性的報(bào)復(fù)場(chǎng)景,。報(bào)復(fù)者可以通過在親密視頻中換臉，輕易制造出某人出軌的假象,；制造受害者說攻擊性話語的假視頻,，損害其職業(yè)生涯（即使視頻被證實(shí)是假的）；或者用深度偽造的視頻敲詐某人,，威脅說除非滿足其要求,，否則就公開發(fā)布該視頻。

7. 冒充受信任的個(gè)人

深度假冒行為呈上升趨勢(shì),，對(duì)消費(fèi)者和企業(yè)都造成了安全威脅,。壞人可以利用人工智能冒充銀行職員，甚至通過電話冒充家庭成員,。這些網(wǎng)絡(luò)釣魚攻擊非常危險(xiǎn)–其緊迫性和欺騙性專門針對(duì)人類情感,，最終目的是竊取個(gè)人身份信息和/或金錢。

8. 操縱選舉結(jié)果

人工智能深度偽造會(huì)扭曲民主話語,，操縱選舉,。深度偽造可以用來傳播關(guān)于政治候選人、政黨或問題的錯(cuò)誤信息,、宣傳和假新聞,。政治領(lǐng)導(dǎo)人可以被假冒或抹黑，政治活動(dòng)家或記者也可以被假冒或抹黑。這會(huì)影響選民行為,，破壞公眾信任,，動(dòng)搖民主制度。人工智能的使用需要加以控制,。

9. 自主武器系統(tǒng)

我相信,，人工智能驅(qū)動(dòng)的自主武器系統(tǒng)總有一天會(huì)發(fā)展起來。這些系統(tǒng)有可能在沒有人類直接控制的情況下做出關(guān)于目標(biāo)選擇和交戰(zhàn)的關(guān)鍵決策,。這將引發(fā)嚴(yán)重的倫理問題,。

10. 圖像操縱

大多數(shù)人沒有意識(shí)到，人工智能可以用來操縱圖像,。人工智能驅(qū)動(dòng)的圖像處理技術(shù)可以獲取現(xiàn)有圖像并改變其中的元素,，如背景、顏色和其他特征,。從面部識(shí)別到創(chuàng)建逼真的深度偽造,，這項(xiàng)技術(shù)無所不能。它是一種強(qiáng)大的工具,，根據(jù)不同的應(yīng)用,，在道德和不道德的情況下都可以使用。

11. 監(jiān)視

利用人工智能作為監(jiān)控工具是一種令人不安的方式,。人臉識(shí)別技術(shù)越來越普遍,，有些人擔(dān)心它會(huì)在人們不知情的情況下被用來監(jiān)視他們。我認(rèn)為我們需要更加小心,，讓使用這種技術(shù)的公司承擔(dān)責(zé)任,，這樣人們的權(quán)利才不會(huì)受到侵犯。

12. 對(duì)抗性攻擊

人工智能對(duì)抗性攻擊是該技術(shù)的一種令人驚訝和擔(dān)憂的應(yīng)用,。這些攻擊會(huì)巧妙地操縱人工智能輸入，誘發(fā)錯(cuò)誤輸出,，誤導(dǎo)包括自動(dòng)駕駛汽車或面部識(shí)別系統(tǒng)在內(nèi)的系統(tǒng),。這種陌生的威脅可能導(dǎo)致重大的安全風(fēng)險(xiǎn)，因此提高公眾意識(shí)和系統(tǒng)復(fù)原力至關(guān)重要,。

13. 更普遍和更具侵略性的廣告

人工智能可用于更具滲透性的廣告,。有了人工智能，人們可以分析消費(fèi)者的情緒狀態(tài),，并利用他們?cè)谇榫w上的弱點(diǎn),，向他們投放高度個(gè)性化的廣告。人工智能算法可以區(qū)分快樂和悲傷的表情,，理解文字情感和語氣,，并讀取其他行為模式，從而操縱用戶的決策過程,，促使他們進(jìn)行購(gòu)買,。

14. 創(chuàng)建回聲室

對(duì)我來說,，最令人不安的發(fā)展是人工智能只提供人們想看和想知道的東西。你越多地點(diǎn)擊表達(dá)某種觀點(diǎn)的網(wǎng)站和網(wǎng)頁(yè),，這種觀點(diǎn)就越多地展現(xiàn)在你面前,。這導(dǎo)致人們偏袒任何一方，認(rèn)為那些與自己觀點(diǎn)不同的人是信息錯(cuò)誤,、不聰明或被誤導(dǎo),。實(shí)際上，我們每個(gè)人都只看到了與我們現(xiàn)有觀點(diǎn)一致的東西,。

15. 現(xiàn)實(shí)的數(shù)字影響者

一些公司正在創(chuàng)造人工智能生成的社交媒體影響者,，這些影響者完全由計(jì)算機(jī)生成，在外觀和行為上都與真人無異,。他們可以積累大量粉絲,，為產(chǎn)品代言，甚至與其他有影響力的人合作——所有這一切都不需要人類,。真實(shí)與虛擬個(gè)體之間的模糊界限引發(fā)了對(duì)影響者營(yíng)銷透明度和真實(shí)性的道德?lián)鷳n,。

16. 創(chuàng)建合成數(shù)據(jù)

公眾可能不知道的一種利用人工智能的方式是創(chuàng)建合成數(shù)據(jù)，即模仿圖像,、文本,、音頻或視頻等真實(shí)數(shù)據(jù)。合成數(shù)據(jù)有幾個(gè)有價(jià)值的用途,，包括訓(xùn)練機(jī)器學(xué)習(xí)模型,、測(cè)試軟件和提高隱私性。然而,，在質(zhì)量,、有效性、公平性以及保障原始數(shù)據(jù)所有者和用戶的權(quán)利方面也存在挑戰(zhàn),。

17. 醫(yī)學(xué)圖像解讀

人工智能解讀X光或核磁共振成像等醫(yī)學(xué)影像的能力令人驚嘆,，但也令人不安。雖然它可以幫助早期發(fā)現(xiàn)疾病,，但如果算法存在缺陷或偏差,，就可能導(dǎo)致誤診和不恰當(dāng)?shù)闹委煛Ｎ覀冊(cè)谔幚砣斯ぶ悄茉卺t(yī)療保健領(lǐng)域的應(yīng)用時(shí),，必須對(duì)其巨大潛力和嚴(yán)格驗(yàn)證的必要性有一個(gè)平衡的認(rèn)識(shí),。

本文作者為福布斯技術(shù)委員會(huì)，譯自

https://www.forbes.com/sites/forbestechcouncil/2023/08/03/17-surprising-and-sometimes-alarming-uses-for-and-results-of-ai/?sh=7e1e60f05df8

關(guān)注《福布斯》微信公眾號(hào)

精彩資訊永不錯(cuò)過

▽