文｜Expert Pane

過(guò)去幾年,，人工智能成為無(wú)數(shù)頭條新聞的主題,，提高了公眾對(duì)其潛力的興趣和擔(dān)憂,。最近幾周，媒體對(duì)ChatGPT等生成式人工智能工具的用途和缺點(diǎn)進(jìn)行了報(bào)道,。而娛樂(lè)業(yè)也一直在討論人工智能發(fā)展的利（如新藝術(shù)形式的興起）和弊（無(wú)論是否得到表演者的許可,，都可以復(fù)制表演者的臉和/或聲音的深度偽造）。

這些故事清楚地表明,，雖然人工智能是一種不會(huì)消失的強(qiáng)大資源,，但各行各業(yè)、政府和廣大公眾需要隨時(shí)了解其發(fā)展動(dòng)態(tài),，并認(rèn)真思考其使用所涉及的道德問(wèn)題,。

福布斯技術(shù)委員會(huì)的17位成員分享了一些令人驚訝和不安的人工智能應(yīng)用方式，這些方式也許曾經(jīng)我們不知道,，但現(xiàn)在應(yīng)該知道,。

1. 釣魚(yú)信息和惡意軟件

人工智能增強(qiáng)了現(xiàn)有威脅并引入了新威脅。聊天機(jī)器人可以省去制作網(wǎng)絡(luò)釣魚(yú)誘餌的繁瑣工作,；最終,，黑客會(huì)將互聯(lián)網(wǎng)接入、自動(dòng)化和人工智能結(jié)合起來(lái),，讓他們編寫(xiě)一個(gè)腳本說(shuō)：“了解目標(biāo)X,，并不斷向他們發(fā)送信息，直到他們點(diǎn)擊為止,?！蔽覀兩踔烈呀?jīng)看到人工智能被用于編寫(xiě)多態(tài)惡意軟件的證據(jù)。我們需要優(yōu)秀的人工智能來(lái)反擊,。

2. 身份盜竊

公眾應(yīng)該知道,，人工智能生成的深度假冒不僅針對(duì)知名人士。欺詐者正利用它們來(lái)竊取個(gè)人身份,，從而獲得銀行賬戶和機(jī)密信息,。幸運(yùn)的是,，具有多種識(shí)別因素的驗(yàn)證平臺(tái)可以幫助阻止欺詐以及個(gè)人信息和文件的潛在泄漏。

3. 日益復(fù)雜的網(wǎng)絡(luò)攻擊

黑客越來(lái)越多地利用人工智能進(jìn)行復(fù)雜的網(wǎng)絡(luò)攻擊,。人工智能可以自動(dòng)執(zhí)行和優(yōu)化任務(wù),，包括偵察和漏洞掃描，并經(jīng)過(guò)訓(xùn)練模仿人類(lèi)行為,，使攻擊者能夠發(fā)起令人信服的社交工程攻擊和網(wǎng)絡(luò)釣魚(yú)電子郵件,。這給網(wǎng)絡(luò)安全帶來(lái)了巨大挑戰(zhàn)，需要不斷適應(yīng)和先進(jìn)的人工智能驅(qū)動(dòng)防御,。

4. 造謠行為

人工智能生成的文本可用于創(chuàng)建復(fù)雜的虛假信息活動(dòng),。通過(guò)模仿有影響力人物的寫(xiě)作風(fēng)格，人工智能可以生成看似真實(shí)的假新聞文章,、社交媒體帖子或博客文章,。這引發(fā)了人們對(duì)虛假信息傳播和網(wǎng)絡(luò)內(nèi)容信任度下降的擔(dān)憂。

5. 泄露個(gè)人數(shù)據(jù)

在大型數(shù)據(jù)集上訓(xùn)練的人工智能模型可以從文本中捕捉模式和知識(shí),，其中可能包括敏感或個(gè)人信息,。這引發(fā)了人們對(duì)個(gè)人數(shù)據(jù)隱私和安全的擔(dān)憂，因?yàn)槿斯ぶ悄苌傻奈谋究赡軙?huì)無(wú)意中泄露私人細(xì)節(jié)或被用于惡意目的,，如社交工程攻擊或身份盜竊,。

6. 名譽(yù)損害

令人不安的是，“深度偽造”技術(shù)可能帶來(lái)極具破壞性的報(bào)復(fù)場(chǎng)景,。報(bào)復(fù)者可以通過(guò)在親密視頻中換臉,，輕易制造出某人出軌的假象；制造受害者說(shuō)攻擊性話語(yǔ)的假視頻,，損害其職業(yè)生涯（即使視頻被證實(shí)是假的）,；或者用深度偽造的視頻敲詐某人，威脅說(shuō)除非滿足其要求,，否則就公開(kāi)發(fā)布該視頻,。

7. 冒充受信任的個(gè)人

深度假冒行為呈上升趨勢(shì),，對(duì)消費(fèi)者和企業(yè)都造成了安全威脅,。壞人可以利用人工智能冒充銀行職員，甚至通過(guò)電話冒充家庭成員,。這些網(wǎng)絡(luò)釣魚(yú)攻擊非常危險(xiǎn)–其緊迫性和欺騙性專門(mén)針對(duì)人類(lèi)情感,，最終目的是竊取個(gè)人身份信息和/或金錢(qián)。

8. 操縱選舉結(jié)果

人工智能深度偽造會(huì)扭曲民主話語(yǔ),，操縱選舉。深度偽造可以用來(lái)傳播關(guān)于政治候選人、政黨或問(wèn)題的錯(cuò)誤信息,、宣傳和假新聞,。政治領(lǐng)導(dǎo)人可以被假冒或抹黑，政治活動(dòng)家或記者也可以被假冒或抹黑,。這會(huì)影響選民行為,，破壞公眾信任,，動(dòng)搖民主制度,。人工智能的使用需要加以控制。

9. 自主武器系統(tǒng)

我相信,，人工智能驅(qū)動(dòng)的自主武器系統(tǒng)總有一天會(huì)發(fā)展起來(lái),。這些系統(tǒng)有可能在沒(méi)有人類(lèi)直接控制的情況下做出關(guān)于目標(biāo)選擇和交戰(zhàn)的關(guān)鍵決策,。這將引發(fā)嚴(yán)重的倫理問(wèn)題。

10. 圖像操縱

大多數(shù)人沒(méi)有意識(shí)到,，人工智能可以用來(lái)操縱圖像,。人工智能驅(qū)動(dòng)的圖像處理技術(shù)可以獲取現(xiàn)有圖像并改變其中的元素,，如背景、顏色和其他特征,。從面部識(shí)別到創(chuàng)建逼真的深度偽造，這項(xiàng)技術(shù)無(wú)所不能,。它是一種強(qiáng)大的工具,，根據(jù)不同的應(yīng)用,，在道德和不道德的情況下都可以使用,。

11. 監(jiān)視

利用人工智能作為監(jiān)控工具是一種令人不安的方式。人臉識(shí)別技術(shù)越來(lái)越普遍,，有些人擔(dān)心它會(huì)在人們不知情的情況下被用來(lái)監(jiān)視他們,。我認(rèn)為我們需要更加小心,，讓使用這種技術(shù)的公司承擔(dān)責(zé)任，這樣人們的權(quán)利才不會(huì)受到侵犯,。

12. 對(duì)抗性攻擊

人工智能對(duì)抗性攻擊是該技術(shù)的一種令人驚訝和擔(dān)憂的應(yīng)用。這些攻擊會(huì)巧妙地操縱人工智能輸入，誘發(fā)錯(cuò)誤輸出,，誤導(dǎo)包括自動(dòng)駕駛汽車(chē)或面部識(shí)別系統(tǒng)在內(nèi)的系統(tǒng)。這種陌生的威脅可能導(dǎo)致重大的安全風(fēng)險(xiǎn),，因此提高公眾意識(shí)和系統(tǒng)復(fù)原力至關(guān)重要,。

13. 更普遍和更具侵略性的廣告

人工智能可用于更具滲透性的廣告。有了人工智能,，人們可以分析消費(fèi)者的情緒狀態(tài),，并利用他們?cè)谇榫w上的弱點(diǎn)，向他們投放高度個(gè)性化的廣告,。人工智能算法可以區(qū)分快樂(lè)和悲傷的表情,，理解文字情感和語(yǔ)氣，并讀取其他行為模式,，從而操縱用戶的決策過(guò)程,，促使他們進(jìn)行購(gòu)買(mǎi),。

14. 創(chuàng)建回聲室

對(duì)我來(lái)說(shuō),，最令人不安的發(fā)展是人工智能只提供人們想看和想知道的東西。你越多地點(diǎn)擊表達(dá)某種觀點(diǎn)的網(wǎng)站和網(wǎng)頁(yè),，這種觀點(diǎn)就越多地展現(xiàn)在你面前,。這導(dǎo)致人們偏袒任何一方，認(rèn)為那些與自己觀點(diǎn)不同的人是信息錯(cuò)誤,、不聰明或被誤導(dǎo),。實(shí)際上，我們每個(gè)人都只看到了與我們現(xiàn)有觀點(diǎn)一致的東西,。

15. 現(xiàn)實(shí)的數(shù)字影響者

一些公司正在創(chuàng)造人工智能生成的社交媒體影響者，這些影響者完全由計(jì)算機(jī)生成,，在外觀和行為上都與真人無(wú)異,。他們可以積累大量粉絲，為產(chǎn)品代言,，甚至與其他有影響力的人合作——所有這一切都不需要人類(lèi),。真實(shí)與虛擬個(gè)體之間的模糊界限引發(fā)了對(duì)影響者營(yíng)銷(xiāo)透明度和真實(shí)性的道德?lián)鷳n。

16. 創(chuàng)建合成數(shù)據(jù)

公眾可能不知道的一種利用人工智能的方式是創(chuàng)建合成數(shù)據(jù),，即模仿圖像,、文本、音頻或視頻等真實(shí)數(shù)據(jù),。合成數(shù)據(jù)有幾個(gè)有價(jià)值的用途,，包括訓(xùn)練機(jī)器學(xué)習(xí)模型,、測(cè)試軟件和提高隱私性。然而,，在質(zhì)量,、有效性、公平性以及保障原始數(shù)據(jù)所有者和用戶的權(quán)利方面也存在挑戰(zhàn),。

17. 醫(yī)學(xué)圖像解讀

人工智能解讀X光或核磁共振成像等醫(yī)學(xué)影像的能力令人驚嘆，但也令人不安,。雖然它可以幫助早期發(fā)現(xiàn)疾病,，但如果算法存在缺陷或偏差，就可能導(dǎo)致誤診和不恰當(dāng)?shù)闹委?。我們?cè)谔幚砣斯ぶ悄茉卺t(yī)療保健領(lǐng)域的應(yīng)用時(shí),，必須對(duì)其巨大潛力和嚴(yán)格驗(yàn)證的必要性有一個(gè)平衡的認(rèn)識(shí)。

本文作者為福布斯技術(shù)委員會(huì),，譯自

https://www.forbes.com/sites/forbestechcouncil/2023/08/03/17-surprising-and-sometimes-alarming-uses-for-and-results-of-ai/?sh=7e1e60f05df8

關(guān)注《福布斯》微信公眾號(hào)

精彩資訊永不錯(cuò)過(guò)

▽