據(jù)西班牙《機(jī)密報(bào)》網(wǎng)站8月15日?qǐng)?bào)道,，人工智能（AI）正在迅速改變我們的社會(huì),，它會(huì)對(duì)經(jīng)濟(jì)造成怎樣的后果仍然屬未知領(lǐng)域,。然而,，一些聲音已經(jīng)警告稱，這些機(jī)器學(xué)習(xí)算法導(dǎo)致的新一輪金融崩潰的風(fēng)險(xiǎn)是真實(shí)存在的,。其中一個(gè)聲音來自美國(guó)證券交易委員會(huì)主席加里·根斯勒,，他日前警告稱：“人工智能將成為未來金融危機(jī)的中心,，監(jiān)管機(jī)構(gòu)將無法向前邁步?！?

作為監(jiān)管機(jī)構(gòu)的負(fù)責(zé)人，根斯勒在接受彭博社采訪時(shí)表示,，人工智能在金融市場(chǎng)最明顯的風(fēng)險(xiǎn)是黑匣子算法,，在用戶看不到算法內(nèi)部功能的封閉系統(tǒng)下運(yùn)行，很可能會(huì)失去控制,，最終同時(shí)出售同樣的東西,，導(dǎo)致市場(chǎng)崩潰。

根斯勒多年來一直警告說,，如果不及時(shí)控制,，人工智能可能會(huì)非常危險(xiǎn)。2020年,，當(dāng)時(shí)還是麻省理工學(xué)院教授的根斯勒在一篇文章中警告深度學(xué)習(xí)（一種機(jī)器學(xué)習(xí)和人工智能系統(tǒng)）對(duì)金融穩(wěn)定的風(fēng)險(xiǎn),。文章認(rèn)為，現(xiàn)有的監(jiān)管制度尚未準(zhǔn)備好應(yīng)對(duì)這種危險(xiǎn),。

他指出,，人工智能在金融市場(chǎng)中的危險(xiǎn)之一是同質(zhì)化。這種情況可能是所謂的“學(xué)徒效應(yīng)”的結(jié)果,。當(dāng)有資格管理此類系統(tǒng)的人來自同一所學(xué)校,、擁有相同的背景并建立牢固的親和力時(shí),，就會(huì)出現(xiàn)這種效應(yīng)。根斯勒在研究中解釋說：“根本沒有那么多人接受過構(gòu)建和管理這些模型的培訓(xùn),，而且他們往往來自相當(dāng)相似的背景,。”

這種風(fēng)險(xiǎn)也可能是由法規(guī)本身造成的,。如果監(jiān)管機(jī)構(gòu)對(duì)人工智能可以做什么和不能做什么進(jìn)行控制,，可能會(huì)增加它們最終同時(shí)做同樣事情的危險(xiǎn)，并會(huì)增加大多數(shù)公司選擇使用由少數(shù)提供商提供的相同人工智能的可能性,。

由于人工智能以不可預(yù)測(cè)的方式進(jìn)化,，我們很難了解它們的行為機(jī)制，而這隱含的巨大風(fēng)險(xiǎn)之一就是它們可能會(huì)對(duì)人類產(chǎn)生歧視行為,。例如,，一款昨天并不是種族主義者的人工智能今天可能會(huì)成為種族主義者，而我們卻沒有及時(shí)意識(shí)到并阻止它,。此外,，這些規(guī)則將是完全不透明和不可控的，甚至沒有追溯性監(jiān)管,，這使得監(jiān)管機(jī)構(gòu)幾乎不可能阻止未來的崩潰,。

根斯勒警告說：“根據(jù)相同的數(shù)據(jù)集構(gòu)建的模型可能會(huì)產(chǎn)生高度相關(guān)的預(yù)測(cè)，這些預(yù)測(cè)一致進(jìn)行,，從而導(dǎo)致羊群效應(yīng),。”他還認(rèn)為,，對(duì)海量數(shù)據(jù)源的需求可能會(huì)產(chǎn)生壟斷,，并成為導(dǎo)致整個(gè)系統(tǒng)全面崩潰的“單一故障點(diǎn)”。

此外,，他指出,，即使是最大的數(shù)據(jù)集也是不完整的，“互聯(lián)網(wǎng)使用情況,、手持設(shè)備數(shù)據(jù),、遠(yuǎn)程信息處理數(shù)據(jù)以及GPS數(shù)據(jù)和智能手機(jī)數(shù)據(jù)根本沒有足夠長(zhǎng)的時(shí)間范圍來覆蓋單個(gè)完整的金融周期”。

根斯勒認(rèn)為,，最有效的監(jiān)管對(duì)策是增加金融機(jī)構(gòu)使用人工智能工具所需的資本存量,。監(jiān)管機(jī)構(gòu)可能會(huì)要求對(duì)人工智能系統(tǒng)進(jìn)行測(cè)試，以阻止或禁止公司采取無法解釋的行動(dòng),，從而減緩增長(zhǎng)速度,，但根斯勒也警告說，“即便如此，也不太可能避免系統(tǒng)性風(fēng)險(xiǎn)的增加”,。他說,，即使實(shí)施了監(jiān)管規(guī)則，仍“不足以完成當(dāng)前的任務(wù)”,。（編譯/韓超）

來源：參考消息