來(lái)源：第一財(cái)經(jīng)

　　作者： 高雅

　　[ 最近美國(guó)參議院對(duì)OpenAI首席執(zhí)行官阿爾特曼（Sam Altman）的聽(tīng)證會(huì)就是如此。他們知道，如果沒(méi)有監(jiān)管,，人們將不信任技術(shù)，就有可能失去創(chuàng)新和進(jìn)步,。監(jiān)管并不反創(chuàng)新，監(jiān)管也可以支持創(chuàng)新,，理解這一點(diǎn)非常重要,。 ]

　　自ChatGPT推向市場(chǎng)，人工智能（AI）能做什么,，以及能做到什么地步,，這些突破既使人們驚嘆，也引發(fā)了人們的擔(dān)憂,。

　　從對(duì)個(gè)人數(shù)據(jù)的囤積和信息泄露,，到詐騙，再到損害企業(yè)競(jìng)爭(zhēng),，這些風(fēng)險(xiǎn)的威脅讓各方提高了警惕,。近一個(gè)月來(lái)，從七國(guó)集團(tuán)會(huì)議領(lǐng)導(dǎo)人到科技公司首席執(zhí)行官,，都呼吁為人工智能（AI）技術(shù)制定國(guó)際標(biāo)準(zhǔn)和更強(qiáng)力的法規(guī),。

　　帶著這些問(wèn)題，第一財(cái)經(jīng)記者專訪了歐洲工商管理學(xué)院（INSAED）的決策科學(xué)和技術(shù)管理教授埃夫根尼奧（Theos Evgeniou）。

　　第一財(cái)經(jīng)：為什么隨著ChatGPT等生成性AI的普及,，AI監(jiān)管的重要性更突出了,？

　　埃夫根尼奧：我們要意識(shí)到三點(diǎn)。第一,，生成性AI有多強(qiáng)大,。我認(rèn)為幾乎所有人，包括生成性AI的開(kāi)發(fā)者,，都沒(méi)有預(yù)想到它們的能力,。

　　第二，生成性AI的行為方式如何?，F(xiàn)在有一些關(guān)于突現(xiàn)行為（emergent behavior）的討論,。這種行為可能比預(yù)期更有影響。而且,，生成性AI涉及人類語(yǔ)言和人類身份,。而人類語(yǔ)言是幫助我們定義“我們是誰(shuí)”和“我們做什么”的重要部分。因此,，如果技術(shù)可以模仿那些能夠定義人類身份認(rèn)同的東西,，就帶來(lái)了新潛在風(fēng)險(xiǎn)和新可能性。

　　第三,，像ChatGPT這樣的生成性AI技術(shù)是所謂“根基模型”（foundation models）,。人們可以在這種模型的基礎(chǔ)上開(kāi)發(fā)大量產(chǎn)品，并能夠進(jìn)行微調(diào),。換言之,，它們不是單純的產(chǎn)品，而是核心技術(shù),，是人們可以開(kāi)發(fā)的產(chǎn)品之核心所在,。這種核心技術(shù)本身已經(jīng)非常強(qiáng)大，我們甚至無(wú)法預(yù)測(cè)人們將依靠它們開(kāi)發(fā)出什么,。我們也從未仔細(xì)考慮過(guò)如何管控和規(guī)范根基模型,。這是一種新概念。

　　第一財(cái)經(jīng)：意大利等國(guó)禁用了ChatGPT,，當(dāng)我們擔(dān)憂AI帶來(lái)的風(fēng)險(xiǎn)時(shí),，我們到底在擔(dān)心什么？

　　埃夫根尼奧：有些國(guó)家或企業(yè)會(huì)禁用這些技術(shù),，可能是因?yàn)橛袧撛诘娘L(fēng)險(xiǎn),，比如能泄露重要知識(shí)和信息，也可能因?yàn)楹茈y控制這種AI能帶來(lái)什么,。

　　例如,，據(jù)報(bào)道,，前幾個(gè)月，韓國(guó)三星公司的工程師通過(guò)ChatGPT上傳了代碼,，最后可能泄露了一些涉及公司知識(shí)產(chǎn)權(quán)的信息,。因此，AI的使用存在知識(shí)產(chǎn)權(quán)和隱私風(fēng)險(xiǎn),，這是技術(shù)開(kāi)發(fā)者禁用或限制使用它的原因之一,。

　　另一方面，一些國(guó)家禁用它可能是因?yàn)榇嬖谡位蚪】碉L(fēng)險(xiǎn),，這可能關(guān)乎人們的國(guó)家認(rèn)同,。具體來(lái)說(shuō)，這些生成性模型有點(diǎn)像“特洛伊木馬”,?；旧希珻hatGPT在某種程度上濃縮了全球互聯(lián)網(wǎng),。因此,，如果針對(duì)一個(gè)特定的網(wǎng)站，禁止訪問(wèn)它很容易,，但有了ChatGPT,，你無(wú)法知道這些網(wǎng)站的內(nèi)容是否從中暴露。

　　所以,，無(wú)論是開(kāi)發(fā)商還是消費(fèi)者,，無(wú)論是企業(yè)還是國(guó)家，都有理由限制這些技術(shù)的使用,。我們面對(duì)的是一種新的傳輸信息的方式,，當(dāng)你不知道到底會(huì)發(fā)生什么，要控制它就更難了,。

　　第一財(cái)經(jīng)：近期,，我們看到了一些AI詐騙的現(xiàn)象，例如模擬名人或熟悉的人的聲音進(jìn)行電話詐騙,。我們應(yīng)該如何監(jiān)管這種行為,？

　　埃夫根尼奧：首先，這些技術(shù)本身可以被應(yīng)用于一些有價(jià)值的創(chuàng)造,，改善人們的信息流,。比如，企業(yè)可以用這種技術(shù)來(lái)優(yōu)化廣告營(yíng)銷信息或開(kāi)發(fā)創(chuàng)意內(nèi)容,。在美國(guó)大選中,，也可以以此來(lái)優(yōu)化電子郵件活動(dòng)。

　　然而,，一旦這種技術(shù)越界,，就可能從“銷售”或“營(yíng)銷”變成“操縱”,，比如通過(guò)電子郵件進(jìn)行釣魚(yú)或傳播錯(cuò)誤信息，甚至是對(duì)未成年的人進(jìn)行誘騙,。這是長(zhǎng)期以來(lái)一直存在的東西，只是有了生成性AI后,，好的和壞的方面都被放大了,。

　　很明顯，我們需要其中一些部分進(jìn)行監(jiān)管,。要注意的是,，我們要規(guī)范和監(jiān)管的是內(nèi)容審核的過(guò)程，而非內(nèi)容本身,。一些國(guó)家和地區(qū)已著手制定有關(guān)內(nèi)容審核的法規(guī),。例如，歐洲提出《數(shù)字服務(wù)法》（DSA）,，涉及規(guī)范在線平臺(tái)的內(nèi)容,。在我看來(lái)，這是一個(gè)很好的法規(guī),，因?yàn)樗鼛?lái)了一個(gè)公平和透明的內(nèi)容審核程序,。

　　總之，我們需要法規(guī)來(lái)規(guī)范如何公平和透明地審核內(nèi)容,，至于內(nèi)容來(lái)自人還是來(lái)自人工智能,，這在某種意義上并不重要。

　　第一財(cái)經(jīng)：歐盟即將對(duì)《人工智能法案》進(jìn)行投票,。你認(rèn)為歐盟在AI監(jiān)管上最側(cè)重什么,，與美國(guó)有何不同？

　　埃夫根尼奧：歐美在監(jiān)管上有異同之處,。從相似點(diǎn)來(lái)說(shuō),，很多法規(guī)都是按照行業(yè)劃分的。

　　舉個(gè)例子,，歐美航空領(lǐng)域的法規(guī)不會(huì)有太大區(qū)別,。你在德國(guó)坐飛機(jī)或者在美國(guó)坐飛機(jī)，你應(yīng)該不會(huì)詢問(wèn)其法規(guī)是否不同,，因?yàn)樗鼈冏罱K都要保障安全,。對(duì)AI技術(shù)也是如此，行業(yè)內(nèi)很多事情在不同地區(qū)都是相似的,。

　　坦白說(shuō),，沒(méi)有任何人完全了解AI技術(shù)到底會(huì)如何影響人類的權(quán)利。因此,，這里有一個(gè)關(guān)鍵問(wèn)題是,，管控風(fēng)險(xiǎn)的時(shí)機(jī)——你要現(xiàn)在就插手控制風(fēng)險(xiǎn),，并早早地設(shè)置限制和標(biāo)準(zhǔn)？還是要等一段時(shí)間,，看看AI技術(shù)的發(fā)展和應(yīng)用,，然后再進(jìn)行監(jiān)管，出臺(tái)一些限制,？

　　歐洲通常是前者,，而美國(guó)在這方面則更有耐心。美國(guó)喜歡的方式是“不要著急,，讓我們看看它會(huì)如何,，我們先允許創(chuàng)新，等有問(wèn)題時(shí)再去解決它”,。這是因?yàn)槊绹?guó)在決定行動(dòng)時(shí)往往也非常迅速,。我們已經(jīng)看到金融危機(jī)后，美國(guó)改變事情的速度有多令人驚訝,。這也符合美國(guó)愿意放手觀察的做法,。

　　第一財(cái)經(jīng)：美國(guó)的治理方式對(duì)商業(yè)更友好嗎，這是否意味著反監(jiān)管的立場(chǎng),？

　　埃夫根尼奧：我不認(rèn)為如此,，因?yàn)樯虡I(yè)是需要監(jiān)管的。如果人們認(rèn)為產(chǎn)品不安全,，他們就不會(huì)購(gòu)買(mǎi)產(chǎn)品,。 即使在市場(chǎng)競(jìng)爭(zhēng)方面，商業(yè)也需要監(jiān)管,。

　　總的來(lái)說(shuō),，我認(rèn)為沒(méi)有人不需要監(jiān)管。即使是科技高管也在說(shuō)“監(jiān)管我們”,，最近美國(guó)參議院對(duì)OpenAI首席執(zhí)行官阿爾特曼（Sam Altman）的聽(tīng)證會(huì)就是如此,。他們知道，如果沒(méi)有監(jiān)管,，人們將不信任技術(shù),，就有可能失去創(chuàng)新和進(jìn)步。監(jiān)管并不反創(chuàng)新,，監(jiān)管也可以支持創(chuàng)新,，理解這一點(diǎn)非常重要。

　　但另一方面,，監(jiān)管的確也會(huì)減緩創(chuàng)新,，當(dāng)它增加了競(jìng)爭(zhēng)難度，給一些小企業(yè)、投資和退出機(jī)制大大增加做事成本時(shí)尤其如此,。例如,，歐盟的《通用數(shù)據(jù)保護(hù)條例》（GDPR）導(dǎo)致了小企業(yè)成本驟增，其中大多是歐洲初創(chuàng)公司,。這最終幫助美國(guó)大公司獲得了競(jìng)爭(zhēng)優(yōu)勢(shì),。從這個(gè)意義上說(shuō)，這一結(jié)果與歐盟的目的恰恰相反,。

　　關(guān)鍵之處在于,，我們要理解，第一,，沒(méi)有完美的法規(guī)；第二,，做事要平衡成本,，這個(gè)成本可能是小企業(yè)的競(jìng)爭(zhēng)，或是終端消費(fèi)者的信任和安全,。當(dāng)你必須平衡各個(gè)因素,，你無(wú)法一次得到最優(yōu)解。你只能從某個(gè)地方著手,，然后不斷迭代更新,、迅速響應(yīng)?！斑呑哌厡W(xué)”才是最重要的,。

　　第一財(cái)經(jīng)：但嚴(yán)格的監(jiān)管可能會(huì)對(duì)商業(yè)和進(jìn)步造成損害。我們應(yīng)該如何在監(jiān)管和創(chuàng)新之間掌握好平衡,？

　　埃夫根尼奧：首先要明白,，我們不會(huì)一次就做對(duì)，我們需要時(shí)間來(lái)矯正,。因此,，重要的是建立好的流程和體系，以便我們快速學(xué)習(xí)和更新,。我們必須盡量思考我們未來(lái)能多快地適應(yīng)它,，而不是一直糾結(jié)今天該怎么做。

　　第二,，我們必須了解問(wèn)題的本質(zhì),。例如，監(jiān)管的成本有多高,？成本不一定是金錢(qián),，也可能是可及性，比如一些公司可能因此無(wú)法獲得數(shù)據(jù)或人才,。

　　我們必須要理解不同的行業(yè),，不同的應(yīng)用,，或不同的背景知識(shí)，我們必須有基于AI資源的視角,，了解人才,、數(shù)據(jù)、計(jì)算,、補(bǔ)充技術(shù)和資產(chǎn)的可用性等方面,。只有掌握了這些，我們才可以就如何平衡創(chuàng)新與監(jiān)管做出更好的決定,。

　　我們不能出于恐懼而監(jiān)管,，這是不充分的，也是不正確的,。它應(yīng)該是一個(gè)持續(xù)學(xué)習(xí)的體系,，有一個(gè)能夠快速吸收和修復(fù)的路徑。

　　同樣,，監(jiān)管中必須有不可跨越的紅線,。歐盟的《人工智能法案》中就規(guī)定了不可發(fā)展的部分，比如不可用于社會(huì)評(píng)分,。

　　我們還必須考慮需要配套發(fā)展的生態(tài)體系,，比如保險(xiǎn)。舉例來(lái)說(shuō),，如果由于人工智能而發(fā)生事故,，誰(shuí)來(lái)支付相應(yīng)的賠償。

　　在監(jiān)管上,，我們無(wú)法一次就做到最好,，這將是一個(gè)不斷學(xué)習(xí)的過(guò)程。