來(lái)源：東財(cái)財(cái)經(jīng)頭條

　　一場(chǎng)科技巨頭齊聚白宮的會(huì)議，美國(guó)總統(tǒng)拜登“順便”參加,，并透露自己曾“親身試用”,。

　　美國(guó)東部時(shí)間5月4日，美國(guó)總統(tǒng)拜登出席了在白宮舉行的一個(gè)人工智能（AI）會(huì)議,，會(huì)見包括谷歌,、微軟和OpenAI在內(nèi)的頂級(jí)AI公司的首席執(zhí)行官。會(huì)議對(duì)AI技術(shù)所帶來(lái)的風(fēng)險(xiǎn)和治理措施進(jìn)行了討論,。拜登和美國(guó)副總統(tǒng)哈里斯均強(qiáng)調(diào)科技公司需對(duì)AI產(chǎn)品的安全負(fù)責(zé),。

　　今年以來(lái)，以ChatGPT為代表的生成式大模型成為全球范圍內(nèi)的熱詞,，數(shù)以億計(jì)的用戶開始使用相關(guān)產(chǎn)品,，但與此同時(shí)，相關(guān)的風(fēng)險(xiǎn)也越來(lái)越不容忽視,。

　　近期,，各國(guó)紛紛開始監(jiān)管介入，討論人工智能時(shí)代下一系列的法律與社會(huì)問(wèn)題,。

　　除美國(guó)之外，全球各國(guó)均在陸續(xù)落地AI監(jiān)管措施,。資本市場(chǎng)上投資者將目光投向AI安全賽道,。美亞柏科、三六零等公司均獲投資者關(guān)注,，相關(guān)公司也透露了在AI內(nèi)容檢測(cè),、防御AI發(fā)起的網(wǎng)絡(luò)攻擊等方面的布局。

拜登試用GPT

與頂尖科技公司CEO召開AI風(fēng)險(xiǎn)治理會(huì)議

　　周四舉行的AI風(fēng)險(xiǎn)治理會(huì)議進(jìn)行了兩個(gè)小時(shí),，由美國(guó)副總統(tǒng)哈里斯主持,，拜登出席。與會(huì)者包括谷歌CEO桑達(dá)爾·皮查伊（Sundar Pichai）,、微軟CEO薩蒂亞·納德拉（Satya Nadella）,、OpenAI的CEO山姆·奧特曼（Sam Altman）和Anthropic的聯(lián)合創(chuàng)始人達(dá)里奧·阿莫代（Dario Amodei），以及一眾白宮要員,。

　　有意思的是,，在會(huì)議現(xiàn)場(chǎng)，美國(guó)總統(tǒng)拜登“剛好順便”參加了會(huì)議,。

　　據(jù)一位白宮官員透露,，拜登此次是“順便”參加會(huì)議，他還使用了ChatGPT,。這位官員對(duì)媒體表示：“拜登已經(jīng)全面了解了ChatGPT,，并親自進(jìn)行了試驗(yàn)?！?/p>

　　白宮新聞秘書讓·皮埃爾在新聞發(fā)布會(huì)上表示,，拜登的興趣凸顯了一個(gè)事實(shí),，即他和副總統(tǒng)哈里斯將AI視為“我們這個(gè)時(shí)代最強(qiáng)大的技術(shù)之一”。

　　哈里斯在一份聲明中表示,，AI技術(shù)有可能改善生活,，但也可能會(huì)帶來(lái)安全,、隱私和公民權(quán)利方面的擔(dān)憂,。她告訴這些科技公司的高管，他們有責(zé)任確保其AI產(chǎn)品的安全，政府對(duì)AI方面的立法持開放態(tài)度,。

　　在白宮人工智能會(huì)議結(jié)束后,，山姆·奧特曼表示：“各公司在人工智能需要發(fā)生的事情（指安全監(jiān)管等問(wèn)題）上意見一致,，我支持推進(jìn)新的人工智能監(jiān)管規(guī)定，支持新的立法,?！?/p>

　　讓·皮埃爾表示，這次會(huì)談是“誠(chéng)實(shí)”和“坦率”的,?！拔覀冇兴奈皇紫瘓?zhí)行官在這里與副總統(tǒng)和總統(tǒng)會(huì)面，這表明我們對(duì)此有多重視,?！彼a(bǔ)充道,，人工智能公司必須提高透明度，包括讓公眾評(píng)估和衡量其產(chǎn)品的能力,，這對(duì)于確保人工智能系統(tǒng)的安全和信心至關(guān)重要,。

　　值得注意的是，就在會(huì)議之前,，白宮宣布,，美國(guó)國(guó)家科學(xué)基金會(huì)計(jì)劃花費(fèi)1.4億美元建立專門用于人工智能的新研究中心。

　　一個(gè)月前,，拜登與其科技顧問(wèn)會(huì)面時(shí)表示,，AI可以幫助解決疾病和氣候變化問(wèn)題，但解決因此引發(fā)的社會(huì),、國(guó)家安全和經(jīng)濟(jì)潛在風(fēng)險(xiǎn)也很重要,。

　　“科技公司有責(zé)任確保他們的產(chǎn)品在公開之前是安全的?！卑莸窃诳茖W(xué)技術(shù)顧問(wèn)委員會(huì)會(huì)議開始時(shí)說(shuō),。對(duì)于AI是否危險(xiǎn)，他說(shuō)：“還有待觀察,，這是有可能的”,。他以社交媒體為例，說(shuō)明強(qiáng)大的技術(shù)如果沒有正確的保護(hù)措施就可能造成危害,。

各國(guó)加快人工智能監(jiān)管

AI安全是下一個(gè)藍(lán)海,？

　　隨著新一輪AI技術(shù)革命掀起越來(lái)越廣泛的社會(huì)影響，關(guān)于人工智能的憂慮也越來(lái)越引發(fā)關(guān)注,。人們?cè)絹?lái)越擔(dān)心,，這些技術(shù)可能會(huì)侵犯隱私、導(dǎo)致大規(guī)模失業(yè),、詐騙和傳播錯(cuò)誤信息等,。

　　而更引人關(guān)注的，是近期被譽(yù)為“人工智能教父”的前谷歌科學(xué)家杰弗里·辛頓關(guān)于人工智能的一系列憂慮,。

　　據(jù)媒體報(bào)道,，現(xiàn)年75歲的前谷歌科學(xué)家杰弗里·辛頓在神經(jīng)網(wǎng)絡(luò)領(lǐng)域長(zhǎng)期從事開創(chuàng)性工作，為人工智能（AI）技術(shù)的發(fā)展奠定基礎(chǔ),。而在今年5月初接受媒體采訪時(shí),，辛頓坦言，他之所以離開谷歌,，就是為了完全自由地說(shuō)出人工智能所帶來(lái)的危險(xiǎn),，甚至還說(shuō)他對(duì)自己在人工智能領(lǐng)域所付出的貢獻(xiàn)感到懊悔。

　　盡管風(fēng)險(xiǎn)尚未明確,，但是顯然各國(guó)都開始意識(shí)到對(duì)人工智能監(jiān)管的必要性,。美國(guó)政府并不是唯一尋求塑造人工智能發(fā)展的國(guó)家,。歐盟官員預(yù)計(jì)，最早將于今年敲定人工智能立法,，這可能對(duì)全球人工智能公司產(chǎn)生重大影響,。

　　歐盟委員會(huì)執(zhí)行副主席、競(jìng)爭(zhēng)專員瑪格麗特·維斯塔格在4月24日接受媒體采訪時(shí)表示,，關(guān)于ChatGPT等生成式AI,，“將盡快頒布”在整個(gè)歐盟實(shí)施監(jiān)管的新法規(guī)，制定合理使用生成式AI的統(tǒng)一規(guī)則,，降低用戶風(fēng)險(xiǎn)。

　　而就在本周四稍早些時(shí)候,，英國(guó)競(jìng)爭(zhēng)與市場(chǎng)管理局(CMA)也確認(rèn),，該部門正在對(duì)人工智能市場(chǎng)展開評(píng)審，其中也包括大語(yǔ)言模型,、生成式人工智能在內(nèi)的基礎(chǔ)模型,。

　　上個(gè)月，我國(guó)國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布關(guān)于《生成式人工智能服務(wù)管理辦法（征求意見稿）》,。

　　監(jiān)管浪潮下,，網(wǎng)絡(luò)、數(shù)字安全賽道的上市公司頻獲投資者關(guān)注,。相關(guān)公司也在投資者互動(dòng)平臺(tái)回應(yīng)了公司對(duì)AI風(fēng)險(xiǎn)的研判與安全方面的布局,。

　　5月4日，美亞柏科在投資者互動(dòng)平臺(tái)表示,，公司將積極響應(yīng)國(guó)家政策,，布局人工智能安全的產(chǎn)品和解決方案，當(dāng)前主要包括兩個(gè)方面：第一是針對(duì)利用人工智能違法的相關(guān)電子數(shù)據(jù)取證溯源,，布局相關(guān)取證技術(shù),；第二是在人工智能算法、系統(tǒng)的安全性評(píng)估方面,，按照《中華人民共和國(guó)數(shù)據(jù)安全法》、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等法律法規(guī),，布局人工智能產(chǎn)品安全合規(guī)的評(píng)測(cè)技術(shù)。接下來(lái)公司將對(duì)各類AIGC內(nèi)容的檢測(cè),、AI生成文本的檢測(cè)技術(shù)及產(chǎn)品進(jìn)行布局,，也會(huì)在利用人工智能進(jìn)行生成活動(dòng)中的取證，以及人工智能算法模型的安全性和合規(guī)性方向,，開展相關(guān)的業(yè)務(wù)工作，從而助力公司做強(qiáng)做優(yōu)做大,。

　　早在4月初，三六零回復(fù)了投資者對(duì)AI風(fēng)險(xiǎn)的研判,。該公司認(rèn)為,，人工智能的風(fēng)險(xiǎn)大致可分為三個(gè)層次：一是可以使用AI作為防御武器對(duì)抗攻擊方利用AI發(fā)起的網(wǎng)絡(luò)攻擊，守護(hù)國(guó)家的數(shù)字安全,，包括掃描漏洞,、發(fā)現(xiàn)高級(jí)威脅等。360AI安全監(jiān)測(cè)平臺(tái)已累計(jì)發(fā)現(xiàn)200多個(gè)漏洞,，在全球各大廠商中排名第一,，成果入選了中央網(wǎng)信辦“人工智能企業(yè)典型應(yīng)用案例”；二是需要確保通用型人工智能生成的內(nèi)容和結(jié)果是安全的,，360作為國(guó)內(nèi)第二大的搜索引擎廠商,，在這方面具有相當(dāng)長(zhǎng)時(shí)間的成功經(jīng)驗(yàn)積累；三是需要確保通用型人工智能其本身是安全,、可控的,，這將會(huì)是AI技術(shù)發(fā)展道路上的長(zhǎng)期命題。

　　此外,，近日憑全媒體智慧監(jiān)管解決方案中標(biāo)北京廣電相關(guān)項(xiàng)目的博匯科技,、信息安全行業(yè)公司格爾軟件等公司也被投資者問(wèn)詢“公司在AI監(jiān)管方面有何布局”。