來源：東財財經(jīng)頭條

　　一場科技巨頭齊聚白宮的會議，美國總統(tǒng)拜登“順便”參加,，并透露自己曾“親身試用”,。

　　美國東部時間5月4日，美國總統(tǒng)拜登出席了在白宮舉行的一個人工智能（AI）會議,，會見包括谷歌,、微軟和OpenAI在內(nèi)的頂級AI公司的首席執(zhí)行官。會議對AI技術(shù)所帶來的風(fēng)險和治理措施進行了討論,。拜登和美國副總統(tǒng)哈里斯均強調(diào)科技公司需對AI產(chǎn)品的安全負責,。

　　今年以來，以ChatGPT為代表的生成式大模型成為全球范圍內(nèi)的熱詞,，數(shù)以億計的用戶開始使用相關(guān)產(chǎn)品,，但與此同時，相關(guān)的風(fēng)險也越來越不容忽視,。

　　近期,，各國紛紛開始監(jiān)管介入，討論人工智能時代下一系列的法律與社會問題。

　　除美國之外,，全球各國均在陸續(xù)落地AI監(jiān)管措施,。資本市場上投資者將目光投向AI安全賽道,。美亞柏科、三六零等公司均獲投資者關(guān)注,，相關(guān)公司也透露了在AI內(nèi)容檢測,、防御AI發(fā)起的網(wǎng)絡(luò)攻擊等方面的布局。

拜登試用GPT

與頂尖科技公司CEO召開AI風(fēng)險治理會議

　　周四舉行的AI風(fēng)險治理會議進行了兩個小時,，由美國副總統(tǒng)哈里斯主持,，拜登出席。與會者包括谷歌CEO桑達爾·皮查伊（Sundar Pichai）,、微軟CEO薩蒂亞·納德拉（Satya Nadella）,、OpenAI的CEO山姆·奧特曼（Sam Altman）和Anthropic的聯(lián)合創(chuàng)始人達里奧·阿莫代（Dario Amodei），以及一眾白宮要員,。

　　有意思的是,，在會議現(xiàn)場，美國總統(tǒng)拜登“剛好順便”參加了會議,。

　　據(jù)一位白宮官員透露,，拜登此次是“順便”參加會議，他還使用了ChatGPT,。這位官員對媒體表示：“拜登已經(jīng)全面了解了ChatGPT,，并親自進行了試驗?！?/p>

　　白宮新聞秘書讓·皮埃爾在新聞發(fā)布會上表示,，拜登的興趣凸顯了一個事實，即他和副總統(tǒng)哈里斯將AI視為“我們這個時代最強大的技術(shù)之一”,。

　　哈里斯在一份聲明中表示,，AI技術(shù)有可能改善生活，但也可能會帶來安全,、隱私和公民權(quán)利方面的擔憂,。她告訴這些科技公司的高管，他們有責任確保其AI產(chǎn)品的安全,，政府對AI方面的立法持開放態(tài)度,。

　　在白宮人工智能會議結(jié)束后，山姆·奧特曼表示：“各公司在人工智能需要發(fā)生的事情（指安全監(jiān)管等問題）上意見一致,，我支持推進新的人工智能監(jiān)管規(guī)定,，支持新的立法?！?/p>

　　讓·皮埃爾表示,，這次會談是“誠實”和“坦率”的?！拔覀冇兴奈皇紫瘓?zhí)行官在這里與副總統(tǒng)和總統(tǒng)會面,，這表明我們對此有多重視,?！彼a充道,，人工智能公司必須提高透明度，包括讓公眾評估和衡量其產(chǎn)品的能力,，這對于確保人工智能系統(tǒng)的安全和信心至關(guān)重要,。

　　值得注意的是，就在會議之前,，白宮宣布,，美國國家科學(xué)基金會計劃花費1.4億美元建立專門用于人工智能的新研究中心。

　　一個月前,，拜登與其科技顧問會面時表示,，AI可以幫助解決疾病和氣候變化問題，但解決因此引發(fā)的社會,、國家安全和經(jīng)濟潛在風(fēng)險也很重要,。

　　“科技公司有責任確保他們的產(chǎn)品在公開之前是安全的?！卑莸窃诳茖W(xué)技術(shù)顧問委員會會議開始時說,。對于AI是否危險，他說：“還有待觀察,，這是有可能的”,。他以社交媒體為例，說明強大的技術(shù)如果沒有正確的保護措施就可能造成危害,。

各國加快人工智能監(jiān)管

AI安全是下一個藍海,？

　　隨著新一輪AI技術(shù)革命掀起越來越廣泛的社會影響，關(guān)于人工智能的憂慮也越來越引發(fā)關(guān)注,。人們越來越擔心,，這些技術(shù)可能會侵犯隱私、導(dǎo)致大規(guī)模失業(yè),、詐騙和傳播錯誤信息等,。

　　而更引人關(guān)注的，是近期被譽為“人工智能教父”的前谷歌科學(xué)家杰弗里·辛頓關(guān)于人工智能的一系列憂慮,。

　　據(jù)媒體報道,，現(xiàn)年75歲的前谷歌科學(xué)家杰弗里·辛頓在神經(jīng)網(wǎng)絡(luò)領(lǐng)域長期從事開創(chuàng)性工作，為人工智能（AI）技術(shù)的發(fā)展奠定基礎(chǔ),。而在今年5月初接受媒體采訪時,，辛頓坦言，他之所以離開谷歌,，就是為了完全自由地說出人工智能所帶來的危險,，甚至還說他對自己在人工智能領(lǐng)域所付出的貢獻感到懊悔,。

　　盡管風(fēng)險尚未明確，但是顯然各國都開始意識到對人工智能監(jiān)管的必要性,。美國政府并不是唯一尋求塑造人工智能發(fā)展的國家,。歐盟官員預(yù)計，最早將于今年敲定人工智能立法,，這可能對全球人工智能公司產(chǎn)生重大影響,。

　　歐盟委員會執(zhí)行副主席、競爭專員瑪格麗特·維斯塔格在4月24日接受媒體采訪時表示,，關(guān)于ChatGPT等生成式AI,，“將盡快頒布”在整個歐盟實施監(jiān)管的新法規(guī)，制定合理使用生成式AI的統(tǒng)一規(guī)則,，降低用戶風(fēng)險,。

　　而就在本周四稍早些時候，英國競爭與市場管理局(CMA)也確認,，該部門正在對人工智能市場展開評審,，其中也包括大語言模型、生成式人工智能在內(nèi)的基礎(chǔ)模型,。

　　上個月,，我國國家互聯(lián)網(wǎng)信息辦公室發(fā)布關(guān)于《生成式人工智能服務(wù)管理辦法（征求意見稿）》。

　　監(jiān)管浪潮下,，網(wǎng)絡(luò),、數(shù)字安全賽道的上市公司頻獲投資者關(guān)注。相關(guān)公司也在投資者互動平臺回應(yīng)了公司對AI風(fēng)險的研判與安全方面的布局,。

　　5月4日,，美亞柏科在投資者互動平臺表示，公司將積極響應(yīng)國家政策,，布局人工智能安全的產(chǎn)品和解決方案,，當前主要包括兩個方面：第一是針對利用人工智能違法的相關(guān)電子數(shù)據(jù)取證溯源，布局相關(guān)取證技術(shù),；第二是在人工智能算法,、系統(tǒng)的安全性評估方面，按照《中華人民共和國數(shù)據(jù)安全法》,、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等法律法規(guī),，布局人工智能產(chǎn)品安全合規(guī)的評測技術(shù)。接下來公司將對各類AIGC內(nèi)容的檢測,、AI生成文本的檢測技術(shù)及產(chǎn)品進行布局,，也會在利用人工智能進行生成活動中的取證，以及人工智能算法模型的安全性和合規(guī)性方向,，開展相關(guān)的業(yè)務(wù)工作,，從而助力公司做強做優(yōu)做大,。

　　早在4月初，三六零回復(fù)了投資者對AI風(fēng)險的研判,。該公司認為,，人工智能的風(fēng)險大致可分為三個層次：一是可以使用AI作為防御武器對抗攻擊方利用AI發(fā)起的網(wǎng)絡(luò)攻擊，守護國家的數(shù)字安全,，包括掃描漏洞,、發(fā)現(xiàn)高級威脅等,。360AI安全監(jiān)測平臺已累計發(fā)現(xiàn)200多個漏洞,，在全球各大廠商中排名第一，成果入選了中央網(wǎng)信辦“人工智能企業(yè)典型應(yīng)用案例”,；二是需要確保通用型人工智能生成的內(nèi)容和結(jié)果是安全的,，360作為國內(nèi)第二大的搜索引擎廠商，在這方面具有相當長時間的成功經(jīng)驗積累,；三是需要確保通用型人工智能其本身是安全,、可控的，這將會是AI技術(shù)發(fā)展道路上的長期命題,。

　　此外,，近日憑全媒體智慧監(jiān)管解決方案中標北京廣電相關(guān)項目的博匯科技、信息安全行業(yè)公司格爾軟件等公司也被投資者問詢“公司在AI監(jiān)管方面有何布局”,。