《瞭望東方周刊》特約撰稿鄧之湄?編輯陳融雪

山姆·阿爾特曼：讓AI成為更安全的幫手

我們需要國際合作,，以可驗(yàn)證的方式在全球范圍內(nèi)建立越來越強(qiáng)大的,、可以信任和開發(fā)的AGI系統(tǒng)，盡管這并不容易,。

山姆·阿爾特曼

最近一段時(shí)間,，我走過五大洲的近20個(gè)國家,，接觸了很多人工智能領(lǐng)域的學(xué)生和開發(fā)者,，見證了全球各地的人們正利用AI改善生活，也和各界人士深入探討了如何確保強(qiáng)大的AI能安全地運(yùn)作,。

我們發(fā)現(xiàn),，當(dāng)前AI還存在不少亟待解決的難題。

治理需國際合作

隨著 AI能力迅速提高,，我們需要將AI技術(shù)負(fù)責(zé)任地應(yīng)用到各領(lǐng)域,，必須預(yù)判并管理好風(fēng)險(xiǎn)。如果我們不做好規(guī)劃,，一個(gè)本來計(jì)劃用于改善公共衛(wèi)生的AI系統(tǒng),，可能會(huì)因?yàn)橘Y源提供不平衡而破壞了整個(gè)系統(tǒng),。

我希望投入時(shí)間和精力集中攻關(guān)重要領(lǐng)域，其中一個(gè)重要領(lǐng)域就是AGI（通用人工智能）治理。如果我們能將AGI系統(tǒng)最核心的技術(shù)實(shí)現(xiàn)網(wǎng)絡(luò)共享,，AGI系統(tǒng)就可以為全球經(jīng)濟(jì)創(chuàng)造巨大財(cái)富,，解決人類面臨的挑戰(zhàn)，如全球氣候變化,、人類健康安全等,，在多個(gè)方面提升社會(huì)福祉。

我們需要建立包容的國際準(zhǔn)則和標(biāo)準(zhǔn),，并在所有國家就AGI的使用建立平等,、統(tǒng)一的防護(hù)措施。

我們需要國際合作,，以可驗(yàn)證的方式在全球范圍內(nèi)建立越來越強(qiáng)大的,、可以信任和開發(fā)的AGI系統(tǒng)，盡管這并不容易,。

《道德經(jīng)》告訴我們：“千里之行,，始于足下?！睂?duì)安全進(jìn)行長期的關(guān)注和投入,，最有建設(shè)性的第一步就是國際科技界開展合作，確保AGI安全的技術(shù)發(fā)展,，增加技術(shù)透明度和建立知識(shí)共享機(jī)制,，為應(yīng)對(duì)一旦出現(xiàn)的緊急問題，各國研究人員應(yīng)該共享研究成果,。當(dāng)然,，我們?cè)诤粲鯂H合作的同時(shí),，也需要尊重和保護(hù)知識(shí)產(chǎn)權(quán)。

以AI監(jiān)督AI

當(dāng)前,，我們關(guān)注的是如何使AI系統(tǒng)成為一個(gè)有益和安全的好幫手,。隨著AGI時(shí)代的臨近，其帶來的潛在影響,、問題將呈指數(shù)級(jí)增長,，因此我們需要主動(dòng)應(yīng)對(duì)AGI帶來的挑戰(zhàn)，將可能遇到的風(fēng)險(xiǎn)降至最低,。

從GPT-4完成預(yù)訓(xùn)練到部署運(yùn)用,，我們用了8個(gè)月時(shí)間來研究如何預(yù)判風(fēng)險(xiǎn)，并給出對(duì)策,。很慶幸我們做對(duì)了,，大模型訓(xùn)練后的對(duì)齊（指AI系統(tǒng)的目標(biāo)和人類的價(jià)值觀與利益保持一致）是提高性能和改善體驗(yàn)的關(guān)鍵，GPT-4的對(duì)齊程度超過當(dāng)前所有代碼,。不過,，對(duì)于更高級(jí)的系統(tǒng)，對(duì)齊仍然是一個(gè)尚未解決的難題,，需要采用新的技術(shù)方法,，以及加強(qiáng)治理監(jiān)督。畢竟,，未來的AGI可能是一個(gè)十萬行二進(jìn)制代碼的系統(tǒng),。

現(xiàn)階段，人類的監(jiān)督很難判斷如此規(guī)模的大模型是否在做一些于人類不利的事,。因此,，我們正在嘗試使用AI系統(tǒng)協(xié)助人類監(jiān)督其他AI系統(tǒng)。例如,，我們可以訓(xùn)練一個(gè)模型來幫助監(jiān)督者找出其他模型代碼中的缺陷,。

還有一個(gè)方向是可解釋性。我們希望更好地理解模型內(nèi)部發(fā)生的事情,。最終,，我們的目標(biāo)是訓(xùn)練AI系統(tǒng)具備更好的自我優(yōu)化能力。我們希望全世界的研究人員參與其中,，在應(yīng)對(duì)AI領(lǐng)域的技術(shù)挑戰(zhàn)方面開展合作,，利用AI解決全球重大問題，改善人類生存條件和質(zhì)量,。

（山姆·阿爾特曼系OpenAI聯(lián)合創(chuàng)始人。本文根據(jù)山姆·阿爾特曼在2023 智源人工智能大會(huì)上的演講整理）

吳海：堅(jiān)定圍繞國家戰(zhàn)略投資布局

人工智能仍然處于發(fā)展的初級(jí)階段,，從投資視角講,，需要有更多耐心,，以價(jià)值投資的理念來看待人工智能產(chǎn)業(yè)長期健康發(fā)展。

吳海

加快發(fā)展新一代人工智能,，是贏得全球科技競(jìng)爭(zhēng)主動(dòng)權(quán)的重要戰(zhàn)略抓手,。2018年10月，中共中央政治局就人工智能發(fā)展現(xiàn)狀和趨勢(shì)舉行集體學(xué)習(xí),，指出加快發(fā)展新一代人工智能是事關(guān)我國能否抓住新一輪科技革命和產(chǎn)業(yè)變革機(jī)遇的戰(zhàn)略問題,。作為網(wǎng)信領(lǐng)域國家級(jí)政府產(chǎn)業(yè)投資基金，中國互聯(lián)網(wǎng)投資基金（簡稱“中網(wǎng)投”）始終堅(jiān)持國家戰(zhàn)略導(dǎo)向,，把服務(wù)網(wǎng)絡(luò)強(qiáng)國建設(shè)作為投資首要任務(wù),。

耐心助力產(chǎn)業(yè)發(fā)展

當(dāng)前，人工智能仍然處于發(fā)展的初級(jí)階段,，從投資視角講,，需要有更多耐心，以價(jià)值投資的理念來看待人工智能產(chǎn)業(yè)長期健康發(fā)展,。

據(jù)公開數(shù)據(jù),，2022年國內(nèi)人工智能領(lǐng)域共超過800起融資事件（不含擬收購、被收購,、定增,、掛牌上市），盡管受疫情影響較2021年有所回落,，但仍然保持高位活躍,。從投資領(lǐng)域看，AI集成創(chuàng)新（即應(yīng)用層）在國內(nèi)最受關(guān)注,，投資數(shù)量占比達(dá)到45%,，包括智能機(jī)器人、自動(dòng)駕駛,、智慧醫(yī)療,、智能制造等。

隨著以大模型（如ChatGPT）為代表的現(xiàn)象級(jí)突破,，預(yù)計(jì)在技術(shù)層及應(yīng)用層可能引發(fā)新一輪投資熱潮,，與制造業(yè)、服務(wù)業(yè)等的融合創(chuàng)新也將進(jìn)一步提升智能化支撐水平,。

重創(chuàng)新,、保安全

按照國務(wù)院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》，到2030年,，我國人工智能核心產(chǎn)業(yè)規(guī)模將超過1萬億元,，帶動(dòng)相關(guān)產(chǎn)業(yè)規(guī)模超過10萬億元。中網(wǎng)投在人工智能領(lǐng)域投資布局出發(fā)點(diǎn)是補(bǔ)齊短板、做強(qiáng)長板,，支持核心技術(shù)創(chuàng)新突破,、完善上下游協(xié)同生態(tài)，總體按照技術(shù)創(chuàng)新,、基礎(chǔ)設(shè)施,、產(chǎn)業(yè)融合、保障安全四個(gè)維度進(jìn)行投資布局：

一是支持核心技術(shù)創(chuàng)新,。一方面深入布局視覺,、語音、自然語言處理等較為成熟的算法框架,；另一方面繼續(xù)關(guān)注理論突破和技術(shù)創(chuàng)新,。如：多模態(tài)、大模型,、無監(jiān)督學(xué)習(xí),、近存計(jì)算、類腦計(jì)算等,。

二是關(guān)注算力數(shù)據(jù)基礎(chǔ)設(shè)施,。深入布局面向新型計(jì)算架構(gòu)的AI芯片，兼顧專用計(jì)算及通用計(jì)算,，關(guān)注面向可編程,、可重構(gòu)的新型架構(gòu)，包括可能產(chǎn)生顛覆性創(chuàng)新,、體系化革新的光電芯片,、量子計(jì)算等。此外,，投資布局一些服務(wù)于AI的高質(zhì)量數(shù)據(jù)平臺(tái),、行業(yè)大數(shù)據(jù)平臺(tái)。

三是助力產(chǎn)業(yè)融合應(yīng)用,。根據(jù)當(dāng)前AI技術(shù)集成應(yīng)用成熟度和商業(yè)化落地情況,，主要看好和投資有限受控場(chǎng)景下的無人駕駛系統(tǒng)、服務(wù)機(jī)器人以及有成熟商業(yè)模式的數(shù)據(jù)智能服務(wù)方向,。

四是保障AI應(yīng)用安全,。服務(wù)國家對(duì)AI、數(shù)據(jù)等安全監(jiān)管要求,，守護(hù)科技向善,，投向AI安全、數(shù)據(jù)安全,，提升AI模型可靠性,、穩(wěn)定性,，保護(hù)個(gè)人隱私及行業(yè)數(shù)據(jù)安全。未來,，我們希望在人工智能領(lǐng)域支持培育出更多產(chǎn)業(yè)領(lǐng)航能力的大中型企業(yè)和“專精特新”,、單項(xiàng)冠軍企業(yè),。

（吳海系中國互聯(lián)網(wǎng)投資基金管理有限公司黨委書記,、董事長。本文根據(jù)公開資料整理）

黃鐵軍：大模型需共建閉環(huán)

從長遠(yuǎn)來看,，大模型只是標(biāo)簽而不是產(chǎn)品和某一家公司的工具,，整個(gè)大模型開源開放生態(tài)是必然的。

黃鐵軍

智源研究院是國內(nèi)最早進(jìn)行大模型研究的科研機(jī)構(gòu)之一,。近期,，研究院發(fā)布了 “悟道3.0”版本，涵蓋語言,、視覺,、多模態(tài)（多模態(tài)模型指可以處理文本、圖像,、聲音,、視頻等多種不同類型數(shù)據(jù)的機(jī)器學(xué)習(xí)模型）等基礎(chǔ)大模型，現(xiàn)已全面開源,。

其中,，“悟道·視界”視覺大模型系列，解決了當(dāng)前計(jì)算機(jī)視覺領(lǐng)域的一系列瓶頸問題,，實(shí)現(xiàn)了6項(xiàng)國際領(lǐng)先技術(shù)突破,，被業(yè)界譽(yù)為點(diǎn)亮了通用視覺的曙光。天秤(FlagEval)大模型則旨在建立科學(xué),、公正,、開放的評(píng)測(cè)基準(zhǔn)、方法和工具集,，協(xié)助研究人員全方位評(píng)估模型性能,，探索利用AI方法大幅提升評(píng)測(cè)的效率和客觀性。

大模型存活合理數(shù)：三個(gè)

可以說,，智源研究院率先預(yù)見了“大模型時(shí)代”的到來,。包括“大模型”這個(gè)名詞，就是2021年智源研究院發(fā)布“悟道1.0”時(shí)正式提出來的,。

悟道 3.0系列大模型之悟道·天鷹

什么是大模型,？我們認(rèn)為至少有三個(gè)特點(diǎn)：第一，規(guī)模要大,，神經(jīng)網(wǎng)絡(luò)參數(shù)要達(dá)到百億規(guī)模以上,。第二，要有涌現(xiàn)性，要產(chǎn)生預(yù)料之外的新能力,，這是人工智能發(fā)展六七十年來,，最具里程碑意義的新特性。第三,，通用性,，即不限于專門問題或者專門的領(lǐng)域，要能夠解決各類問題,。當(dāng)然,，受限于目前的技術(shù)發(fā)展階段，模型也不是所有問題都能解決,，但要有很強(qiáng)的推廣性,。

目前，國內(nèi)大模型發(fā)展的主要制約點(diǎn)是訓(xùn)練量太小,、行業(yè)太熱,，重復(fù)建設(shè)，資源分散,。未來能夠存活的大模型生態(tài)合理數(shù)量為三個(gè)左右,，今天的大模型都將是技術(shù)迭代的一個(gè)中間產(chǎn)品。

大模型產(chǎn)業(yè)難以形成壟斷,，需要搭建共建產(chǎn)業(yè)閉環(huán),。從長遠(yuǎn)來看，大模型只是標(biāo)簽而不是產(chǎn)品和某一家公司的工具,，整個(gè)大模型開源開放生態(tài)是必然的,。

600維評(píng)測(cè)

現(xiàn)在，全世界發(fā)布了很多模型,，這些模型到底哪些方面好,、哪些方面不足。我們?cè)诳萍疾看竽Ｐ推炫烅?xiàng)目的支持下推出了大語言模型的評(píng)測(cè)體系“天秤”,，旨在建立科學(xué),、公正、開放的評(píng)測(cè)基準(zhǔn)方法工具集,，協(xié)助研究人員全方位評(píng)估基礎(chǔ)模型,，訓(xùn)練項(xiàng)目的性能。

目前,，天秤大語言模型評(píng)測(cè)體系,，在能力、任務(wù),、指標(biāo)三個(gè)維度上建立了全方位的評(píng)測(cè)體系,，包括語言大模型可能具備的30多種能力,，加上5種任務(wù)，再乘以4大類的指標(biāo),，總共差不多600維的評(píng)測(cè)體系,，能比較全面衡量一個(gè)大模型的能力。

（黃鐵軍系智源研究院院長）

湯道生：大模型要解決真問題

企業(yè)所需要的大模型能力,，是在實(shí)際場(chǎng)景中真正解決了某個(gè)問題,，而不是在100個(gè)場(chǎng)景中解決了70%-80%的問題。

湯道生

過去半年,，業(yè)界都在為大語言模型的發(fā)展感到興奮,，不少人已經(jīng)試遍各個(gè)通用大模型的聊天機(jī)器人,，不少企業(yè)管理者也在思考,，如何將大模型技術(shù)應(yīng)用到自己企業(yè)的產(chǎn)業(yè)場(chǎng)景中。

但事實(shí)上,，當(dāng)前通用大語言模型在應(yīng)對(duì)產(chǎn)業(yè)場(chǎng)景落地時(shí)還存在一定局限性,。比如，通用大模型的訓(xùn)練數(shù)據(jù)主要來自公開數(shù)據(jù)集或網(wǎng)絡(luò)數(shù)據(jù),，對(duì)于特定行業(yè)的專業(yè)領(lǐng)域知識(shí)了解有限,。比如，通用大語言模型的訓(xùn)練需要大量計(jì)算資源和漫長的訓(xùn)練周期,，這對(duì)企業(yè)來說可能昂貴且耗時(shí),，且必須考量安全與合規(guī)。

因此,，打造企業(yè)專屬的行業(yè)大模型至關(guān)重要,，好用、易用的同時(shí)還能降低企業(yè)的成本和時(shí)間投入,。

通用大模型一般都是基于廣泛的公開文獻(xiàn)與網(wǎng)絡(luò)信息來進(jìn)行訓(xùn)練,，網(wǎng)上的信息可能有錯(cuò)誤、有謠言,、有偏見,，許多專業(yè)知識(shí)與行業(yè)數(shù)據(jù)積累不足，導(dǎo)致模型的專業(yè)性與精準(zhǔn)度不夠,，數(shù)據(jù)“噪音”過大,。

但在很多產(chǎn)業(yè)場(chǎng)景中，用戶對(duì)企業(yè)提供的專業(yè)服務(wù)要求高,、容錯(cuò)性低,。企業(yè)一旦提供了錯(cuò)誤信息，可能引起巨大的法律責(zé)任或公關(guān)危機(jī),。因此,，企業(yè)使用的大模型必須可控,、可追溯、可修正,，而且必須充分測(cè)試才能上線,。

企業(yè)所需要的大模型能力，是在實(shí)際場(chǎng)景中真正解決了某個(gè)問題,，而不是在100個(gè)場(chǎng)景中解決了70%-80%的問題,。

另外，大模型的訓(xùn)練數(shù)據(jù)越多,，模型越大,，訓(xùn)練與推理的成本也越高。但實(shí)際上,，大部分的企業(yè)場(chǎng)景需求,，不需要萬能的通用AI來滿足。因此,，如何在合理的成本下,，選擇合適的模型，才是企業(yè)需要思考與決策的,。

企業(yè)需要有針對(duì)性的行業(yè)大模型,，再加上企業(yè)自己的數(shù)據(jù)做訓(xùn)練或精調(diào)，才能打造出實(shí)用性更高,、安全性更高的智能產(chǎn)品,。模型最終要在真實(shí)場(chǎng)景落地，要達(dá)到理想的服務(wù)效果,，往往需要企業(yè)將自身的數(shù)據(jù)也用起來,。在模型研發(fā)過程中，既要關(guān)注敏感數(shù)據(jù)的保護(hù)與安全合規(guī),，也需要管理好大量的數(shù)據(jù)與標(biāo)簽,，不斷測(cè)試與迭代模型。

因此,，騰訊云推出了行業(yè)大模型精調(diào)解決方案,，幫助模型開發(fā)者與算法工程師，一站式解決數(shù)據(jù)的處理問題,，高效率,、高品質(zhì)、低成本地創(chuàng)建和使用大模型,；以模型的私有化部署,、權(quán)限管控和數(shù)據(jù)加密等方式，讓企業(yè)用戶在打造模型與使用模型時(shí)都更放心,。

騰訊云MaaS全景圖

我們正在進(jìn)入一個(gè)被AI重塑的時(shí)代,，海量的創(chuàng)新應(yīng)用即將爆發(fā),。大模型只是起點(diǎn)，產(chǎn)業(yè)落地會(huì)是AI更大的應(yīng)用圖景,。

（湯道生系騰訊集團(tuán)高級(jí)執(zhí)行副總裁）

點(diǎn)擊下方標(biāo)題,，閱讀本組專題全部稿件

《人工智能，風(fēng)生水起》專題系列稿件