《瞭望東方周刊》特約撰稿鄧之湄?編輯陳融雪

山姆·阿爾特曼：讓AI成為更安全的幫手

我們需要國(guó)際合作，以可驗(yàn)證的方式在全球范圍內(nèi)建立越來(lái)越強(qiáng)大的,、可以信任和開(kāi)發(fā)的AGI系統(tǒng),，盡管這并不容易。

山姆·阿爾特曼

最近一段時(shí)間,，我走過(guò)五大洲的近20個(gè)國(guó)家,，接觸了很多人工智能領(lǐng)域的學(xué)生和開(kāi)發(fā)者,，見(jiàn)證了全球各地的人們正利用AI改善生活，也和各界人士深入探討了如何確保強(qiáng)大的AI能安全地運(yùn)作,。

我們發(fā)現(xiàn),，當(dāng)前AI還存在不少亟待解決的難題。

治理需國(guó)際合作

隨著 AI能力迅速提高,，我們需要將AI技術(shù)負(fù)責(zé)任地應(yīng)用到各領(lǐng)域,，必須預(yù)判并管理好風(fēng)險(xiǎn)。如果我們不做好規(guī)劃,，一個(gè)本來(lái)計(jì)劃用于改善公共衛(wèi)生的AI系統(tǒng),，可能會(huì)因?yàn)橘Y源提供不平衡而破壞了整個(gè)系統(tǒng)。

我希望投入時(shí)間和精力集中攻關(guān)重要領(lǐng)域,，其中一個(gè)重要領(lǐng)域就是AGI（通用人工智能）治理,。如果我們能將AGI系統(tǒng)最核心的技術(shù)實(shí)現(xiàn)網(wǎng)絡(luò)共享,，AGI系統(tǒng)就可以為全球經(jīng)濟(jì)創(chuàng)造巨大財(cái)富，解決人類(lèi)面臨的挑戰(zhàn),，如全球氣候變化,、人類(lèi)健康安全等，在多個(gè)方面提升社會(huì)福祉,。

我們需要建立包容的國(guó)際準(zhǔn)則和標(biāo)準(zhǔn),，并在所有國(guó)家就AGI的使用建立平等、統(tǒng)一的防護(hù)措施,。

我們需要國(guó)際合作,，以可驗(yàn)證的方式在全球范圍內(nèi)建立越來(lái)越強(qiáng)大的、可以信任和開(kāi)發(fā)的AGI系統(tǒng)，盡管這并不容易,。

《道德經(jīng)》告訴我們：“千里之行,，始于足下?！睂?duì)安全進(jìn)行長(zhǎng)期的關(guān)注和投入,，最有建設(shè)性的第一步就是國(guó)際科技界開(kāi)展合作，確保AGI安全的技術(shù)發(fā)展,，增加技術(shù)透明度和建立知識(shí)共享機(jī)制,，為應(yīng)對(duì)一旦出現(xiàn)的緊急問(wèn)題，各國(guó)研究人員應(yīng)該共享研究成果,。當(dāng)然,，我們?cè)诤粲鯂?guó)際合作的同時(shí)，也需要尊重和保護(hù)知識(shí)產(chǎn)權(quán),。

以AI監(jiān)督AI

當(dāng)前,，我們關(guān)注的是如何使AI系統(tǒng)成為一個(gè)有益和安全的好幫手。隨著AGI時(shí)代的臨近,，其帶來(lái)的潛在影響,、問(wèn)題將呈指數(shù)級(jí)增長(zhǎng)，因此我們需要主動(dòng)應(yīng)對(duì)AGI帶來(lái)的挑戰(zhàn),，將可能遇到的風(fēng)險(xiǎn)降至最低,。

從GPT-4完成預(yù)訓(xùn)練到部署運(yùn)用，我們用了8個(gè)月時(shí)間來(lái)研究如何預(yù)判風(fēng)險(xiǎn),，并給出對(duì)策,。很慶幸我們做對(duì)了，大模型訓(xùn)練后的對(duì)齊（指AI系統(tǒng)的目標(biāo)和人類(lèi)的價(jià)值觀與利益保持一致）是提高性能和改善體驗(yàn)的關(guān)鍵,，GPT-4的對(duì)齊程度超過(guò)當(dāng)前所有代碼,。不過(guò),，對(duì)于更高級(jí)的系統(tǒng),，對(duì)齊仍然是一個(gè)尚未解決的難題，需要采用新的技術(shù)方法,，以及加強(qiáng)治理監(jiān)督,。畢竟，未來(lái)的AGI可能是一個(gè)十萬(wàn)行二進(jìn)制代碼的系統(tǒng),。

現(xiàn)階段,，人類(lèi)的監(jiān)督很難判斷如此規(guī)模的大模型是否在做一些于人類(lèi)不利的事。因此,，我們正在嘗試使用AI系統(tǒng)協(xié)助人類(lèi)監(jiān)督其他AI系統(tǒng),。例如，我們可以訓(xùn)練一個(gè)模型來(lái)幫助監(jiān)督者找出其他模型代碼中的缺陷。

還有一個(gè)方向是可解釋性,。我們希望更好地理解模型內(nèi)部發(fā)生的事情,。最終，我們的目標(biāo)是訓(xùn)練AI系統(tǒng)具備更好的自我優(yōu)化能力,。我們希望全世界的研究人員參與其中,，在應(yīng)對(duì)AI領(lǐng)域的技術(shù)挑戰(zhàn)方面開(kāi)展合作，利用AI解決全球重大問(wèn)題,，改善人類(lèi)生存條件和質(zhì)量,。

（山姆·阿爾特曼系OpenAI聯(lián)合創(chuàng)始人。本文根據(jù)山姆·阿爾特曼在2023 智源人工智能大會(huì)上的演講整理）

吳海：堅(jiān)定圍繞國(guó)家戰(zhàn)略投資布局

人工智能仍然處于發(fā)展的初級(jí)階段,，從投資視角講,，需要有更多耐心，以?xún)r(jià)值投資的理念來(lái)看待人工智能產(chǎn)業(yè)長(zhǎng)期健康發(fā)展,。

吳海

加快發(fā)展新一代人工智能,，是贏得全球科技競(jìng)爭(zhēng)主動(dòng)權(quán)的重要戰(zhàn)略抓手。2018年10月,，中共中央政治局就人工智能發(fā)展現(xiàn)狀和趨勢(shì)舉行集體學(xué)習(xí),，指出加快發(fā)展新一代人工智能是事關(guān)我國(guó)能否抓住新一輪科技革命和產(chǎn)業(yè)變革機(jī)遇的戰(zhàn)略問(wèn)題。作為網(wǎng)信領(lǐng)域國(guó)家級(jí)政府產(chǎn)業(yè)投資基金,，中國(guó)互聯(lián)網(wǎng)投資基金（簡(jiǎn)稱(chēng)“中網(wǎng)投”）始終堅(jiān)持國(guó)家戰(zhàn)略導(dǎo)向,，把服務(wù)網(wǎng)絡(luò)強(qiáng)國(guó)建設(shè)作為投資首要任務(wù)。

耐心助力產(chǎn)業(yè)發(fā)展

當(dāng)前,，人工智能仍然處于發(fā)展的初級(jí)階段,，從投資視角講，需要有更多耐心,，以?xún)r(jià)值投資的理念來(lái)看待人工智能產(chǎn)業(yè)長(zhǎng)期健康發(fā)展,。

據(jù)公開(kāi)數(shù)據(jù)，2022年國(guó)內(nèi)人工智能領(lǐng)域共超過(guò)800起融資事件（不含擬收購(gòu),、被收購(gòu),、定增、掛牌上市）,，盡管受疫情影響較2021年有所回落,，但仍然保持高位活躍。從投資領(lǐng)域看,，AI集成創(chuàng)新（即應(yīng)用層）在國(guó)內(nèi)最受關(guān)注,，投資數(shù)量占比達(dá)到45%，包括智能機(jī)器人,、自動(dòng)駕駛,、智慧醫(yī)療、智能制造等。

隨著以大模型（如ChatGPT）為代表的現(xiàn)象級(jí)突破,，預(yù)計(jì)在技術(shù)層及應(yīng)用層可能引發(fā)新一輪投資熱潮,，與制造業(yè)、服務(wù)業(yè)等的融合創(chuàng)新也將進(jìn)一步提升智能化支撐水平,。

重創(chuàng)新,、保安全

按照國(guó)務(wù)院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》，到2030年,，我國(guó)人工智能核心產(chǎn)業(yè)規(guī)模將超過(guò)1萬(wàn)億元,，帶動(dòng)相關(guān)產(chǎn)業(yè)規(guī)模超過(guò)10萬(wàn)億元。中網(wǎng)投在人工智能領(lǐng)域投資布局出發(fā)點(diǎn)是補(bǔ)齊短板,、做強(qiáng)長(zhǎng)板,，支持核心技術(shù)創(chuàng)新突破、完善上下游協(xié)同生態(tài),，總體按照技術(shù)創(chuàng)新,、基礎(chǔ)設(shè)施、產(chǎn)業(yè)融合,、保障安全四個(gè)維度進(jìn)行投資布局：

一是支持核心技術(shù)創(chuàng)新,。一方面深入布局視覺(jué)、語(yǔ)音,、自然語(yǔ)言處理等較為成熟的算法框架,；另一方面繼續(xù)關(guān)注理論突破和技術(shù)創(chuàng)新。如：多模態(tài),、大模型,、無(wú)監(jiān)督學(xué)習(xí)、近存計(jì)算,、類(lèi)腦計(jì)算等,。

二是關(guān)注算力數(shù)據(jù)基礎(chǔ)設(shè)施。深入布局面向新型計(jì)算架構(gòu)的AI芯片,，兼顧專(zhuān)用計(jì)算及通用計(jì)算,，關(guān)注面向可編程、可重構(gòu)的新型架構(gòu),，包括可能產(chǎn)生顛覆性創(chuàng)新,、體系化革新的光電芯片,、量子計(jì)算等,。此外，投資布局一些服務(wù)于AI的高質(zhì)量數(shù)據(jù)平臺(tái),、行業(yè)大數(shù)據(jù)平臺(tái),。

三是助力產(chǎn)業(yè)融合應(yīng)用。根據(jù)當(dāng)前AI技術(shù)集成應(yīng)用成熟度和商業(yè)化落地情況，主要看好和投資有限受控場(chǎng)景下的無(wú)人駕駛系統(tǒng),、服務(wù)機(jī)器人以及有成熟商業(yè)模式的數(shù)據(jù)智能服務(wù)方向,。

四是保障AI應(yīng)用安全。服務(wù)國(guó)家對(duì)AI,、數(shù)據(jù)等安全監(jiān)管要求，守護(hù)科技向善,，投向AI安全、數(shù)據(jù)安全,，提升AI模型可靠性,、穩(wěn)定性,，保護(hù)個(gè)人隱私及行業(yè)數(shù)據(jù)安全,。未來(lái)，我們希望在人工智能領(lǐng)域支持培育出更多產(chǎn)業(yè)領(lǐng)航能力的大中型企業(yè)和“專(zhuān)精特新”,、單項(xiàng)冠軍企業(yè),。

（吳海系中國(guó)互聯(lián)網(wǎng)投資基金管理有限公司黨委書(shū)記、董事長(zhǎng),。本文根據(jù)公開(kāi)資料整理）

黃鐵軍：大模型需共建閉環(huán)

從長(zhǎng)遠(yuǎn)來(lái)看，大模型只是標(biāo)簽而不是產(chǎn)品和某一家公司的工具,，整個(gè)大模型開(kāi)源開(kāi)放生態(tài)是必然的,。

黃鐵軍

智源研究院是國(guó)內(nèi)最早進(jìn)行大模型研究的科研機(jī)構(gòu)之一,。近期，研究院發(fā)布了 “悟道3.0”版本,，涵蓋語(yǔ)言,、視覺(jué)、多模態(tài)（多模態(tài)模型指可以處理文本,、圖像,、聲音、視頻等多種不同類(lèi)型數(shù)據(jù)的機(jī)器學(xué)習(xí)模型）等基礎(chǔ)大模型,，現(xiàn)已全面開(kāi)源,。

其中，“悟道·視界”視覺(jué)大模型系列,，解決了當(dāng)前計(jì)算機(jī)視覺(jué)領(lǐng)域的一系列瓶頸問(wèn)題,，實(shí)現(xiàn)了6項(xiàng)國(guó)際領(lǐng)先技術(shù)突破，被業(yè)界譽(yù)為點(diǎn)亮了通用視覺(jué)的曙光,。天秤(FlagEval)大模型則旨在建立科學(xué),、公正、開(kāi)放的評(píng)測(cè)基準(zhǔn),、方法和工具集,，協(xié)助研究人員全方位評(píng)估模型性能，探索利用AI方法大幅提升評(píng)測(cè)的效率和客觀性,。

大模型存活合理數(shù)：三個(gè)

可以說(shuō),，智源研究院率先預(yù)見(jiàn)了“大模型時(shí)代”的到來(lái)。包括“大模型”這個(gè)名詞,，就是2021年智源研究院發(fā)布“悟道1.0”時(shí)正式提出來(lái)的,。

悟道 3.0系列大模型之悟道·天鷹

什么是大模型？我們認(rèn)為至少有三個(gè)特點(diǎn)：第一,，規(guī)模要大,，神經(jīng)網(wǎng)絡(luò)參數(shù)要達(dá)到百億規(guī)模以上。第二,，要有涌現(xiàn)性,，要產(chǎn)生預(yù)料之外的新能力，這是人工智能發(fā)展六七十年來(lái),，最具里程碑意義的新特性,。第三，通用性,，即不限于專(zhuān)門(mén)問(wèn)題或者專(zhuān)門(mén)的領(lǐng)域,，要能夠解決各類(lèi)問(wèn)題。當(dāng)然,，受限于目前的技術(shù)發(fā)展階段,，模型也不是所有問(wèn)題都能解決，但要有很強(qiáng)的推廣性,。

目前,，國(guó)內(nèi)大模型發(fā)展的主要制約點(diǎn)是訓(xùn)練量太小、行業(yè)太熱,，重復(fù)建設(shè),，資源分散。未來(lái)能夠存活的大模型生態(tài)合理數(shù)量為三個(gè)左右,，今天的大模型都將是技術(shù)迭代的一個(gè)中間產(chǎn)品,。

大模型產(chǎn)業(yè)難以形成壟斷，需要搭建共建產(chǎn)業(yè)閉環(huán),。從長(zhǎng)遠(yuǎn)來(lái)看,，大模型只是標(biāo)簽而不是產(chǎn)品和某一家公司的工具，整個(gè)大模型開(kāi)源開(kāi)放生態(tài)是必然的,。

600維評(píng)測(cè)

現(xiàn)在,，全世界發(fā)布了很多模型，這些模型到底哪些方面好,、哪些方面不足,。我們?cè)诳萍疾看竽Ｐ推炫烅?xiàng)目的支持下推出了大語(yǔ)言模型的評(píng)測(cè)體系“天秤”，旨在建立科學(xué),、公正,、開(kāi)放的評(píng)測(cè)基準(zhǔn)方法工具集，協(xié)助研究人員全方位評(píng)估基礎(chǔ)模型,，訓(xùn)練項(xiàng)目的性能,。

目前，天秤大語(yǔ)言模型評(píng)測(cè)體系,，在能力,、任務(wù)、指標(biāo)三個(gè)維度上建立了全方位的評(píng)測(cè)體系,，包括語(yǔ)言大模型可能具備的30多種能力,，加上5種任務(wù)，再乘以4大類(lèi)的指標(biāo),，總共差不多600維的評(píng)測(cè)體系,，能比較全面衡量一個(gè)大模型的能力。

（黃鐵軍系智源研究院院長(zhǎng)）

湯道生：大模型要解決真問(wèn)題

企業(yè)所需要的大模型能力,，是在實(shí)際場(chǎng)景中真正解決了某個(gè)問(wèn)題,，而不是在100個(gè)場(chǎng)景中解決了70%-80%的問(wèn)題。

湯道生

過(guò)去半年,，業(yè)界都在為大語(yǔ)言模型的發(fā)展感到興奮,，不少人已經(jīng)試遍各個(gè)通用大模型的聊天機(jī)器人,，不少企業(yè)管理者也在思考，如何將大模型技術(shù)應(yīng)用到自己企業(yè)的產(chǎn)業(yè)場(chǎng)景中,。

但事實(shí)上,，當(dāng)前通用大語(yǔ)言模型在應(yīng)對(duì)產(chǎn)業(yè)場(chǎng)景落地時(shí)還存在一定局限性。比如,，通用大模型的訓(xùn)練數(shù)據(jù)主要來(lái)自公開(kāi)數(shù)據(jù)集或網(wǎng)絡(luò)數(shù)據(jù),，對(duì)于特定行業(yè)的專(zhuān)業(yè)領(lǐng)域知識(shí)了解有限。比如,，通用大語(yǔ)言模型的訓(xùn)練需要大量計(jì)算資源和漫長(zhǎng)的訓(xùn)練周期,，這對(duì)企業(yè)來(lái)說(shuō)可能昂貴且耗時(shí)，且必須考量安全與合規(guī),。

因此,，打造企業(yè)專(zhuān)屬的行業(yè)大模型至關(guān)重要，好用,、易用的同時(shí)還能降低企業(yè)的成本和時(shí)間投入,。

通用大模型一般都是基于廣泛的公開(kāi)文獻(xiàn)與網(wǎng)絡(luò)信息來(lái)進(jìn)行訓(xùn)練，網(wǎng)上的信息可能有錯(cuò)誤,、有謠言,、有偏見(jiàn)，許多專(zhuān)業(yè)知識(shí)與行業(yè)數(shù)據(jù)積累不足,，導(dǎo)致模型的專(zhuān)業(yè)性與精準(zhǔn)度不夠,，數(shù)據(jù)“噪音”過(guò)大。

但在很多產(chǎn)業(yè)場(chǎng)景中,，用戶(hù)對(duì)企業(yè)提供的專(zhuān)業(yè)服務(wù)要求高,、容錯(cuò)性低。企業(yè)一旦提供了錯(cuò)誤信息,，可能引起巨大的法律責(zé)任或公關(guān)危機(jī),。因此，企業(yè)使用的大模型必須可控,、可追溯,、可修正，而且必須充分測(cè)試才能上線,。

企業(yè)所需要的大模型能力,，是在實(shí)際場(chǎng)景中真正解決了某個(gè)問(wèn)題，而不是在100個(gè)場(chǎng)景中解決了70%-80%的問(wèn)題,。

另外,，大模型的訓(xùn)練數(shù)據(jù)越多，模型越大,，訓(xùn)練與推理的成本也越高,。但實(shí)際上,，大部分的企業(yè)場(chǎng)景需求，不需要萬(wàn)能的通用AI來(lái)滿足,。因此,，如何在合理的成本下，選擇合適的模型,，才是企業(yè)需要思考與決策的,。

企業(yè)需要有針對(duì)性的行業(yè)大模型,，再加上企業(yè)自己的數(shù)據(jù)做訓(xùn)練或精調(diào),，才能打造出實(shí)用性更高、安全性更高的智能產(chǎn)品,。模型最終要在真實(shí)場(chǎng)景落地,，要達(dá)到理想的服務(wù)效果，往往需要企業(yè)將自身的數(shù)據(jù)也用起來(lái),。在模型研發(fā)過(guò)程中,，既要關(guān)注敏感數(shù)據(jù)的保護(hù)與安全合規(guī)，也需要管理好大量的數(shù)據(jù)與標(biāo)簽,，不斷測(cè)試與迭代模型,。

因此，騰訊云推出了行業(yè)大模型精調(diào)解決方案,，幫助模型開(kāi)發(fā)者與算法工程師,，一站式解決數(shù)據(jù)的處理問(wèn)題，高效率,、高品質(zhì),、低成本地創(chuàng)建和使用大模型；以模型的私有化部署,、權(quán)限管控和數(shù)據(jù)加密等方式,，讓企業(yè)用戶(hù)在打造模型與使用模型時(shí)都更放心。

騰訊云MaaS全景圖

我們正在進(jìn)入一個(gè)被AI重塑的時(shí)代,，海量的創(chuàng)新應(yīng)用即將爆發(fā),。大模型只是起點(diǎn)，產(chǎn)業(yè)落地會(huì)是AI更大的應(yīng)用圖景,。

（湯道生系騰訊集團(tuán)高級(jí)執(zhí)行副總裁）

點(diǎn)擊下方標(biāo)題,，閱讀本組專(zhuān)題全部稿件

《人工智能，風(fēng)生水起》專(zhuān)題系列稿件