OpenAI事件啟示編者按2023年11月，人工智能公司OpenAI高層人事“巨震”，震動(dòng)了全球科技圈,。良好的治理結(jié)構(gòu)和治理機(jī)制設(shè)計(jì),，是AI企業(yè)良性運(yùn)作、持續(xù)發(fā)展的基石,。OpenAI董事會(huì)沖突的根源是什么,？科技公司如何在公共利益與商業(yè)成功之間實(shí)現(xiàn)平衡？Anthropic又為何設(shè)置長(zhǎng)期利益信托,？本期熱點(diǎn)透視深度剖析這些話題,。圖片來(lái)源/攝圖網(wǎng)授權(quán)■中國(guó)經(jīng)濟(jì)時(shí)報(bào)記者 劉慧追蹤科技股的納斯達(dá)克100指數(shù)，2023年迄今為止上漲約47.5%,。受關(guān)注的全球人工智能企業(yè)除了谷歌,、OpenAI,、蘋(píng)果，還有微軟,、亞馬遜,、IBM、臉譜,、特斯拉,、NVIDIA、DeepMind等,，中國(guó)的人工智能公司包括百度,、騰訊、阿里巴巴,、京東等,。　　　　創(chuàng)投市場(chǎng)金融數(shù)據(jù)分析公司PitchBook的數(shù)據(jù)顯示，2023年AI相關(guān)初創(chuàng)公司的投資金額達(dá)到約687億美元,。但在經(jīng)歷了OpenAI人事“巨震”后,，業(yè)界也在思考，科技公司如何在公共利益與商業(yè)成功之間實(shí)現(xiàn)平衡,？如何完善科技公司的公司治理,？　　　　確保AI朝著善意的方向前進(jìn)　　法國(guó)達(dá)索系統(tǒng)高科技行業(yè)全球副總裁StéphaneSIREAU在接受中國(guó)經(jīng)濟(jì)時(shí)報(bào)記者采訪時(shí)表示，過(guò)去十多年,，技術(shù)在不斷加速發(fā)展,，特別是AI技術(shù)加速了世界的改變，但我們要非常小心地應(yīng)對(duì),，要讓AI技術(shù)更可靠,、更安全地應(yīng)用到工業(yè)平臺(tái)等，讓AI技術(shù)給企業(yè)帶來(lái)價(jià)值,?！　　　∧祥_(kāi)大學(xué)講席教授、中國(guó)公司治理研究院院長(zhǎng),、中國(guó)上市公司協(xié)會(huì)專(zhuān)家顧問(wèn)委員會(huì)副主任委員李維安告訴中國(guó)經(jīng)濟(jì)時(shí)報(bào)記者,，AI技術(shù)是一把雙刃劍，在改變生產(chǎn)方式的同時(shí),，也帶來(lái)風(fēng)險(xiǎn)挑戰(zhàn),。尤其是，ChatGPT的出現(xiàn),，標(biāo)志著人工智能技術(shù)新的里程碑,，為人類(lèi)提供了智能化和個(gè)性化的服務(wù)方案，但也引發(fā)人們對(duì)人工智能技術(shù)潛在風(fēng)險(xiǎn)和倫理問(wèn)題的擔(dān)憂,。決策者的出發(fā)點(diǎn)是實(shí)現(xiàn)安全和造福全人類(lèi)的美好愿景還是商業(yè)化目標(biāo),，決定了人工智能是“向善”還是“向利”發(fā)展，這一道德選擇將深刻地塑造AI演進(jìn),，不僅影響著技術(shù)的用途,，還直接關(guān)系到人類(lèi)文明的命運(yùn)?！拔覀儽仨氄J(rèn)真引導(dǎo)AI的發(fā)展,，考慮數(shù)據(jù)隱私、公平性,、安全性等多個(gè)因素,，以確保朝著善意的方向前進(jìn)?！薄　　　∧壳?，推進(jìn)AI治理和AI企業(yè)治理已成為全球化趨勢(shì),。2023年11月1日，首屆全球人工智能安全峰會(huì)在英國(guó)布萊切利莊園開(kāi)幕,，由包括中國(guó)在內(nèi)的與會(huì)國(guó)共同達(dá)成的首個(gè)全球性人工智能聲明《布萊切利宣言》正式發(fā)表,，同意通過(guò)國(guó)際合作，建立人工智能監(jiān)管方法,。　　　　2023年10月30日,，美國(guó)白宮發(fā)布拜登簽署的最新行政命令——《關(guān)于安全,、可靠和可信的AI行政命令》，以確保美國(guó)在把握AI的前景和管理其風(fēng)險(xiǎn)方面處于領(lǐng)先地位,。該行政令包含建立AI安全新標(biāo)準(zhǔn),、保護(hù)美國(guó)民眾的隱私、促進(jìn)公平和公民權(quán)利等8個(gè)方面的目標(biāo),?！　　　±罹S安認(rèn)為，應(yīng)加快推動(dòng)建立AI企業(yè)內(nèi)外部治理體系,?！　　　∈紫龋苿?dòng)AI企業(yè)董事會(huì)建設(shè),，與企業(yè)AI相關(guān)的事項(xiàng)要進(jìn)入董事會(huì)決策,，成為企業(yè)的一個(gè)決策方向。在董事會(huì)設(shè)立專(zhuān)門(mén)的倫理委員會(huì),，并在公司章程中對(duì)AI倫理委員會(huì)的構(gòu)成及其運(yùn)作進(jìn)行明確,，判斷和把握技術(shù)應(yīng)用的方向。設(shè)置首席人工智能官或首席倫理官,，以牽頭制定專(zhuān)門(mén)的人工智能發(fā)展戰(zhàn)略,。　　　　其次,，建立內(nèi)部數(shù)據(jù)合規(guī)審查機(jī)制和內(nèi)控機(jī)制,，確保在研發(fā)和數(shù)據(jù)使用中安全合規(guī)。設(shè)置合規(guī)部門(mén),，建立對(duì)數(shù)據(jù)安全問(wèn)題的風(fēng)險(xiǎn)評(píng)估和防范機(jī)制,。　　　　再次,，實(shí)施全面的人才培訓(xùn)計(jì)劃,，使管理人才和研發(fā)人員了解人工智能技術(shù)的倫理和社會(huì)責(zé)任，增強(qiáng)他們對(duì)公司價(jià)值觀的理解,，培育出一個(gè)能夠在技術(shù)和倫理之間取得平衡的企業(yè)文化,?！　　　∽詈螅嫔?jí)治理體系,，強(qiáng)化綠色治理和應(yīng)急治理,。AI企業(yè)治理應(yīng)突破單純追求經(jīng)濟(jì)效益最大化的傳統(tǒng)企業(yè)治理邊界，而應(yīng)更多地承擔(dān)企業(yè)作為社會(huì)資源配置平臺(tái)的社會(huì)責(zé)任,，樹(shù)立推動(dòng)社會(huì)可持續(xù)發(fā)展的社會(huì)化目標(biāo),。　　　　Anthropic為何設(shè)計(jì)“長(zhǎng)期利益信托”治理結(jié)構(gòu)　　從OpenAI離開(kāi)的員工2021年創(chuàng)立了另一家AI獨(dú)角獸Anthropic,，同樣在公司章程中承諾“優(yōu)先考慮幫助人類(lèi),，同時(shí)實(shí)現(xiàn)利潤(rùn)最大化”。但Anthropic對(duì)外稱(chēng),，公共利益與商業(yè)成功或股東回報(bào)并不矛盾,，兩者往往有很強(qiáng)的協(xié)同作用。為此,，Anthropic設(shè)計(jì)了一個(gè)名為“長(zhǎng)期利益信托”的治理結(jié)構(gòu)：公司由董事會(huì)監(jiān)督,。董事會(huì)選擇并監(jiān)督領(lǐng)導(dǎo)團(tuán)隊(duì)（特別是CEO），而領(lǐng)導(dǎo)團(tuán)隊(duì)負(fù)責(zé)雇用和管理員工,。股東擁有選舉,、罷免和起訴董事的權(quán)利，而董事會(huì)成員并不具有,。為了讓董事的激勵(lì)措施與股東利益結(jié)合,，董事的薪酬通常由股票形式支付。為了監(jiān)督董事會(huì)的決策是否符合全人類(lèi)利益,，Anthropic外設(shè)一個(gè)信托機(jī)構(gòu)對(duì)董事進(jìn)行監(jiān)督,。信托機(jī)構(gòu)由5名沒(méi)有經(jīng)濟(jì)利害關(guān)系的獨(dú)立受托人組成，有權(quán)決定董事會(huì)的多數(shù)席位,?！　　　±罹S安表示，作為人工智能領(lǐng)域的創(chuàng)業(yè)公司,，在初始創(chuàng)立的時(shí)候,，公司結(jié)構(gòu)比較精簡(jiǎn)，但是隨著公司的不斷發(fā)展壯大,，治理結(jié)構(gòu)和機(jī)制的弊端就會(huì)暴露出來(lái),，因此必須要完善公司治理體系。Anthropic同樣將人工智能安全作為目標(biāo),，但與OpenAI不同的是,，Anthropic將公共利益與商業(yè)化的目標(biāo)并列而不是對(duì)立，期望在組織內(nèi)實(shí)現(xiàn)協(xié)同發(fā)展,，而不是通過(guò)單獨(dú)成立一個(gè)子公司實(shí)現(xiàn)差異化的治理目標(biāo),?；诖耍珹nthropic設(shè)計(jì)了一系列制衡機(jī)制,?！　　　±罹S安表示，在董事會(huì)的治理機(jī)制上,，Anthropic的公司章程規(guī)定,，公司由董事會(huì)監(jiān)督，董事會(huì)選擇并監(jiān)督管理層（尤其是CEO）,，而CEO則負(fù)責(zé)雇用和管理員工,。但董事會(huì)不是擁有至高無(wú)上的權(quán)力，為了能夠使董事會(huì)與股東的利益相一致,，Anthropic規(guī)定，董事由股東選舉產(chǎn)生,，并可由股東罷免,。董事通常以公司股票的形式獲得報(bào)酬，保障董事和股東的利益相一致,。最重要的是,，選舉、罷免和起訴董事的權(quán)利完全屬于股東,，這樣股東會(huì)對(duì)董事會(huì)起到了監(jiān)督和制衡的作用,。　　　　“從公司治理機(jī)制來(lái)看,，董事會(huì)代表股東的利益,，但是否會(huì)對(duì)公眾等利益相關(guān)者負(fù)責(zé)，成為大家比較關(guān)心的問(wèn)題,?！崩罹S安表示?！　　　≡谒磥?lái),，Anthropic通過(guò)設(shè)立信托機(jī)構(gòu)讓董事會(huì)平衡公共利益與股東價(jià)值最大化的目標(biāo)。長(zhǎng)期利益信托機(jī)構(gòu)由五名在人工智能安全,、國(guó)家安全,、公共政策和社會(huì)企業(yè)方面具有背景和專(zhuān)長(zhǎng)的受托人組成,。最初的受托人由董事會(huì)選出,，未來(lái)的受托人將由受托人投票選舉產(chǎn)生,。以此保障這個(gè)機(jī)構(gòu)能有足夠的獨(dú)立性,，以平衡公眾等利益相關(guān)者利益,。　　　　此外,，Anthropic在C輪融資結(jié)束時(shí),，創(chuàng)建了一個(gè)新的由信托機(jī)構(gòu)獨(dú)家持有的股票類(lèi)別（T類(lèi)）。T類(lèi)股票授予信托公司選舉和罷免一些Anthropic董事會(huì)成員的權(quán)力,。同時(shí),，Anthropic還設(shè)立了一個(gè)新的董事席位，將由C輪融資和隨后的投資者選舉產(chǎn)生,，以確保董事會(huì)中能夠有投資者的聲音,，這一點(diǎn)和OpenAI的設(shè)計(jì)完全不同。Anthropic還對(duì)這樣的治理機(jī)制設(shè)計(jì)了一個(gè)改進(jìn)流程,，在實(shí)踐中逐漸完善,。　　　　李維安表示,，可以看出,，Anthropic通過(guò)信托機(jī)構(gòu)和股東會(huì)對(duì)董事會(huì)的決策行為進(jìn)行監(jiān)督和制衡。這樣的機(jī)制設(shè)計(jì)試圖保障董事會(huì)在追求股東利益的同時(shí),，兼顧安全和公眾利益,。在這樣的治理結(jié)構(gòu)下，治理主體的議事規(guī)則,、決策流程等機(jī)制的完善就顯得格外重要,，是能否發(fā)揮治理有效性的保障。同時(shí),，治理主體的增加,，信息溝通鏈條的延長(zhǎng)，所帶來(lái)的信息不對(duì)稱(chēng)問(wèn)題也會(huì)成為治理隱患,，需要加強(qiáng)信息溝通機(jī)制和渠道建設(shè),，確保信托機(jī)構(gòu)、股東等及時(shí)了解公司內(nèi)部實(shí)際情況,，減少代理問(wèn)題的發(fā)生,。觀點(diǎn)牛津大學(xué)商學(xué)院副教授胡可嘉：　　　　無(wú)論是咨詢(xún)、醫(yī)療還是制造業(yè),，AI技術(shù)在解決具體問(wèn)題,、提升效率和創(chuàng)新服務(wù)上都顯示出巨大潛力。AI時(shí)代的商業(yè)轉(zhuǎn)變需要兩個(gè)重要的驅(qū)動(dòng)力：一是對(duì)AI應(yīng)用實(shí)際價(jià)值的深刻理解和實(shí)踐,；二是企業(yè)領(lǐng)導(dǎo)層對(duì)于這些變革的直接參與和支持,。只有這樣，才能充分釋放AI技術(shù)在各行各業(yè)中的潛力,，推動(dòng)商業(yè)和社會(huì)進(jìn)入一個(gè)更加智能,、高效的未來(lái)?！　　　∠愀劭萍即髮W(xué)校董會(huì)主席沈向洋：　　　　近年來(lái),，企業(yè)界和學(xué)術(shù)界都在不斷突破界限,，力求讓人工智能在不同領(lǐng)域中達(dá)到接近人類(lèi)的能力，這些進(jìn)步完全超乎了我們十年前的想象,。然而,，我們?cè)谕七M(jìn)前沿科技的同時(shí)，必須考慮到人工智能的復(fù)雜性,、可能對(duì)社會(huì)產(chǎn)生的影響以及制定規(guī)制原則和框架的重要性,。　　　　清華大學(xué)人工智能?chē)?guó)際治理研究院院長(zhǎng)薛瀾：　　　　人工智能全球治理體系應(yīng)當(dāng)致力于推動(dòng)人工智能治理方案的統(tǒng)一性與多樣化相結(jié)合,，通過(guò)各國(guó)的參與和共享,，共同建立起人工智能全球治理的交流平臺(tái)與合作網(wǎng)絡(luò)，幫助更多國(guó)家找到真正適合于本國(guó)國(guó)情的治理方案,，進(jìn)而實(shí)現(xiàn)人工智能全球治理的包容性,。　　　　聯(lián)合國(guó)副秘書(shū)長(zhǎng),、聯(lián)合國(guó)大學(xué)校長(zhǎng)西里達(dá)茲·馬爾瓦拉：　　　　技術(shù)是中性的,，人類(lèi)對(duì)技術(shù)的使用方式賦予其道德意義，因而倫理和政策框架至關(guān)重要,。要建立并履行清晰一致的規(guī)范和倫理指南；要堅(jiān)持多樣性,，通過(guò)吸納不同群體的參與和觀點(diǎn)增進(jìn)包容性,；要開(kāi)發(fā)教育工具，通過(guò)風(fēng)險(xiǎn)認(rèn)識(shí)和再就業(yè)培訓(xùn)等措施,，減輕其負(fù)面效應(yīng),，并在多個(gè)層面采取行動(dòng)?！　　　,。ㄖ袊?guó)經(jīng)濟(jì)時(shí)報(bào)記者劉慧據(jù)公開(kāi)資料整理）本公眾號(hào)版權(quán)歸中國(guó)經(jīng)濟(jì)時(shí)報(bào)所有。如轉(zhuǎn)載或引用本文內(nèi)容須經(jīng)許可,，并注明轉(zhuǎn)自中國(guó)經(jīng)濟(jì)時(shí)報(bào),。