OpenAI事件啟示編者按2023年11月,，人工智能公司OpenAI高層人事“巨震”,，震動了全球科技圈。良好的治理結(jié)構(gòu)和治理機制設(shè)計,，是AI企業(yè)良性運作,、持續(xù)發(fā)展的基石。OpenAI董事會沖突的根源是什么,？科技公司如何在公共利益與商業(yè)成功之間實現(xiàn)平衡,？Anthropic又為何設(shè)置長期利益信托？本期熱點透視深度剖析這些話題,。圖片來源/攝圖網(wǎng)授權(quán)■中國經(jīng)濟時報記者 劉慧追蹤科技股的納斯達(dá)克100指數(shù),，2023年迄今為止上漲約47.5%。受關(guān)注的全球人工智能企業(yè)除了谷歌、OpenAI,、蘋果,，還有微軟、亞馬遜,、IBM,、臉譜、特斯拉,、NVIDIA,、DeepMind等，中國的人工智能公司包括百度,、騰訊,、阿里巴巴、京東等,?！　　　?chuàng)投市場金融數(shù)據(jù)分析公司PitchBook的數(shù)據(jù)顯示，2023年AI相關(guān)初創(chuàng)公司的投資金額達(dá)到約687億美元,。但在經(jīng)歷了OpenAI人事“巨震”后,，業(yè)界也在思考，科技公司如何在公共利益與商業(yè)成功之間實現(xiàn)平衡,？如何完善科技公司的公司治理,？　　　　確保AI朝著善意的方向前進(jìn)　　法國達(dá)索系統(tǒng)高科技行業(yè)全球副總裁StéphaneSIREAU在接受中國經(jīng)濟時報記者采訪時表示，過去十多年,，技術(shù)在不斷加速發(fā)展,，特別是AI技術(shù)加速了世界的改變，但我們要非常小心地應(yīng)對,，要讓AI技術(shù)更可靠,、更安全地應(yīng)用到工業(yè)平臺等，讓AI技術(shù)給企業(yè)帶來價值,?！　　　∧祥_大學(xué)講席教授、中國公司治理研究院院長,、中國上市公司協(xié)會專家顧問委員會副主任委員李維安告訴中國經(jīng)濟時報記者,，AI技術(shù)是一把雙刃劍，在改變生產(chǎn)方式的同時,，也帶來風(fēng)險挑戰(zhàn),。尤其是，ChatGPT的出現(xiàn),，標(biāo)志著人工智能技術(shù)新的里程碑,，為人類提供了智能化和個性化的服務(wù)方案，但也引發(fā)人們對人工智能技術(shù)潛在風(fēng)險和倫理問題的擔(dān)憂,。決策者的出發(fā)點是實現(xiàn)安全和造福全人類的美好愿景還是商業(yè)化目標(biāo),，決定了人工智能是“向善”還是“向利”發(fā)展，這一道德選擇將深刻地塑造AI演進(jìn),，不僅影響著技術(shù)的用途,，還直接關(guān)系到人類文明的命運,。“我們必須認(rèn)真引導(dǎo)AI的發(fā)展,，考慮數(shù)據(jù)隱私,、公平性、安全性等多個因素,，以確保朝著善意的方向前進(jìn),。”　　　　目前,，推進(jìn)AI治理和AI企業(yè)治理已成為全球化趨勢,。2023年11月1日，首屆全球人工智能安全峰會在英國布萊切利莊園開幕,，由包括中國在內(nèi)的與會國共同達(dá)成的首個全球性人工智能聲明《布萊切利宣言》正式發(fā)表,，同意通過國際合作，建立人工智能監(jiān)管方法,?！　　　?023年10月30日，美國白宮發(fā)布拜登簽署的最新行政命令——《關(guān)于安全,、可靠和可信的AI行政命令》,，以確保美國在把握AI的前景和管理其風(fēng)險方面處于領(lǐng)先地位。該行政令包含建立AI安全新標(biāo)準(zhǔn),、保護(hù)美國民眾的隱私,、促進(jìn)公平和公民權(quán)利等8個方面的目標(biāo)?！　　　±罹S安認(rèn)為,，應(yīng)加快推動建立AI企業(yè)內(nèi)外部治理體系?！　　　∈紫?，推動AI企業(yè)董事會建設(shè)，與企業(yè)AI相關(guān)的事項要進(jìn)入董事會決策,，成為企業(yè)的一個決策方向,。在董事會設(shè)立專門的倫理委員會，并在公司章程中對AI倫理委員會的構(gòu)成及其運作進(jìn)行明確,，判斷和把握技術(shù)應(yīng)用的方向,。設(shè)置首席人工智能官或首席倫理官，以牽頭制定專門的人工智能發(fā)展戰(zhàn)略,?！　　　∑浯危?nèi)部數(shù)據(jù)合規(guī)審查機制和內(nèi)控機制,，確保在研發(fā)和數(shù)據(jù)使用中安全合規(guī),。設(shè)置合規(guī)部門,，建立對數(shù)據(jù)安全問題的風(fēng)險評估和防范機制?！　　　≡俅?，實施全面的人才培訓(xùn)計劃,，使管理人才和研發(fā)人員了解人工智能技術(shù)的倫理和社會責(zé)任,，增強他們對公司價值觀的理解，培育出一個能夠在技術(shù)和倫理之間取得平衡的企業(yè)文化,?！　　　∽詈螅嫔壷卫眢w系,，強化綠色治理和應(yīng)急治理,。AI企業(yè)治理應(yīng)突破單純追求經(jīng)濟效益最大化的傳統(tǒng)企業(yè)治理邊界，而應(yīng)更多地承擔(dān)企業(yè)作為社會資源配置平臺的社會責(zé)任,，樹立推動社會可持續(xù)發(fā)展的社會化目標(biāo),。　　　　Anthropic為何設(shè)計“長期利益信托”治理結(jié)構(gòu)　　從OpenAI離開的員工2021年創(chuàng)立了另一家AI獨角獸Anthropic,，同樣在公司章程中承諾“優(yōu)先考慮幫助人類,，同時實現(xiàn)利潤最大化”。但Anthropic對外稱,，公共利益與商業(yè)成功或股東回報并不矛盾,，兩者往往有很強的協(xié)同作用。為此,，Anthropic設(shè)計了一個名為“長期利益信托”的治理結(jié)構(gòu)：公司由董事會監(jiān)督,。董事會選擇并監(jiān)督領(lǐng)導(dǎo)團(tuán)隊（特別是CEO），而領(lǐng)導(dǎo)團(tuán)隊負(fù)責(zé)雇用和管理員工,。股東擁有選舉,、罷免和起訴董事的權(quán)利，而董事會成員并不具有,。為了讓董事的激勵措施與股東利益結(jié)合,，董事的薪酬通常由股票形式支付。為了監(jiān)督董事會的決策是否符合全人類利益,，Anthropic外設(shè)一個信托機構(gòu)對董事進(jìn)行監(jiān)督,。信托機構(gòu)由5名沒有經(jīng)濟利害關(guān)系的獨立受托人組成，有權(quán)決定董事會的多數(shù)席位,?！　　　±罹S安表示，作為人工智能領(lǐng)域的創(chuàng)業(yè)公司,，在初始創(chuàng)立的時候,，公司結(jié)構(gòu)比較精簡,，但是隨著公司的不斷發(fā)展壯大，治理結(jié)構(gòu)和機制的弊端就會暴露出來,，因此必須要完善公司治理體系,。Anthropic同樣將人工智能安全作為目標(biāo)，但與OpenAI不同的是,，Anthropic將公共利益與商業(yè)化的目標(biāo)并列而不是對立,，期望在組織內(nèi)實現(xiàn)協(xié)同發(fā)展，而不是通過單獨成立一個子公司實現(xiàn)差異化的治理目標(biāo),?；诖耍珹nthropic設(shè)計了一系列制衡機制,?！　　　±罹S安表示，在董事會的治理機制上,，Anthropic的公司章程規(guī)定,，公司由董事會監(jiān)督，董事會選擇并監(jiān)督管理層（尤其是CEO）,，而CEO則負(fù)責(zé)雇用和管理員工,。但董事會不是擁有至高無上的權(quán)力，為了能夠使董事會與股東的利益相一致,，Anthropic規(guī)定,，董事由股東選舉產(chǎn)生，并可由股東罷免,。董事通常以公司股票的形式獲得報酬,，保障董事和股東的利益相一致。最重要的是,，選舉,、罷免和起訴董事的權(quán)利完全屬于股東，這樣股東會對董事會起到了監(jiān)督和制衡的作用,?！　　　　皬墓局卫頇C制來看，董事會代表股東的利益,，但是否會對公眾等利益相關(guān)者負(fù)責(zé),，成為大家比較關(guān)心的問題?！崩罹S安表示,。　　　　在他看來，Anthropic通過設(shè)立信托機構(gòu)讓董事會平衡公共利益與股東價值最大化的目標(biāo),。長期利益信托機構(gòu)由五名在人工智能安全,、國家安全、公共政策和社會企業(yè)方面具有背景和專長的受托人組成,。最初的受托人由董事會選出,，未來的受托人將由受托人投票選舉產(chǎn)生。以此保障這個機構(gòu)能有足夠的獨立性,，以平衡公眾等利益相關(guān)者利益,。　　　　此外,，Anthropic在C輪融資結(jié)束時,，創(chuàng)建了一個新的由信托機構(gòu)獨家持有的股票類別（T類）。T類股票授予信托公司選舉和罷免一些Anthropic董事會成員的權(quán)力,。同時，Anthropic還設(shè)立了一個新的董事席位,，將由C輪融資和隨后的投資者選舉產(chǎn)生,，以確保董事會中能夠有投資者的聲音，這一點和OpenAI的設(shè)計完全不同,。Anthropic還對這樣的治理機制設(shè)計了一個改進(jìn)流程,，在實踐中逐漸完善?！　　　±罹S安表示,，可以看出，Anthropic通過信托機構(gòu)和股東會對董事會的決策行為進(jìn)行監(jiān)督和制衡,。這樣的機制設(shè)計試圖保障董事會在追求股東利益的同時,，兼顧安全和公眾利益。在這樣的治理結(jié)構(gòu)下,，治理主體的議事規(guī)則,、決策流程等機制的完善就顯得格外重要，是能否發(fā)揮治理有效性的保障,。同時,，治理主體的增加，信息溝通鏈條的延長,，所帶來的信息不對稱問題也會成為治理隱患,，需要加強信息溝通機制和渠道建設(shè)，確保信托機構(gòu),、股東等及時了解公司內(nèi)部實際情況,，減少代理問題的發(fā)生。觀點牛津大學(xué)商學(xué)院副教授胡可嘉：　　　　無論是咨詢、醫(yī)療還是制造業(yè),，AI技術(shù)在解決具體問題,、提升效率和創(chuàng)新服務(wù)上都顯示出巨大潛力。AI時代的商業(yè)轉(zhuǎn)變需要兩個重要的驅(qū)動力：一是對AI應(yīng)用實際價值的深刻理解和實踐,；二是企業(yè)領(lǐng)導(dǎo)層對于這些變革的直接參與和支持,。只有這樣，才能充分釋放AI技術(shù)在各行各業(yè)中的潛力,，推動商業(yè)和社會進(jìn)入一個更加智能,、高效的未來?！　　　∠愀劭萍即髮W(xué)校董會主席沈向洋：　　　　近年來,，企業(yè)界和學(xué)術(shù)界都在不斷突破界限，力求讓人工智能在不同領(lǐng)域中達(dá)到接近人類的能力,，這些進(jìn)步完全超乎了我們十年前的想象,。然而，我們在推進(jìn)前沿科技的同時,，必須考慮到人工智能的復(fù)雜性,、可能對社會產(chǎn)生的影響以及制定規(guī)制原則和框架的重要性?！　　　∏迦A大學(xué)人工智能國際治理研究院院長薛瀾：　　　　人工智能全球治理體系應(yīng)當(dāng)致力于推動人工智能治理方案的統(tǒng)一性與多樣化相結(jié)合,，通過各國的參與和共享，共同建立起人工智能全球治理的交流平臺與合作網(wǎng)絡(luò),，幫助更多國家找到真正適合于本國國情的治理方案,，進(jìn)而實現(xiàn)人工智能全球治理的包容性?！　　　÷?lián)合國副秘書長,、聯(lián)合國大學(xué)校長西里達(dá)茲·馬爾瓦拉：　　　　技術(shù)是中性的，人類對技術(shù)的使用方式賦予其道德意義,，因而倫理和政策框架至關(guān)重要,。要建立并履行清晰一致的規(guī)范和倫理指南；要堅持多樣性,，通過吸納不同群體的參與和觀點增進(jìn)包容性,；要開發(fā)教育工具，通過風(fēng)險認(rèn)識和再就業(yè)培訓(xùn)等措施,，減輕其負(fù)面效應(yīng),，并在多個層面采取行動?！　　　,。ㄖ袊?jīng)濟時報記者劉慧據(jù)公開資料整理）本公眾號版權(quán)歸中國經(jīng)濟時報所有。如轉(zhuǎn)載或引用本文內(nèi)容須經(jīng)許可，并注明轉(zhuǎn)自中國經(jīng)濟時報,。