本報(bào)記者 劉慧追蹤科技股的納斯達(dá)克100指數(shù)，2023年迄今為止上漲約47.5%,。受關(guān)注的全球人工智能企業(yè)除了谷歌、Ope? nAI,、蘋果,，還有微軟、亞馬遜,、IBM,、臉譜、特斯拉,、NVIDIA,、DeepMind等，中國的人工智能公司包括百度、騰訊,、阿里巴巴,、京東等。創(chuàng)投市場金融數(shù)據(jù)分析公司PitchBook的數(shù)據(jù)顯示,，2023年AI相關(guān)初創(chuàng)公司的投資金額達(dá)到約687億美元,。但在經(jīng)歷了OpenAI人事“巨震”后，業(yè)界也在思考,，科技公司如何在公共利益與商業(yè)成功之間實(shí)現(xiàn)平衡,？如何完善科技公司的公司治理？確保AI朝著善意的方向前進(jìn)法國達(dá)索系統(tǒng)高科技行業(yè)全球副總裁Stéphane SIREAU在接受中國經(jīng)濟(jì)時(shí)報(bào)記者采訪時(shí)表示,，過去十多年,，技術(shù)在不斷加速發(fā)展,，特別是AI技術(shù)加速了世界的改變，但我們要非常小心地應(yīng)對,，要讓AI技術(shù)更可靠,、更安全地應(yīng)用到工業(yè)平臺等，讓AI技術(shù)給企業(yè)帶來價(jià)值,。南開大學(xué)講席教授、中國公司治理研究院院長,、中國上市公司協(xié)會專家顧問委員會副主任委員李維安告訴中國經(jīng)濟(jì)時(shí)報(bào)記者,，AI技術(shù)是一把雙刃劍，在改變生產(chǎn)方式的同時(shí),，也帶來風(fēng)險(xiǎn)挑戰(zhàn),。尤其是，ChatGPT的出現(xiàn),，標(biāo)志著人工智能技術(shù)新的里程碑,，為人類提供了智能化和個(gè)性化的服務(wù)方案，但也引發(fā)人們對人工智能技術(shù)潛在風(fēng)險(xiǎn)和倫理問題的擔(dān)憂,。決策者的出發(fā)點(diǎn)是實(shí)現(xiàn)安全和造福全人類的美好愿景還是商業(yè)化目標(biāo),，決定了人工智能是“向善”還是“向利”發(fā)展，這一道德選擇將深刻地塑造AI演進(jìn),，不僅影響著技術(shù)的用途,，還直接關(guān)系到人類文明的命運(yùn)?！拔覀儽仨氄J(rèn)真引導(dǎo)AI的發(fā)展,，考慮數(shù)據(jù)隱私、公平性,、安全性等多個(gè)因素,，以確保朝著善意的方向前進(jìn)?！蹦壳?，推進(jìn)AI治理和AI企業(yè)治理已成為全球化趨勢。2023年11月1日,，首屆全球人工智能安全峰會在英國布萊切利莊園開幕,，由包括中國在內(nèi)的與會國共同達(dá)成的首個(gè)全球性人工智能聲明《布萊切利宣言》正式發(fā)表，同意通過國際合作,，建立人工智能監(jiān)管方法,。2023年10月30日，美國白宮發(fā)布拜登簽署的最新行政命令——《關(guān)于安全,、可靠和可信的AI行政命令》,，以確保美國在把握AI的前景和管理其風(fēng)險(xiǎn)方面處于領(lǐng)先地位,。該行政令包含建立AI安全新標(biāo)準(zhǔn)、保護(hù)美國民眾的隱私,、促進(jìn)公平和公民權(quán)利等8個(gè)方面的目標(biāo),。李維安認(rèn)為，應(yīng)加快推動建立AI企業(yè)內(nèi)外部治理體系,。首先,，推動AI企業(yè)董事會建設(shè)，與企業(yè)AI相關(guān)的事項(xiàng)要進(jìn)入董事會決策,，成為企業(yè)的一個(gè)決策方向,。在董事會設(shè)立專門的倫理委員會，并在公司章程中對AI倫理委員會的構(gòu)成及其運(yùn)作進(jìn)行明確,，判斷和把握技術(shù)應(yīng)用的方向,。設(shè)置首席人工智能官或首席倫理官，以牽頭制定專門的人工智能發(fā)展戰(zhàn)略,。其次,，建立內(nèi)部數(shù)據(jù)合規(guī)審查機(jī)制和內(nèi)控機(jī)制，確保在研發(fā)和數(shù)據(jù)使用中安全合規(guī),。設(shè)置合規(guī)部門,，建立對數(shù)據(jù)安全問題的風(fēng)險(xiǎn)評估和防范機(jī)制。再次,，實(shí)施全面的人才培訓(xùn)計(jì)劃,，使管理人才和研發(fā)人員了解人工智能技術(shù)的倫理和社會責(zé)任，增強(qiáng)他們對公司價(jià)值觀的理解,，培育出一個(gè)能夠在技術(shù)和倫理之間取得平衡的企業(yè)文化,。最后，全面升級治理體系,，強(qiáng)化綠色治理和應(yīng)急治理,。AI企業(yè)治理應(yīng)突破單純追求經(jīng)濟(jì)效益最大化的傳統(tǒng)企業(yè)治理邊界，而應(yīng)更多地承擔(dān)企業(yè)作為社會資源配置平臺的社會責(zé)任,，樹立推動社會可持續(xù)發(fā)展的社會化目標(biāo),。Ant hr opic為何設(shè)計(jì)“長期利益信托”治理結(jié)構(gòu)從OpenAI離開的員工2021年創(chuàng)立了另一家AI獨(dú)角獸Anthr opic，同樣在公司章程中承諾“優(yōu)先考慮幫助人類,，同時(shí)實(shí)現(xiàn)利潤最大化”,。但Ant hr opic對外稱，公共利益與商業(yè)成功或股東回報(bào)并不矛盾,，兩者往往有很強(qiáng)的協(xié)同作用,。為此，Anthr opic設(shè)計(jì)了一個(gè)名為“長期利益信托”的治理結(jié)構(gòu)：公司由董事會監(jiān)督。董事會選擇并監(jiān)督領(lǐng)導(dǎo)團(tuán)隊(duì)（特別是CEO）,，而領(lǐng)導(dǎo)團(tuán)隊(duì)負(fù)責(zé)雇用和管理員工,。股東擁有選舉、罷免和起訴董事的權(quán)利,，而董事會成員并不具有,。為了讓董事的激勵措施與股東利益結(jié)合，董事的薪酬通常由股票形式支付,。為了監(jiān)督董事會的決策是否符合全人類利益,，Anthr opic外設(shè)一個(gè)信托機(jī)構(gòu)對董事進(jìn)行監(jiān)督。信托機(jī)構(gòu)由5名沒有經(jīng)濟(jì)利害關(guān)系的獨(dú)立受托人組成,，有權(quán)決定董事會的多數(shù)席位,。李維安表示，作為人工智能領(lǐng)域的創(chuàng)業(yè)公司,，在初始創(chuàng)立的時(shí)候，公司結(jié)構(gòu)比較精簡,，但是隨著公司的不斷發(fā)展壯大,，治理結(jié)構(gòu)和機(jī)制的弊端就會暴露出來，因此必須要完善公司治理體系,。Anthr opic同樣將人工智能安全作為目標(biāo),，但與OpenAI不同的是，Anthr opic將公共利益與商業(yè)化的目標(biāo)并列而不是對立,，期望在組織內(nèi)實(shí)現(xiàn)協(xié)同發(fā)展,，而不是通過單獨(dú)成立一個(gè)子公司實(shí)現(xiàn)差異化的治理目標(biāo)?；诖?，Anthr opic設(shè)計(jì)了一系列制衡機(jī)制。李維安表示,，在董事會的治理機(jī)制上,，Anthr opic的公司章程規(guī)定，公司由董事會監(jiān)督,，董事會選擇并監(jiān)督管理層（尤其是CEO）,，而CEO則負(fù)責(zé)雇用和管理員工。但董事會不是擁有至高無上的權(quán)力,，為了能夠使董事會與股東的利益相一致,，Anthr opic規(guī)定，董事由股東選舉產(chǎn)生,，并可由股東罷免,。董事通常以公司股票的形式獲得報(bào)酬，保障董事和股東的利益相一致。最重要的是,，選舉,、罷免和起訴董事的權(quán)利完全屬于股東，這樣股東會對董事會起到了監(jiān)督和制衡的作用,?！皬墓局卫頇C(jī)制來看，董事會代表股東的利益,，但是否會對公眾等利益相關(guān)者負(fù)責(zé),，成為大家比較關(guān)心的問題?！崩罹S安表示,。在他看來，Anthr opic通過設(shè)立信托機(jī)構(gòu)讓董事會平衡公共利益與股東價(jià)值最大化的目標(biāo),。長期利益信托機(jī)構(gòu)由五名在人工智能安全,、國家安全、公共政策和社會企業(yè)方面具有背景和專長的受托人組成,。最初的受托人由董事會選出,，未來的受托人將由受托人投票選舉產(chǎn)生。以此保障這個(gè)機(jī)構(gòu)能有足夠的獨(dú)立性,，以平衡公眾等利益相關(guān)者利益,。此外，Anthr opic在C輪融資結(jié)束時(shí),，創(chuàng)建了一個(gè)新的由信托機(jī)構(gòu)獨(dú)家持有的股票類別（T類）,。T類股票授予信托公司選舉和罷免一些Anthr opic董事會成員的權(quán)力。同時(shí),，Anthr opic還設(shè)立了一個(gè)新的董事席位,，將由C輪融資和隨后的投資者選舉產(chǎn)生，以確保董事會中能夠有投資者的聲音,，這一點(diǎn)和OpenAI的設(shè)計(jì)完全不同,。Anthr opic還對這樣的治理機(jī)制設(shè)計(jì)了一個(gè)改進(jìn)流程，在實(shí)踐中逐漸完善,。李維安表示,，可以看出，Anthr opic通過信托機(jī)構(gòu)和股東會對董事會的決策行為進(jìn)行監(jiān)督和制衡,。這樣的機(jī)制設(shè)計(jì)試圖保障董事會在追求股東利益的同時(shí),，兼顧安全和公眾利益。在這樣的治理結(jié)構(gòu)下，治理主體的議事規(guī)則、決策流程等機(jī)制的完善就顯得格外重要，是能否發(fā)揮治理有效性的保障,。同時(shí),，治理主體的增加,，信息溝通鏈條的延長，所帶來的信息不對稱問題也會成為治理隱患,，需要加強(qiáng)信息溝通機(jī)制和渠道建設(shè),，確保信托機(jī)構(gòu)、股東等及時(shí)了解公司內(nèi)部實(shí)際情況,，減少代理問題的發(fā)生,。