5月5日,，北京市科協(xié)專業(yè)智庫“論策論道”沙龍舉行,，專家就中國前沿科技創(chuàng)新治理、人工智能倫理等熱點話題進行交流獻策,。中國新一代人工智能發(fā)展戰(zhàn)略研究院執(zhí)行院長龔克表示，人工智能健康發(fā)展的關鍵在“人工”,?！叭斯ぁ币埂爸悄堋睆姶蟾咝В瑫r有愛至善,。

生成式AI應發(fā)展高效低碳的AI基礎設施

近期,，ChatGPT的火爆引發(fā)了行業(yè)對生成式AI治理的關注。如何把握發(fā)展和治理的關系,？龔克說,，人工智能是具有頭雁效應的先進生產(chǎn)力，在大力發(fā)展人工智能的同時,，必須高度重視風險挑戰(zhàn),，加強前瞻預防與約束引導，確保其安全,、可靠,、可控發(fā)展。

“人工智能是革命性通用技術,，是當代先進生產(chǎn)力的先鋒,，它的發(fā)展不以人的意志為轉(zhuǎn)移。治理是促進其健康發(fā)展,，而非抑制其發(fā)展,。”他認為,，AI治理中需把握四個重要關系：發(fā)展與規(guī)制的關系,，對AI治理包括促進創(chuàng)新與保障安全兩個方面；生產(chǎn)與使用的關系,，治理要以供給側為主,，但不能忽視使用側；政府與社會的關系,，形成有利于AI健康發(fā)展的生產(chǎn)關系和治理體系,；技術與法規(guī)的關系,，AI的雙重屬性決定其治理也有技術與社會雙重屬性。

針對當下生成式AI治理,，他建議加大力度發(fā)展AI相關標準化工作,，包括詞語標準、安全標準,、程序標準,、能效標準。在技術上,，抓緊開展高質(zhì)量標準化數(shù)據(jù)集建設,，追求有效優(yōu)勢，實現(xiàn)高質(zhì)量自監(jiān)督學習,。在追蹤追趕大模型和相關算法的同時,，敢于獨辟蹊徑，注重針對需求的專業(yè)應用,，以“?！鼻缶⑶鬁?。加快算力網(wǎng)建設,，統(tǒng)籌已有算力，推進超算向智能化發(fā)展,。發(fā)展高效低碳的AI基礎設施,，包括算力平臺、數(shù)據(jù)中心等,。

生成式AI治理同樣需要合作,。他建議，在國際上,，維護聯(lián)合國在全球治理中的核心，凸顯我國積極落實UNESCO人工智能倫理建議,，不僅是AI技術與應用大國,，而且是AI治理的先行者、示范者,。在國內(nèi),，形成跨行業(yè)、跨所有制,、跨地域的產(chǎn)品服務提供者,、使用者、維護者,、管理者等多元共治的格局,。

建議加強科技倫理前瞻性研究,，提高風險預見能力

中國科學院戰(zhàn)略咨詢研究院研究員、國家科技倫理委員會委員李真真表示,，現(xiàn)代科學每一個激動人心的突破和革命性進展,，無不引發(fā)倫理爭議或者憂思。現(xiàn)代科學一再面對社會倫理的“拷問”,。同時,，不同層次的倫理往往因為文化、價值觀和利益的差異導致沖突,，比如不同國家在應對氣候變化問題上采取不同的態(tài)度和行動,，又如很難組織使用新的生物技術來制造人工生命，甚至“超級嬰兒”,。

她說,，倫理研究可以創(chuàng)造對話平臺，為防范科學技術被濫用或者誤用提供治理工具和方案,。倫理問題的研究和討論也有利于政策和法律的及時跟進,。“當前倫理已經(jīng)成為國際科技競爭的重要方面,，要成為世界科技強國,，不僅要站在科學技術的制高點，而且要立于倫理道德的制高點,。在國際倫理規(guī)制方面貢獻中國思想和智慧,。”

針對中國科技倫理治理體系建設,，李真真建議,，要加強科技倫理前瞻性研究，彌補目前倫理研究水平不高,、科技領域和人文社科存在鴻溝兩個短板,；提高風險預見能力和水平；加強倫理影響評估,。

她認為,，當科學研究進入“無人區(qū)”，現(xiàn)有倫理規(guī)制是否能保證研究在不觸及紅線的前提下為前沿科學研究護航,，成為亟待解決的問題,。“當科研進入前沿突破階段,，倫理規(guī)制可能存在空白,，同時，現(xiàn)有倫理規(guī)制也可能成為新興科技發(fā)展的限制性因素,，政策僵化成為治理的一大難點,?！?/p>

李真真建議，對于倫理敏感度高的科學研究,，可以通過一套有效的商談機制和透明的審批程序,，讓倫理成為解決沖突和疏通治理困境的渠道。

新京報記者 張璐

編輯 劉夢婕 校對 劉軍