5月5日,，北京市科協(xié)專業(yè)智庫“論策論道”沙龍舉行,，專家就中國前沿科技創(chuàng)新治理、人工智能倫理等熱點(diǎn)話題進(jìn)行交流獻(xiàn)策,。中國新一代人工智能發(fā)展戰(zhàn)略研究院執(zhí)行院長龔克表示，人工智能健康發(fā)展的關(guān)鍵在“人工”,?！叭斯ぁ币埂爸悄堋睆?qiáng)大高效，同時有愛至善,。

生成式AI應(yīng)發(fā)展高效低碳的AI基礎(chǔ)設(shè)施

近期,，ChatGPT的火爆引發(fā)了行業(yè)對生成式AI治理的關(guān)注。如何把握發(fā)展和治理的關(guān)系,？龔克說,，人工智能是具有頭雁效應(yīng)的先進(jìn)生產(chǎn)力，在大力發(fā)展人工智能的同時,，必須高度重視風(fēng)險挑戰(zhàn),，加強(qiáng)前瞻預(yù)防與約束引導(dǎo)，確保其安全,、可靠,、可控發(fā)展。

“人工智能是革命性通用技術(shù),，是當(dāng)代先進(jìn)生產(chǎn)力的先鋒,，它的發(fā)展不以人的意志為轉(zhuǎn)移。治理是促進(jìn)其健康發(fā)展,，而非抑制其發(fā)展,。”他認(rèn)為,，AI治理中需把握四個重要關(guān)系：發(fā)展與規(guī)制的關(guān)系，對AI治理包括促進(jìn)創(chuàng)新與保障安全兩個方面,；生產(chǎn)與使用的關(guān)系,，治理要以供給側(cè)為主，但不能忽視使用側(cè),；政府與社會的關(guān)系,，形成有利于AI健康發(fā)展的生產(chǎn)關(guān)系和治理體系；技術(shù)與法規(guī)的關(guān)系,，AI的雙重屬性決定其治理也有技術(shù)與社會雙重屬性,。

針對當(dāng)下生成式AI治理，他建議加大力度發(fā)展AI相關(guān)標(biāo)準(zhǔn)化工作,，包括詞語標(biāo)準(zhǔn),、安全標(biāo)準(zhǔn),、程序標(biāo)準(zhǔn)、能效標(biāo)準(zhǔn),。在技術(shù)上,，抓緊開展高質(zhì)量標(biāo)準(zhǔn)化數(shù)據(jù)集建設(shè)，追求有效優(yōu)勢,，實(shí)現(xiàn)高質(zhì)量自監(jiān)督學(xué)習(xí),。在追蹤追趕大模型和相關(guān)算法的同時，敢于獨(dú)辟蹊徑,，注重針對需求的專業(yè)應(yīng)用,，以“專”求精,、求準(zhǔn),。加快算力網(wǎng)建設(shè)，統(tǒng)籌已有算力,，推進(jìn)超算向智能化發(fā)展,。發(fā)展高效低碳的AI基礎(chǔ)設(shè)施，包括算力平臺,、數(shù)據(jù)中心等,。

生成式AI治理同樣需要合作。他建議,，在國際上,，維護(hù)聯(lián)合國在全球治理中的核心，凸顯我國積極落實(shí)UNESCO人工智能倫理建議,，不僅是AI技術(shù)與應(yīng)用大國,，而且是AI治理的先行者、示范者,。在國內(nèi),，形成跨行業(yè)、跨所有制,、跨地域的產(chǎn)品服務(wù)提供者,、使用者、維護(hù)者,、管理者等多元共治的格局,。

建議加強(qiáng)科技倫理前瞻性研究，提高風(fēng)險預(yù)見能力

中國科學(xué)院戰(zhàn)略咨詢研究院研究員,、國家科技倫理委員會委員李真真表示,，現(xiàn)代科學(xué)每一個激動人心的突破和革命性進(jìn)展，無不引發(fā)倫理爭議或者憂思?，F(xiàn)代科學(xué)一再面對社會倫理的“拷問”,。同時,，不同層次的倫理往往因?yàn)槲幕r值觀和利益的差異導(dǎo)致沖突,，比如不同國家在應(yīng)對氣候變化問題上采取不同的態(tài)度和行動,，又如很難組織使用新的生物技術(shù)來制造人工生命，甚至“超級嬰兒”,。

她說,，倫理研究可以創(chuàng)造對話平臺，為防范科學(xué)技術(shù)被濫用或者誤用提供治理工具和方案,。倫理問題的研究和討論也有利于政策和法律的及時跟進(jìn),。“當(dāng)前倫理已經(jīng)成為國際科技競爭的重要方面,，要成為世界科技強(qiáng)國,，不僅要站在科學(xué)技術(shù)的制高點(diǎn)，而且要立于倫理道德的制高點(diǎn),。在國際倫理規(guī)制方面貢獻(xiàn)中國思想和智慧,。”

針對中國科技倫理治理體系建設(shè),，李真真建議,，要加強(qiáng)科技倫理前瞻性研究，彌補(bǔ)目前倫理研究水平不高,、科技領(lǐng)域和人文社科存在鴻溝兩個短板,；提高風(fēng)險預(yù)見能力和水平；加強(qiáng)倫理影響評估,。

她認(rèn)為,，當(dāng)科學(xué)研究進(jìn)入“無人區(qū)”，現(xiàn)有倫理規(guī)制是否能保證研究在不觸及紅線的前提下為前沿科學(xué)研究護(hù)航,，成為亟待解決的問題,。“當(dāng)科研進(jìn)入前沿突破階段,，倫理規(guī)制可能存在空白,，同時，現(xiàn)有倫理規(guī)制也可能成為新興科技發(fā)展的限制性因素,，政策僵化成為治理的一大難點(diǎn)?！?/p>

李真真建議,，對于倫理敏感度高的科學(xué)研究，可以通過一套有效的商談機(jī)制和透明的審批程序,，讓倫理成為解決沖突和疏通治理困境的渠道,。

新京報記者 張璐

編輯 劉夢婕 校對 劉軍