數(shù)智講堂 阮詩瑋

目前,，ChatGPT類的大語言模型人工智能技術(shù)及產(chǎn)品（以下簡稱“ChatGPT類技術(shù)”）風(fēng)生水起,，帶來已知倫理風(fēng)險主要有以下幾個方面,。

一是AI抄襲風(fēng)險。ChatGPT類技術(shù)以海量信息為食,，再按照需求,，模仿人類思維模式，加工,、整理,、輸出相關(guān)信息?？蓪⑦@一過程理解為高水平的“洗稿”過程,，且其規(guī)避“查重”的能力也會越來越強。未來任何需要輸出文字信息的領(lǐng)域,，如科研,、新聞、行政,、廣告等都可能遭遇到無處不在的ChatGPT抄襲風(fēng)險,，造成更多學(xué)術(shù)不端,、創(chuàng)意剽竊,、知識產(chǎn)權(quán)侵犯等情況。

二是信息泄露風(fēng)險,。ChatGPT類技術(shù)“吃”信息并不挑食,，包括個人隱私信息、政府敏感信息,、公司商業(yè)機密等,。這會帶來其智能化水平越來越高。未來將不得不在提升AI能力和保護數(shù)據(jù)安全之間作出平衡,、取舍,。

三是未成年人保護風(fēng)險。ChatGPT類技術(shù)可作為能力高度進化的搜索引擎,，具備超強的信息檢索與整合能力,。這讓未成年人又多了一個通過網(wǎng)絡(luò)獲取不良信息的超級利器。要提醒的是,，對于學(xué)習(xí)能力很強的青少年而言,，欺騙ChatGPT從而獲取不良信息不會是太困難的事情。

四是價值觀滲透風(fēng)險,。和之前所有的網(wǎng)絡(luò)技術(shù),、產(chǎn)品一樣，ChatGPT類技術(shù)本身并沒有價值觀取向,，但開發(fā),、訓(xùn)練,、維護它的個人和組織，很容易植入某種想傳達的價值觀,，通過“夾帶私貨”達成“不可告人的目的”,。

五是勞動者失業(yè)風(fēng)險。ChatGPT類技術(shù)作為人類研發(fā)的技術(shù),，核心功能肯定是要服務(wù)人類,，給社會帶來便利。但是和所有的技術(shù)進步一樣,，ChatGPT的大規(guī)模應(yīng)用勢必會使現(xiàn)有的一部分人類工作崗位被機器（AI）替代,。和工業(yè)化時代以來機器主要替代體力勞動者不同，Chat GPT將會替代掉相當(dāng)一部分腦力工作者,，即我們俗稱的“白領(lǐng)”,。

六是惡意改造風(fēng)險。ChatGPT類技術(shù)投放市場后,，每個人都是它的“訓(xùn)練師”,。這意味著如果有意向ChatGPT這個“不諳世事”的“小朋友”投喂不良信息，它就很有可能被培養(yǎng)成“不良青年”,。

針對以上倫理風(fēng)險,，筆者從以下六點加以思考和建議。

一是關(guān)于應(yīng)對AI抄襲風(fēng)險,。建議在開發(fā)ChatGPT類工具時,，同步開發(fā)反抄襲工具，以保護原創(chuàng)者權(quán)益,，方便其被抄襲時進行維權(quán),。此外，還要形成各類嚴肅文獻借助Chat? GPT類技術(shù)生成內(nèi)容時主動進行標注的規(guī)范性要求,。

二是關(guān)于應(yīng)對信息泄露,。根本上還是要加強信息安全管理，比如給互聯(lián)網(wǎng)上的各類信息,、數(shù)據(jù)加上AI容易識別的標簽,，讓ChatGPT類技術(shù)及其產(chǎn)品清楚地知道到自己“吃”進去的信息哪些是不能公開的隱私、機密,、爭議信息,，以便生成內(nèi)容時盡可能規(guī)避。

三是關(guān)于保護未成年人,。必須像現(xiàn)在的視頻類APP一樣,，要求ChatGPT開發(fā)針對未成年人的綠色版。這個綠色版可以直接開放給所有網(wǎng)民使用,。對于更強大,、開放的全功能版,，可以像管理網(wǎng)游一樣，要求使用者提供自己已成年的相關(guān)證明,。

四是關(guān)于應(yīng)對價值觀滲透風(fēng)險,。這方面最重要的還是要加強我國自有的ChatGPT類產(chǎn)品研發(fā)，最大限度地減少此類產(chǎn)品的“進口”依賴,。只有自主產(chǎn)品占了絕對上風(fēng),，所倡導(dǎo)的價值觀才能在此類產(chǎn)品輸出的內(nèi)容中體現(xiàn)出壓倒性的優(yōu)勢?？蓪μ峁┊a(chǎn)品和服務(wù)的企業(yè)從“根子”上進行依法管理,，讓企業(yè)主體主動規(guī)避滲透風(fēng)險。

五是關(guān)于應(yīng)對勞動者失業(yè)風(fēng)險,。ChatGPT類技術(shù)的出現(xiàn),、發(fā)展、應(yīng)用將進一步解放人類,，使人類從更多繁重,、重復(fù)的智力勞動中解脫出來，對人類社會利大于弊,。我們要盡快調(diào)整,、適應(yīng)。ChatGPT類技術(shù)廣泛使用后的時代,，在培養(yǎng)人才時就須考慮是否會被ChatGPT替代等因素,，就像培養(yǎng)技工時要考慮智能制造技術(shù)帶來的影響一樣,。

六是關(guān)于應(yīng)對惡意改造風(fēng)險,。全面完善與AI相關(guān)的技術(shù)倫理標準，強制要求AI類產(chǎn)品必須具備符合公序良俗的基本是非判斷,。同時引導(dǎo)開發(fā)者加強ChatGPT類技術(shù)對惡意信息的識別能力,，使其對惡意信息產(chǎn)生“排異”反應(yīng)，主動拒絕“食用”,，不將其作為自己成長進化的“原料”,。

ChatGPT類技術(shù)目前還處于爆發(fā)前夜，仍在快速迭代之中,，未來有著無限可能,。對于AI類技術(shù)以及機器人相關(guān)技術(shù)，必須不遺余力確保技術(shù)應(yīng)用符合人類共通的倫理標準,，服務(wù)個人發(fā)展,、服從國家規(guī)范、造福全人類,，這點不能偏離,。

（作者系福建省政協(xié)副主席,，民盟中央常委、福建省委會主委）