作者：馬羽男以ChatGPT為代表的生成式人工智能在創(chuàng)造社會(huì)福利的同時(shí),，也帶來了諸多風(fēng)險(xiǎn),。因此,，當(dāng)務(wù)之急是結(jié)合我國(guó)生成式人工智能發(fā)展?fàn)顩r,，厘清其應(yīng)用價(jià)值與潛在風(fēng)險(xiǎn)之間的關(guān)系,，以便在不影響應(yīng)用發(fā)展的前提下有效化解風(fēng)險(xiǎn)。生成式人工智能的運(yùn)行機(jī)理主要分為三個(gè)階段,，也就是機(jī)器學(xué)習(xí)和人工標(biāo)記的準(zhǔn)備階段,、運(yùn)用算法對(duì)數(shù)據(jù)進(jìn)行處理以求出處理后結(jié)果的運(yùn)算階段、數(shù)據(jù)運(yùn)算產(chǎn)出成品向社會(huì)輸出并產(chǎn)生影響的生成階段,。當(dāng)前,，生成式人工智能最突出的風(fēng)險(xiǎn)就是在準(zhǔn)備階段的數(shù)據(jù)合規(guī)風(fēng)險(xiǎn)、運(yùn)算階段的算法偏見風(fēng)險(xiǎn)以及生成階段的知識(shí)產(chǎn)權(quán)風(fēng)險(xiǎn),。準(zhǔn)備階段的數(shù)據(jù)合規(guī)風(fēng)險(xiǎn),。我國(guó)當(dāng)前的數(shù)據(jù)合規(guī)體系是建立在《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》之上的，要求數(shù)據(jù)處理者在處理過程中采取必要措施以保障基本的數(shù)據(jù)安全,、網(wǎng)絡(luò)安全和個(gè)人信息安全,。基于我國(guó)的法律框架,，生成式人工智能的數(shù)據(jù)合規(guī)風(fēng)險(xiǎn)主要體現(xiàn)在三個(gè)方面：數(shù)據(jù)來源合規(guī)風(fēng)險(xiǎn),、數(shù)據(jù)使用合規(guī)風(fēng)險(xiǎn)、數(shù)據(jù)的準(zhǔn)確性風(fēng)險(xiǎn),。首先是數(shù)據(jù)來源合規(guī)風(fēng)險(xiǎn),。以 ChatGPT為代表的生成式人工智能，初始階段往往要采集大量數(shù)據(jù)以供其訓(xùn)練,?；诖耍赡軙?huì)面臨如下問題：一是收集個(gè)人信息用戶是否同意,；二是收集使用已公開的信息是否在“合理范圍”,；三是收集的樣本受到版權(quán)保護(hù)，進(jìn)行訓(xùn)練時(shí)可否被認(rèn)定為“合理使用”,。其次是數(shù)據(jù)使用合規(guī)風(fēng)險(xiǎn),。一方面是數(shù)據(jù)泄露風(fēng)險(xiǎn),。用戶會(huì)將個(gè)人信息、商業(yè)信息甚至商業(yè)機(jī)密等傳輸給ChatGPT,。分析ChatGPT運(yùn)行機(jī)理不難發(fā)現(xiàn),，在迭代訓(xùn)練中，它也會(huì)使用用戶輸入的信息和交互信息,。因此,，如何保證這些數(shù)據(jù)的安全是一個(gè)很大的難題。另一方面是用戶行使個(gè)人信息刪除權(quán)比較困難,。雖然 OpenAI的隱私協(xié)議中規(guī)定了用戶對(duì)其個(gè)人信息享有相關(guān)的權(quán)利,，但是鑒于要求生成式人工智能系統(tǒng)刪除數(shù)據(jù)的復(fù)雜特性，開發(fā)者能否實(shí)現(xiàn)對(duì)個(gè)人信息的真實(shí)刪除,，從而達(dá)到符合法規(guī)的要求還存在較大的不確定性,。最后是數(shù)據(jù)的準(zhǔn)確性風(fēng)險(xiǎn),。因?yàn)樵?ChatGPT訓(xùn)練的早期,，被投入到數(shù)據(jù)中的內(nèi)容是由開發(fā)人員從網(wǎng)絡(luò)中獲得和選擇的，因此就有可能出現(xiàn)因?yàn)閿?shù)據(jù)的缺失或錯(cuò)誤等情況而致使所生成內(nèi)容的不準(zhǔn)確,。運(yùn)行階段的算法偏見風(fēng)險(xiǎn),。以“人工標(biāo)注”為輔助的“機(jī)器學(xué)習(xí)”，通過二者的結(jié)合,，提高了生成式人工智能的智能化與精確性,。但是，這也使得算法偏見的概率急劇增加,。這種結(jié)合方法比傳統(tǒng)的機(jī)器學(xué)習(xí)方法更能體現(xiàn)人的主觀判斷和偏好,，這是由于人們將自己的偏好信息加入到機(jī)器學(xué)習(xí)的模型中，從而增加了人們的偏見,，并且這種偏見很難被追蹤和防范,。在對(duì) ChatGPT的運(yùn)作方式進(jìn)行分析后發(fā)現(xiàn)，算法偏見主要表現(xiàn)為兩方面：其一,，由于接收到的數(shù)據(jù)需要人工標(biāo)注,，因此在理解過程中存在著一定的誤差。其二,，對(duì)數(shù)據(jù)進(jìn)行加工,，當(dāng) ChatGPT對(duì)數(shù)據(jù)進(jìn)行加工得出結(jié)論后，由于原始結(jié)果與大眾期望不一致,，需要對(duì)之進(jìn)行修正,，但這一過程同樣會(huì)產(chǎn)生一定程度的算法偏見。生成階段的知識(shí)產(chǎn)權(quán)風(fēng)險(xiǎn),。生成式人工智能的興起,，對(duì)眾多產(chǎn)業(yè)提出了新的挑戰(zhàn),，而最具沖擊之處，在于在生成階段對(duì)知識(shí)產(chǎn)權(quán)領(lǐng)域所構(gòu)成的挑戰(zhàn),。因?yàn)樯墒饺斯ぶ悄芫哂懈叨鹊闹悄芑?，所以在運(yùn)算過程中，與之前的人工智能系統(tǒng)相比,，其知識(shí)產(chǎn)權(quán)的歸屬發(fā)生了顛覆性的變化,。ChatGPT是一種生成式人工智能，它在處理和分析數(shù)據(jù)方面遠(yuǎn)遠(yuǎn)強(qiáng)于分析式人工智能,，其內(nèi)容生成過程主要包括內(nèi)容自動(dòng)化編纂,、智能化修整加工、多模態(tài)轉(zhuǎn)換,、創(chuàng)意生成等,，直接影響著出版的內(nèi)容生產(chǎn)模式和內(nèi)容供應(yīng)模式。盡管ChatGPT的創(chuàng)造者中包含一些自然人的創(chuàng)作因素,，從某種意義上來說，更符合作品的構(gòu)成要件,，但這種由生成式人工智能所創(chuàng)造的作品能否被賦權(quán),，仍然存在爭(zhēng)論，并且具體的賦權(quán)認(rèn)定標(biāo)準(zhǔn)研究還處于空白狀態(tài),。因此,，知識(shí)產(chǎn)權(quán)風(fēng)險(xiǎn)成為生成式人工智能無法規(guī)避的第三大風(fēng)險(xiǎn)。針對(duì)上述生成式人工智能三個(gè)方面的風(fēng)險(xiǎn),，建議采取以下三種應(yīng)對(duì)策略來化解風(fēng)險(xiǎn),。強(qiáng)化生成式人工智能企業(yè)的數(shù)據(jù)合規(guī)建設(shè)。生成式人工智能的發(fā)展不能只重能力和效率而忽視安全,，相關(guān)企業(yè)應(yīng)當(dāng)利用良好的數(shù)據(jù)合規(guī)體系來保障數(shù)據(jù)安全,。企業(yè)數(shù)據(jù)合規(guī)建設(shè)可以通過三個(gè)措施強(qiáng)化。其一,，確立數(shù)據(jù)合規(guī)原則,。其原則主要有四點(diǎn)，分別是合法合規(guī)原則,、告知同意原則,、正當(dāng)目的原則、最小必要原則,。其二,，建立數(shù)據(jù)合規(guī)的多元技術(shù)機(jī)制。首先是宏觀層面的行業(yè)標(biāo)準(zhǔn)要統(tǒng)一,。各行業(yè)的主管部門,，應(yīng)該帶頭建立一個(gè)數(shù)據(jù)版本的“新華辭典”,，讓數(shù)據(jù)編碼、制式等保持一致,，確保數(shù)據(jù)的來源,、內(nèi)容和處理邏輯能夠被“反事實(shí)驗(yàn)證”。其次是中觀層面的內(nèi)外審查體系,。在內(nèi)部設(shè)立數(shù)據(jù)合規(guī)專門機(jī)構(gòu),，負(fù)責(zé)企業(yè)日常的數(shù)據(jù)合規(guī)處理，在外部引入第三方審查機(jī)制,，對(duì)企業(yè)數(shù)據(jù)合規(guī)進(jìn)行審計(jì)和倫理審查,。最后是微觀層面的倫理規(guī)范。將倫理規(guī)范與原則以法律形式嵌入到技術(shù)應(yīng)用的行為邏輯中去,，使之能夠因勢(shì)而為,。其三，完善數(shù)據(jù)合規(guī)相關(guān)法律,。首先是完善立法,，在立法層面加快出臺(tái)數(shù)據(jù)、人工智能方面的基本法,，以作為企業(yè)數(shù)據(jù)合規(guī)法律方面的頂層指導(dǎo),。其次是執(zhí)法完善,，盡快明確各部門的執(zhí)法權(quán)限,，避免“多頭治理”產(chǎn)生“九龍治水”的局面。最后是完善司法,，完善電子證據(jù)制度,，保障權(quán)利人的相關(guān)訴權(quán)。技管結(jié)合矯正生成式人工智能的算法偏見,。這主要包含兩個(gè)措施,。其一，針對(duì)生成式人工智能機(jī)器學(xué)習(xí)過程中所出現(xiàn)的先天性算法偏見,，應(yīng)當(dāng)調(diào)整相關(guān)算法模型的學(xué)習(xí)路徑,，遵守相關(guān)規(guī)范和技術(shù)標(biāo)準(zhǔn)，在生成式人工智能投入市場(chǎng)前應(yīng)當(dāng)進(jìn)行實(shí)質(zhì)審查,。鑒于生成式人工智能的特征,，可將其糾偏工作分為兩個(gè)方面：一方面，采用算法程序編譯預(yù)防機(jī)器學(xué)習(xí)中可能存在的先天偏見,；另一方面,，設(shè)置人工標(biāo)注的標(biāo)準(zhǔn)，提高從業(yè)人員的執(zhí)業(yè)水平以應(yīng)對(duì)人工標(biāo)注的算法偏見,。其二,，針對(duì)生成式人工智能的自我學(xué)習(xí)而得出的后天性算法偏見,，應(yīng)當(dāng)通過建立敏捷化、自動(dòng)化,、全流程的監(jiān)管體系來消除偏見,。首先，實(shí)現(xiàn)對(duì)算法技術(shù)的自動(dòng)化監(jiān)管,。針對(duì)機(jī)器學(xué)習(xí)和人工標(biāo)注實(shí)現(xiàn)自動(dòng)化監(jiān)管,，每當(dāng)出現(xiàn)算法偏見時(shí)暫停輸出結(jié)果，返回查找問題根源,。其次,，建立多元主體監(jiān)管模式。行政主體,、平臺(tái),、行業(yè)協(xié)會(huì)、企業(yè)自身多方主體參與監(jiān)管,。最后,，落實(shí)全流程敏捷的監(jiān)管機(jī)制。對(duì)生成式人工智能產(chǎn)出結(jié)論的全過程進(jìn)行監(jiān)管,，切實(shí)降低由于算法偏見導(dǎo)致錯(cuò)誤結(jié)論的概率,，有效推進(jìn)可信算法體系的構(gòu)建。采用有限保護(hù)模式,，以防范生成式人工智能作品在知識(shí)產(chǎn)權(quán)方面的風(fēng)險(xiǎn),。相較于傳統(tǒng)的人工智能技術(shù)，生成式人工智能的創(chuàng)新之處在于其擁有一定程度的自我認(rèn)知,，并且參與了輸出結(jié)果的加工和創(chuàng)造,。如果基于其自我認(rèn)知，而將其所有成果都進(jìn)行保護(hù),，那么未來可能會(huì)出現(xiàn)生成式人工智能公司手握“創(chuàng)作霸權(quán)”的局面,。但從商業(yè)角度而言，生成式人工智能公司耗費(fèi)大量金錢和技術(shù)資本打造高度智能的人工智能程序,，如果對(duì)該程序衍生的“作品”完全不予保護(hù),，也有違公平。因此,，對(duì)于ChatGPT生成物的知識(shí)產(chǎn)權(quán)屬性,，現(xiàn)階段應(yīng)該根據(jù)其技術(shù)運(yùn)行模式、參與程度,、創(chuàng)新程度等進(jìn)行綜合評(píng)判,，對(duì)其產(chǎn)品的知識(shí)產(chǎn)權(quán)采用有所區(qū)分的有限保護(hù)模式。等到未來生成式人工智能發(fā)展到一定階段，深入了解其運(yùn)行機(jī)制時(shí),，再確定具體的知識(shí)產(chǎn)權(quán)保護(hù)模式,。以ChatGPT為代表的生成式人工智能方興未艾，它所帶來的法律風(fēng)險(xiǎn),，很多都應(yīng)在既有法律框架內(nèi)妥善應(yīng)對(duì),。面對(duì)風(fēng)險(xiǎn)和問題，不能因?yàn)楫a(chǎn)業(yè)有風(fēng)險(xiǎn)和理論有爭(zhēng)議,，就限制生成式人工智能發(fā)展,。這需要采取“法律+技術(shù)”的融合治理來營(yíng)造一個(gè)好的市場(chǎng)環(huán)境，保障生成式人工智能市場(chǎng)茁壯成長(zhǎng),。（本文系國(guó)家社科基金一般項(xiàng)目“個(gè)人信息的競(jìng)爭(zhēng)法保護(hù)疑難問題研究”（23BFX186）階段性成果）（作者單位：西南政法大學(xué)經(jīng)濟(jì)法學(xué)院）來源：中國(guó)社會(huì)科學(xué)網(wǎng)-中國(guó)社會(huì)科學(xué)報(bào)