作者：馬羽男以ChatGPT為代表的生成式人工智能在創(chuàng)造社會(huì)福利的同時(shí),，也帶來(lái)了諸多風(fēng)險(xiǎn)。因此，當(dāng)務(wù)之急是結(jié)合我國(guó)生成式人工智能發(fā)展?fàn)顩r,，厘清其應(yīng)用價(jià)值與潛在風(fēng)險(xiǎn)之間的關(guān)系,，以便在不影響應(yīng)用發(fā)展的前提下有效化解風(fēng)險(xiǎn)。生成式人工智能的運(yùn)行機(jī)理主要分為三個(gè)階段,，也就是機(jī)器學(xué)習(xí)和人工標(biāo)記的準(zhǔn)備階段,、運(yùn)用算法對(duì)數(shù)據(jù)進(jìn)行處理以求出處理后結(jié)果的運(yùn)算階段,、數(shù)據(jù)運(yùn)算產(chǎn)出成品向社會(huì)輸出并產(chǎn)生影響的生成階段。當(dāng)前,，生成式人工智能最突出的風(fēng)險(xiǎn)就是在準(zhǔn)備階段的數(shù)據(jù)合規(guī)風(fēng)險(xiǎn),、運(yùn)算階段的算法偏見(jiàn)風(fēng)險(xiǎn)以及生成階段的知識(shí)產(chǎn)權(quán)風(fēng)險(xiǎn)。準(zhǔn)備階段的數(shù)據(jù)合規(guī)風(fēng)險(xiǎn),。我國(guó)當(dāng)前的數(shù)據(jù)合規(guī)體系是建立在《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》之上的,，要求數(shù)據(jù)處理者在處理過(guò)程中采取必要措施以保障基本的數(shù)據(jù)安全、網(wǎng)絡(luò)安全和個(gè)人信息安全,?；谖覈?guó)的法律框架，生成式人工智能的數(shù)據(jù)合規(guī)風(fēng)險(xiǎn)主要體現(xiàn)在三個(gè)方面：數(shù)據(jù)來(lái)源合規(guī)風(fēng)險(xiǎn),、數(shù)據(jù)使用合規(guī)風(fēng)險(xiǎn),、數(shù)據(jù)的準(zhǔn)確性風(fēng)險(xiǎn)。首先是數(shù)據(jù)來(lái)源合規(guī)風(fēng)險(xiǎn),。以 ChatGPT為代表的生成式人工智能,，初始階段往往要采集大量數(shù)據(jù)以供其訓(xùn)練?；诖?，可能會(huì)面臨如下問(wèn)題：一是收集個(gè)人信息用戶(hù)是否同意；二是收集使用已公開(kāi)的信息是否在“合理范圍”,；三是收集的樣本受到版權(quán)保護(hù),，進(jìn)行訓(xùn)練時(shí)可否被認(rèn)定為“合理使用”。其次是數(shù)據(jù)使用合規(guī)風(fēng)險(xiǎn),。一方面是數(shù)據(jù)泄露風(fēng)險(xiǎn),。用戶(hù)會(huì)將個(gè)人信息、商業(yè)信息甚至商業(yè)機(jī)密等傳輸給ChatGPT,。分析ChatGPT運(yùn)行機(jī)理不難發(fā)現(xiàn),，在迭代訓(xùn)練中，它也會(huì)使用用戶(hù)輸入的信息和交互信息,。因此,，如何保證這些數(shù)據(jù)的安全是一個(gè)很大的難題。另一方面是用戶(hù)行使個(gè)人信息刪除權(quán)比較困難,。雖然 OpenAI的隱私協(xié)議中規(guī)定了用戶(hù)對(duì)其個(gè)人信息享有相關(guān)的權(quán)利,，但是鑒于要求生成式人工智能系統(tǒng)刪除數(shù)據(jù)的復(fù)雜特性，開(kāi)發(fā)者能否實(shí)現(xiàn)對(duì)個(gè)人信息的真實(shí)刪除,，從而達(dá)到符合法規(guī)的要求還存在較大的不確定性,。最后是數(shù)據(jù)的準(zhǔn)確性風(fēng)險(xiǎn),。因?yàn)樵?ChatGPT訓(xùn)練的早期,，被投入到數(shù)據(jù)中的內(nèi)容是由開(kāi)發(fā)人員從網(wǎng)絡(luò)中獲得和選擇的,，因此就有可能出現(xiàn)因?yàn)閿?shù)據(jù)的缺失或錯(cuò)誤等情況而致使所生成內(nèi)容的不準(zhǔn)確。運(yùn)行階段的算法偏見(jiàn)風(fēng)險(xiǎn),。以“人工標(biāo)注”為輔助的“機(jī)器學(xué)習(xí)”,，通過(guò)二者的結(jié)合，提高了生成式人工智能的智能化與精確性,。但是,，這也使得算法偏見(jiàn)的概率急劇增加。這種結(jié)合方法比傳統(tǒng)的機(jī)器學(xué)習(xí)方法更能體現(xiàn)人的主觀(guān)判斷和偏好,，這是由于人們將自己的偏好信息加入到機(jī)器學(xué)習(xí)的模型中,，從而增加了人們的偏見(jiàn)，并且這種偏見(jiàn)很難被追蹤和防范,。在對(duì) ChatGPT的運(yùn)作方式進(jìn)行分析后發(fā)現(xiàn),，算法偏見(jiàn)主要表現(xiàn)為兩方面：其一，由于接收到的數(shù)據(jù)需要人工標(biāo)注,，因此在理解過(guò)程中存在著一定的誤差,。其二，對(duì)數(shù)據(jù)進(jìn)行加工,，當(dāng) ChatGPT對(duì)數(shù)據(jù)進(jìn)行加工得出結(jié)論后,，由于原始結(jié)果與大眾期望不一致，需要對(duì)之進(jìn)行修正,，但這一過(guò)程同樣會(huì)產(chǎn)生一定程度的算法偏見(jiàn),。生成階段的知識(shí)產(chǎn)權(quán)風(fēng)險(xiǎn)。生成式人工智能的興起,，對(duì)眾多產(chǎn)業(yè)提出了新的挑戰(zhàn),，而最具沖擊之處，在于在生成階段對(duì)知識(shí)產(chǎn)權(quán)領(lǐng)域所構(gòu)成的挑戰(zhàn),。因?yàn)樯墒饺斯ぶ悄芫哂懈叨鹊闹悄芑?，所以在運(yùn)算過(guò)程中，與之前的人工智能系統(tǒng)相比,，其知識(shí)產(chǎn)權(quán)的歸屬發(fā)生了顛覆性的變化,。ChatGPT是一種生成式人工智能，它在處理和分析數(shù)據(jù)方面遠(yuǎn)遠(yuǎn)強(qiáng)于分析式人工智能,，其內(nèi)容生成過(guò)程主要包括內(nèi)容自動(dòng)化編纂,、智能化修整加工、多模態(tài)轉(zhuǎn)換,、創(chuàng)意生成等,，直接影響著出版的內(nèi)容生產(chǎn)模式和內(nèi)容供應(yīng)模式。盡管ChatGPT的創(chuàng)造者中包含一些自然人的創(chuàng)作因素,，從某種意義上來(lái)說(shuō),，更符合作品的構(gòu)成要件,，但這種由生成式人工智能所創(chuàng)造的作品能否被賦權(quán)，仍然存在爭(zhēng)論,，并且具體的賦權(quán)認(rèn)定標(biāo)準(zhǔn)研究還處于空白狀態(tài),。因此，知識(shí)產(chǎn)權(quán)風(fēng)險(xiǎn)成為生成式人工智能無(wú)法規(guī)避的第三大風(fēng)險(xiǎn),。針對(duì)上述生成式人工智能三個(gè)方面的風(fēng)險(xiǎn),，建議采取以下三種應(yīng)對(duì)策略來(lái)化解風(fēng)險(xiǎn)。強(qiáng)化生成式人工智能企業(yè)的數(shù)據(jù)合規(guī)建設(shè),。生成式人工智能的發(fā)展不能只重能力和效率而忽視安全,，相關(guān)企業(yè)應(yīng)當(dāng)利用良好的數(shù)據(jù)合規(guī)體系來(lái)保障數(shù)據(jù)安全。企業(yè)數(shù)據(jù)合規(guī)建設(shè)可以通過(guò)三個(gè)措施強(qiáng)化,。其一,，確立數(shù)據(jù)合規(guī)原則。其原則主要有四點(diǎn),，分別是合法合規(guī)原則,、告知同意原則、正當(dāng)目的原則,、最小必要原則,。其二，建立數(shù)據(jù)合規(guī)的多元技術(shù)機(jī)制,。首先是宏觀(guān)層面的行業(yè)標(biāo)準(zhǔn)要統(tǒng)一,。各行業(yè)的主管部門(mén)，應(yīng)該帶頭建立一個(gè)數(shù)據(jù)版本的“新華辭典”,，讓數(shù)據(jù)編碼,、制式等保持一致，確保數(shù)據(jù)的來(lái)源,、內(nèi)容和處理邏輯能夠被“反事實(shí)驗(yàn)證”,。其次是中觀(guān)層面的內(nèi)外審查體系。在內(nèi)部設(shè)立數(shù)據(jù)合規(guī)專(zhuān)門(mén)機(jī)構(gòu),，負(fù)責(zé)企業(yè)日常的數(shù)據(jù)合規(guī)處理,，在外部引入第三方審查機(jī)制，對(duì)企業(yè)數(shù)據(jù)合規(guī)進(jìn)行審計(jì)和倫理審查,。最后是微觀(guān)層面的倫理規(guī)范,。將倫理規(guī)范與原則以法律形式嵌入到技術(shù)應(yīng)用的行為邏輯中去，使之能夠因勢(shì)而為,。其三,，完善數(shù)據(jù)合規(guī)相關(guān)法律。首先是完善立法，在立法層面加快出臺(tái)數(shù)據(jù),、人工智能方面的基本法,，以作為企業(yè)數(shù)據(jù)合規(guī)法律方面的頂層指導(dǎo)。其次是執(zhí)法完善,，盡快明確各部門(mén)的執(zhí)法權(quán)限,，避免“多頭治理”產(chǎn)生“九龍治水”的局面,。最后是完善司法,，完善電子證據(jù)制度，保障權(quán)利人的相關(guān)訴權(quán),。技管結(jié)合矯正生成式人工智能的算法偏見(jiàn),。這主要包含兩個(gè)措施。其一,，針對(duì)生成式人工智能機(jī)器學(xué)習(xí)過(guò)程中所出現(xiàn)的先天性算法偏見(jiàn),，應(yīng)當(dāng)調(diào)整相關(guān)算法模型的學(xué)習(xí)路徑，遵守相關(guān)規(guī)范和技術(shù)標(biāo)準(zhǔn),，在生成式人工智能投入市場(chǎng)前應(yīng)當(dāng)進(jìn)行實(shí)質(zhì)審查,。鑒于生成式人工智能的特征，可將其糾偏工作分為兩個(gè)方面：一方面,，采用算法程序編譯預(yù)防機(jī)器學(xué)習(xí)中可能存在的先天偏見(jiàn),；另一方面，設(shè)置人工標(biāo)注的標(biāo)準(zhǔn),，提高從業(yè)人員的執(zhí)業(yè)水平以應(yīng)對(duì)人工標(biāo)注的算法偏見(jiàn),。其二，針對(duì)生成式人工智能的自我學(xué)習(xí)而得出的后天性算法偏見(jiàn),，應(yīng)當(dāng)通過(guò)建立敏捷化,、自動(dòng)化、全流程的監(jiān)管體系來(lái)消除偏見(jiàn),。首先,，實(shí)現(xiàn)對(duì)算法技術(shù)的自動(dòng)化監(jiān)管。針對(duì)機(jī)器學(xué)習(xí)和人工標(biāo)注實(shí)現(xiàn)自動(dòng)化監(jiān)管,，每當(dāng)出現(xiàn)算法偏見(jiàn)時(shí)暫停輸出結(jié)果,，返回查找問(wèn)題根源。其次,，建立多元主體監(jiān)管模式,。行政主體、平臺(tái),、行業(yè)協(xié)會(huì),、企業(yè)自身多方主體參與監(jiān)管。最后，落實(shí)全流程敏捷的監(jiān)管機(jī)制,。對(duì)生成式人工智能產(chǎn)出結(jié)論的全過(guò)程進(jìn)行監(jiān)管,，切實(shí)降低由于算法偏見(jiàn)導(dǎo)致錯(cuò)誤結(jié)論的概率，有效推進(jìn)可信算法體系的構(gòu)建,。采用有限保護(hù)模式,，以防范生成式人工智能作品在知識(shí)產(chǎn)權(quán)方面的風(fēng)險(xiǎn)。相較于傳統(tǒng)的人工智能技術(shù),，生成式人工智能的創(chuàng)新之處在于其擁有一定程度的自我認(rèn)知,，并且參與了輸出結(jié)果的加工和創(chuàng)造。如果基于其自我認(rèn)知,，而將其所有成果都進(jìn)行保護(hù),，那么未來(lái)可能會(huì)出現(xiàn)生成式人工智能公司手握“創(chuàng)作霸權(quán)”的局面。但從商業(yè)角度而言,，生成式人工智能公司耗費(fèi)大量金錢(qián)和技術(shù)資本打造高度智能的人工智能程序,，如果對(duì)該程序衍生的“作品”完全不予保護(hù)，也有違公平,。因此,，對(duì)于ChatGPT生成物的知識(shí)產(chǎn)權(quán)屬性，現(xiàn)階段應(yīng)該根據(jù)其技術(shù)運(yùn)行模式,、參與程度,、創(chuàng)新程度等進(jìn)行綜合評(píng)判，對(duì)其產(chǎn)品的知識(shí)產(chǎn)權(quán)采用有所區(qū)分的有限保護(hù)模式,。等到未來(lái)生成式人工智能發(fā)展到一定階段,，深入了解其運(yùn)行機(jī)制時(shí)，再確定具體的知識(shí)產(chǎn)權(quán)保護(hù)模式,。以ChatGPT為代表的生成式人工智能方興未艾,，它所帶來(lái)的法律風(fēng)險(xiǎn)，很多都應(yīng)在既有法律框架內(nèi)妥善應(yīng)對(duì),。面對(duì)風(fēng)險(xiǎn)和問(wèn)題,，不能因?yàn)楫a(chǎn)業(yè)有風(fēng)險(xiǎn)和理論有爭(zhēng)議，就限制生成式人工智能發(fā)展,。這需要采取“法律+技術(shù)”的融合治理來(lái)營(yíng)造一個(gè)好的市場(chǎng)環(huán)境,，保障生成式人工智能市場(chǎng)茁壯成長(zhǎng)。（本文系國(guó)家社科基金一般項(xiàng)目“個(gè)人信息的競(jìng)爭(zhēng)法保護(hù)疑難問(wèn)題研究”（23BFX186）階段性成果）（作者單位：西南政法大學(xué)經(jīng)濟(jì)法學(xué)院）來(lái)源：中國(guó)社會(huì)科學(xué)網(wǎng)-中國(guó)社會(huì)科學(xué)報(bào)