作者：陳莎（山東大學(xué)文化傳播學(xué)院博士研究生）來源：《青年記者》2023年第19期導(dǎo) 讀：生成式AI在輔助新聞生產(chǎn),，推進(jìn)新聞報(bào)道創(chuàng)新的同時(shí),，也存在提供不準(zhǔn)確事實(shí)、算法不透明,、適用邊界存爭議等問題,，為此，媒體應(yīng)從優(yōu)化編輯流程,、披露算法信息,、設(shè)定機(jī)器適用邊界等方面規(guī)范人機(jī)協(xié)作倫理。生成式AI即“Generative AI”,，是一種專注于生成或創(chuàng)建新內(nèi)容的AI技術(shù),，它利用現(xiàn)有的文本、音頻或圖像等數(shù)據(jù)集進(jìn)行機(jī)器學(xué)習(xí),，然后生成全新內(nèi)容。[1]伴隨GPT-4及其衍生模型的出現(xiàn),，生成式AI的生產(chǎn)功能愈發(fā)強(qiáng)大,，除文字編寫外，它還能處理語音,、代碼,、圖像,、視頻、手勢等多種格式文本,。它不僅持續(xù)成為新聞報(bào)道的重要議題,，還正在成為媒體新聞生產(chǎn)鏈條中的重要基礎(chǔ)設(shè)施，這意味著新聞生產(chǎn)將正式進(jìn)入全方位的人機(jī)協(xié)作模式。媒體該如何負(fù)責(zé)任地使用這類技術(shù),，成為亟待探析的問題,。生成式AI在新聞生產(chǎn)中的應(yīng)用類型使用AI輔助新聞生產(chǎn)是媒體數(shù)字化轉(zhuǎn)型的重要路徑。在過去十年,，智能化新聞生產(chǎn)創(chuàng)新經(jīng)歷了三個(gè)階段：自動(dòng)化（automation）,、增強(qiáng)（augmentation）、生成（generation）,。[2]相比前兩個(gè)階段,，生成式AI因在算法系統(tǒng)中加入了代碼預(yù)訓(xùn)練、指令調(diào)整,、基于人類反饋的強(qiáng)化學(xué)習(xí),，使得其應(yīng)用場景更為廣泛。學(xué)者Diakopoulos總結(jié)了記者利用生成式AI輔助新聞的13種場景：內(nèi)容發(fā)現(xiàn),、文件分析,、翻譯、提示引導(dǎo),、社交媒體內(nèi)容創(chuàng)作,、自動(dòng)化寫作（結(jié)構(gòu)化數(shù)據(jù)）、自動(dòng)化寫作（非結(jié)構(gòu)化數(shù)據(jù)）,、新聞線索發(fā)現(xiàn),、摘要生成、評論審核,、內(nèi)容格式轉(zhuǎn)換,、標(biāo)題優(yōu)化以及A/B測試、個(gè)性化分發(fā)等,。[3]不同的媒體接入生成式AI的路徑不同,，使用場景和功能應(yīng)用會(huì)有所差異。目前,，國內(nèi)外媒體應(yīng)用生成式AI的方式主要有以下三種類型,。（一）通用工具型通用工具型即媒體與生成式AI系統(tǒng)的關(guān)系是相互獨(dú)立的，媒體與平臺(tái)其他用戶一樣,，通過登錄生成式AI服務(wù)平臺(tái),，使用其功能輔助新聞采寫。通常,，媒體人只需要注冊平臺(tái)賬號使用產(chǎn)品即可,。這種方式成本低，使用靈活,，是媒體接入生成式AI最常見的方式,。以ChatGPT為例,，記者可以將需要查詢資料的問題輸入聊天對話框，并在對話框中給出提示工程指令,，ChatGPT便能快速地提供其知識數(shù)據(jù)庫的信息。在讀圖,、短視頻時(shí)代,，視覺要素一躍成為與信息同等重要的內(nèi)容，以抖音為代表的社交媒體平臺(tái)在其視頻剪輯應(yīng)用中開發(fā)了自動(dòng)化視頻剪輯功能,，這反映出生成式AI不僅能將復(fù)雜的事件,、深?yuàn)W的數(shù)據(jù)等轉(zhuǎn)化為便于理解的圖表或圖像，還能通過視覺生成能力,，創(chuàng)造傳統(tǒng)新聞無法實(shí)現(xiàn)的效果,，為新聞生產(chǎn)提供更多的創(chuàng)新可能。[4]目前,，新華社音視頻部成立了AIGC應(yīng)用創(chuàng)新工作室,，“AIGC說真相”已發(fā)布5篇?jiǎng)?chuàng)意短視頻，視頻質(zhì)量優(yōu)異,，傳播效果良好,。（二）平臺(tái)接入型平臺(tái)接入型是生成式AI系統(tǒng)平臺(tái)為媒體內(nèi)容生產(chǎn)提供API接口，為媒體提供內(nèi)容分析,、情感分析,、事件抽取、摘要生成,、個(gè)性化推薦,、內(nèi)容審校、可視化生成等多種服務(wù),。這種類型的人機(jī)協(xié)作生產(chǎn),，媒體人主要負(fù)責(zé)提供文本數(shù)據(jù)，機(jī)器則負(fù)責(zé)產(chǎn)出與呈現(xiàn),。在機(jī)器,、媒體、終端用戶三者互動(dòng)中,，媒體扮演了媒體終端用戶與生成式AI互動(dòng)的中介,，即媒體提供并設(shè)定新聞議程原始文本——生成式AI 系統(tǒng)平臺(tái)負(fù)責(zé)技術(shù)實(shí)現(xiàn)——媒體提供終端展示，其本質(zhì)是終端用戶與生成式AI平臺(tái)的互動(dòng),?！都~約時(shí)報(bào)》利用ChatGPT 創(chuàng)建的一個(gè)帶有提示組合的情人節(jié)消息生成器互動(dòng)新聞《A VALENTINE, FROM A.I. TO YOU》，國內(nèi)澎湃新聞移動(dòng)端新聞分享功能自動(dòng)生成的海報(bào)新聞,，均是平臺(tái)接入型的典型代表,。在傳統(tǒng)的互動(dòng)新聞生產(chǎn)中,，媒體需要自身寫代碼、算法來設(shè)計(jì)互動(dòng)新聞的交互議題,，但通過介入生成式AI接口,，媒體只需要發(fā)出互動(dòng)新聞的設(shè)計(jì)指令，生成式AI便能自動(dòng)生成互動(dòng)新聞產(chǎn)品,。在一定程度上,，生成式AI能以相對簡潔的方式輔助新聞工作者進(jìn)行創(chuàng)意表達(dá)。（三）專有系統(tǒng)型專有系統(tǒng)型是媒體構(gòu)建專門服務(wù)于媒體自身的生成式AI系統(tǒng),，這種類型應(yīng)用的搭建需要媒體自身有強(qiáng)大的技術(shù)支持,，如建有數(shù)字媒體庫、開發(fā)賦予媒體自身的專有算法等,。其優(yōu)勢在于,，一方面可以將媒體價(jià)值觀嵌入系統(tǒng)中，生成符合媒體定位的內(nèi)容,；另一方面,，源數(shù)據(jù)庫來自媒體本身，臟數(shù)據(jù)源相對較少,，能降低輸出偏誤風(fēng)險(xiǎn),。它通常投入成本高,，適合特定的大型媒體集團(tuán),，如經(jīng)濟(jì),、體育、政治等領(lǐng)域的商業(yè)媒體,。學(xué)術(shù)機(jī)構(gòu)研發(fā)的支持新聞報(bào)道多角度的AngleKindling,、彭博社發(fā)布的BloombergGPT即這種類型的生成式AI。專有系統(tǒng)型收集了不同新聞議題的多種報(bào)道角度,、方式,，可對所在媒體數(shù)據(jù)進(jìn)行針對性訓(xùn)練,，通過情感分析、命名實(shí)體識別,、新聞分類和問答等生成多角度的行業(yè)報(bào)道,。換言之，這種專有生成式AI能被調(diào)用在新聞生產(chǎn)的策,、采,、編、校,、審、發(fā)等各個(gè)流程,，在輔助新聞生產(chǎn)各環(huán)節(jié)中提供鮮明的個(gè)性化服務(wù),，滿足媒體對特定信息的需求，包括：（1）自然語言的專有解釋,，如在財(cái)經(jīng)類媒體交互系統(tǒng)中,，輸入“蘋果（Apple）”會(huì)更多地指向蘋果公司而不是水果蘋果；（2）專有數(shù)據(jù)庫鏈接,，如鏈接上市公司時(shí)事交易數(shù)據(jù)庫,；（3）特定風(fēng)格新聞設(shè)定，如生產(chǎn)適合媒體定位的自動(dòng)化新聞寫作等,。生成式AI參與新聞生產(chǎn)存在的現(xiàn)實(shí)問題和人一樣,，機(jī)器也不是萬能的，其參與生產(chǎn)的內(nèi)容也會(huì)出錯(cuò),，況且不同的人對人機(jī)互動(dòng)認(rèn)知存在差異,。在實(shí)踐中，生成式AI輔助新聞生產(chǎn)仍存在以下問題,。 （一）提供不準(zhǔn)確事實(shí)風(fēng)險(xiǎn)真實(shí),、準(zhǔn)確是新聞報(bào)道的基本原則，然而任何技術(shù)在對復(fù)雜世界進(jìn)行轉(zhuǎn)譯時(shí),，都無法做到100%準(zhǔn)確,。挪威報(bào)業(yè)集團(tuán)施博史泰德（Schibsted）在實(shí)驗(yàn)生成式AI輔助新聞?wù)l(fā)現(xiàn)，有十分之一的內(nèi)容包含了“幻象”或虛構(gòu)的成分,。[5]同樣,，ChatGPT遇到數(shù)據(jù)庫沒有的數(shù)據(jù)，它不會(huì)直接告知不知道,，只會(huì)編造一個(gè)答案,，提供虛假事實(shí)。究其原因,，這主要是由技術(shù)的局限性造成的,。當(dāng)前,，生成式AI在邏輯推理、可靠性,、穩(wěn)健性,、準(zhǔn)確性、安全性上還存在一定的局限,。[6]首先,，生成式AI本質(zhì)上是通過機(jī)器學(xué)習(xí)來理解自然語言，其理解方式和決策判斷的給定是由統(tǒng)計(jì)概率給出的,，換言之,，它更擅長做統(tǒng)計(jì)性類別的決策而非準(zhǔn)確的邏輯推理，如對于數(shù)學(xué)或一階邏輯,，其時(shí)常給出錯(cuò)誤答案,。其次，生成式AI生產(chǎn)的知識雖來自大模型語言數(shù)據(jù)庫,，但這些數(shù)據(jù)庫只鏈接了現(xiàn)有網(wǎng)絡(luò)數(shù)據(jù),，其整合的知識是現(xiàn)階段互聯(lián)網(wǎng)上可追尋的知識，它并不實(shí)時(shí)更新,，反饋的知識有時(shí)效局限,。此外,，網(wǎng)絡(luò)數(shù)據(jù)庫本身包含了大量不準(zhǔn)確的數(shù)據(jù)，也會(huì)影響輸出決策的準(zhǔn)確性,。與此同時(shí)，生成式AI多以大語言模型為基礎(chǔ),，龐大的數(shù)據(jù)體量加劇了數(shù)據(jù)噪聲,，會(huì)導(dǎo)致模型對訓(xùn)練數(shù)據(jù)不存在的概念進(jìn)行強(qiáng)行捏造，生成看似正確但實(shí)則失實(shí)的決策,。（二）“算法透明”不規(guī)范自新聞生產(chǎn)進(jìn)入算法轉(zhuǎn)向以來,，因算法黑箱帶來的算法不透明,、算法偏見削弱了公眾對新聞的信任，學(xué)界呼吁智能新聞生產(chǎn)遵守算法透明倫理,。算法透明（algorithmic transparency）是一種試圖闡明算法信息公開的機(jī)制,。對終端用戶而言，人機(jī)協(xié)作新聞生產(chǎn)的算法透明即披露算法的存在,。當(dāng)前,，多數(shù)媒體算法透明意識不足，在自動(dòng)化內(nèi)容生成中,，要么不披露算法的存在,，要么不知道如何披露。2022年,，美國科技媒體CNET曾悄悄發(fā)布了數(shù)十篇由AI生成的報(bào)道,，由于未披露作者的算法身份，這一行為遭到了新聞學(xué)界,、用戶的強(qiáng)烈批評，[7]批評不僅因其傳播虛假事實(shí),，還在于算法作者身份的不透明,。受信任慣習(xí)影響，公眾普遍對生成式AI技術(shù)尚未建立起良好的信任關(guān)系,。在美國,，調(diào)查發(fā)現(xiàn)，78%的人認(rèn)為依靠軟件撰寫的文章不是好事,。[8]（三）適用邊界存爭議生成式AI超強(qiáng)的計(jì)算能力能提升新聞采編的效率,，但并不是所有類型的新聞都適用于機(jī)器自動(dòng)化生產(chǎn)。于一些涉及敏感性數(shù)據(jù),、對倫理要求較高的報(bào)道而言,，任何一個(gè)小的錯(cuò)誤都可能引發(fā)系統(tǒng)性風(fēng)險(xiǎn)，有損媒體聲譽(yù),。新聞采編涉及的敏感性數(shù)據(jù)有機(jī)密文件,，以及新聞來源、員工,、客戶或業(yè)務(wù)合作伙伴或其他自然人的機(jī)密信息,、商業(yè)秘密或個(gè)人數(shù)據(jù)，若將這些數(shù)據(jù)輸入AI系統(tǒng),，存在信息泄密,、侵犯他人隱私權(quán)等風(fēng)險(xiǎn)。人倫敏感題材,，如訃告,、人文關(guān)懷較強(qiáng)的嚴(yán)肅議題,，能否用生成式AI來報(bào)道還存在爭議。ChatGPT編寫密歇根州一所高校發(fā)生槍擊事件訊息的行為遭到了學(xué)生抗議,，抗議點(diǎn)在于,，學(xué)生認(rèn)為使用人工智能來編發(fā)人類悲劇信息是對生命的不尊重，有違倫理,。[9]在人機(jī)協(xié)作的智媒時(shí)代,，人類對自動(dòng)化生產(chǎn)的信息接受度并不高。在公眾現(xiàn)階段的認(rèn)知中,，他們?nèi)匀粫?huì)從人類中心主義的視角去評價(jià)自動(dòng)化行為,，特別是在有關(guān)人倫方面，公眾普遍會(huì)認(rèn)為機(jī)器生產(chǎn)的信息缺乏“靈韻”（aura）,，對與生命議題相關(guān)的報(bào)道,，更希望是人類親自參與的無中介化（un-mediated）報(bào)道。人機(jī)協(xié)作新聞生產(chǎn)的應(yīng)對策略面對既有問題,，媒體不僅需要正確認(rèn)識生成式AI的內(nèi)容生產(chǎn)機(jī)制及其局限性,，還需建立一系列規(guī)范優(yōu)化人機(jī)協(xié)作生產(chǎn)流程,。（一）優(yōu)化編輯流程事實(shí)上，傳統(tǒng)媒體在新聞采寫過程也會(huì)出現(xiàn)記者提供不準(zhǔn)確信息的情況，媒體對其解決之道是設(shè)立編輯,，對報(bào)道是否真實(shí),、準(zhǔn)確進(jìn)行把關(guān),。針對技術(shù)固有的缺陷,，媒體人能做的依然是對可控的技術(shù)風(fēng)險(xiǎn)做好把關(guān)，重視人機(jī)協(xié)作生產(chǎn)中人的重要性,，優(yōu)化人機(jī)協(xié)作新聞生產(chǎn)的流程,。優(yōu)化編輯流程的第一道把關(guān)要點(diǎn)是提升媒體人的智媒素養(yǎng)，讓其正確認(rèn)識生成式AI的內(nèi)容生產(chǎn)機(jī)制及其局限性,。不同平臺(tái)的AI系統(tǒng),，在內(nèi)容生成的功能和性能上會(huì)有所差異，要提前學(xué)習(xí)相關(guān)知識,。另外,，對智能系統(tǒng)提供的事實(shí)及其報(bào)道進(jìn)行把關(guān)是減少假新聞生成的必要流程，包括對生成式AI提供的信息進(jìn)行核實(shí)核查,，或設(shè)立專門的AI編輯負(fù)責(zé)自動(dòng)化新聞生產(chǎn)等,。面對自動(dòng)化內(nèi)容大規(guī)模生成的現(xiàn)實(shí)，《金融時(shí)報(bào)》專門設(shè)立AI編輯來降低自動(dòng)化內(nèi)容風(fēng)險(xiǎn),；The Newsroom要求對所有AI生成內(nèi)容進(jìn)行核查,，必要時(shí)由記者進(jìn)行修改。荷蘭新聞社ANP在其關(guān)于人類監(jiān)督參與生成式AI生產(chǎn)的指南中提出“人>機(jī)器>人”過程協(xié)作模式，指出使用AI或類似的技術(shù)時(shí),，須“支持最終編輯,，前提是事后由人類進(jìn)行最終檢查”，即代理和決策均由人監(jiān)督,。[10]（二）披露算法信息自ChatGPT發(fā)布以來,，多家媒體在用戶社區(qū)中征集用戶對AI 生成內(nèi)容的看法，以“自媒體”平臺(tái)Medium社區(qū)為例,，眾多用戶提到算法透明和披露的必要性,。為此，建立透明規(guī)范,、披露算法信息是人機(jī)協(xié)作內(nèi)容生成階段的重要倫理,。對終端用戶實(shí)行的透明策略有以下兩種。1.告知算法信息,。例如,，Medium為使用AI語言工具制定的第一個(gè)“透明度、披露和出版級指南”政策指出：當(dāng)使用生成式AI工具創(chuàng)建提交的任何部分時(shí),，創(chuàng)作者必須像引用任何其他來源一樣引用它,。[11]2.告知人參與信息，對自動(dòng)化參與內(nèi)容進(jìn)行分類分級管理,。如對純自動(dòng)化內(nèi)容,，主動(dòng)標(biāo)識為高風(fēng)險(xiǎn)信息，并注明其為自動(dòng)化生產(chǎn),，未經(jīng)過人工審核，存在事實(shí)不準(zhǔn)確的風(fēng)險(xiǎn),；對人機(jī)協(xié)作生成內(nèi)容,，標(biāo)記為中低風(fēng)險(xiǎn)，告知人工參與信息等,。（三）規(guī)范機(jī)器適用邊界在當(dāng)前的人機(jī)協(xié)作新聞生產(chǎn)中,，媒體（人）應(yīng)該有機(jī)器參與內(nèi)容生成的邊界意識，在人機(jī)協(xié)作生產(chǎn)中協(xié)調(diào)新聞當(dāng)事人,、用戶,、媒體的權(quán)益?；诖?，較多的智能化編輯部多將生成式AI限定在非敏感題材新聞的生產(chǎn)中。以專注智能化新聞生產(chǎn)的The Newsroom為例,，該平臺(tái)上的內(nèi)容主要是對既有報(bào)道的加工,，為防范風(fēng)險(xiǎn)，平臺(tái)還根據(jù)內(nèi)容主題對其做風(fēng)險(xiǎn)分級管理,，對不同風(fēng)險(xiǎn)類別做相應(yīng)的人工審查,。如將不適合機(jī)器內(nèi)容生產(chǎn)的議題視為高風(fēng)險(xiǎn),，禁止相關(guān)議題數(shù)據(jù)上傳系統(tǒng)。結(jié) 語生成式AI在新聞生產(chǎn)中的應(yīng)用并不是讓機(jī)器替代新聞工作者做出決策,，而是由記者定義報(bào)道的角度,、風(fēng)格、價(jià)值導(dǎo)向等,，其目的在于提升人機(jī)協(xié)作生產(chǎn)的內(nèi)容的質(zhì)量,。為此，學(xué)界,、業(yè)界需要進(jìn)一步探索更為切實(shí)可行的數(shù)字新聞倫理,，規(guī)范媒體對技術(shù)的使用，防范新聞算法風(fēng)險(xiǎn),?！颈疚臑?021年重慶市教委社科規(guī)劃項(xiàng)目“智媒時(shí)代重慶政務(wù)傳播的平臺(tái)拓展與策略創(chuàng)新”（編號：21SKGH243）階段性成果】參考文獻(xiàn)：[1]Gozalo-Brizuela R, Garrido-Merchan E C. ChatGPT is not all you need. A State of the Art Review of large Generative AI models[J]. https://doi.org/10.48550/arXiv.2301.04655.[2]Marina Adami.Is ChatGPT a threat or an opportunity for journalism? Five AI experts weigh in[EB/OL].（2023-03-23）[2023-04-10].https://reutersinstitute.politics.ox.ac.uk/news/chatgpt-threat-or-opportunity-journalism-five-ai-experts-weigh.[3]Nick Diakopoulos.What Could ChatGPT Do for News Production?[EB/OL].（2023-02-10）[2023-04-10].https://generative-ai-newsroom.com/what-could-chatgpt-do-for-news-production-2b2a3b7047d9.[4]AIGC已改變新聞業(yè)[EB/OL].微信公眾號“騰訊媒體研究院”，2023-08-28.[5]Johannes Gorset.Schibsted experiments with AI, finds 37+ ways it can help[EB/OL].（2023-03-27）[2023-05-01].https://www.inma.org/blogs/media-leaders/post.cfm/schibsted-experiments-with-ai-finds-37-ways-it-can-help.[6] Zhou J, Ke P, Qiu X, et al. ChatGPT: Potential, prospects, and limitations[J]. Frontiers of Information Technology & Electronic Engineering, 2023: 1-6.[7]Paul Farhi.A news site used AI to write articles, It was a journalistic disaster[EB/OL].(2023-01-17)[2023-04-10].https://www.washingtonpost.com/media/2023/01/17/cnet-ai-articles-journalism-corrections/.[8]Artificial Intelligence Use Prompts Concerns[EB/OL].（2023-02-15）[2023-05-01].https://www.monmouth.edu/polling-institute/reports/monmouthpoll_us_021523/.[9]Jennifer Korn.Vanderbilt University apologizes for using ChatGPT to write mass-shooting email[EB/OL].（2023-02-22）[2023-04-01].https://edition.cnn.com/2023/02/22/tech/vanderbilt-chatgpt-shooting-email/index.html.[10]Hannes Cools, Nicholas Diakopolulos.Writing guidelines for the role of AI in your newsroom? Here are some, er, guidelines for that[EB/OL].（2023-07-11）[2023-09-18].https://www.niemanlab.org/2023/07/writing-guidelines-for-the-role-of-ai-in-your-newsroom-here-are-some-er-guidelines-for-that/.[11]Scott Lamb.How we’re approaching AI-generated writing on Medium[EB/OL].(2023-01-27)[2023-04-10].https://blog.medium.com/how-were-approaching-ai-generated-writing-on-medium-16ee8cb3bc89.本文引用格式參考：陳莎.生成式AI在新聞生產(chǎn)中的應(yīng)用,、現(xiàn)實(shí)問題及其應(yīng)對[J].青年記者,2023(19):57-59.