從長(zhǎng)期來看,，人工智能仍然會(huì)是創(chuàng)新的朋友,，而不是造假的同伙,。▲電商平臺(tái)上,，商家引導(dǎo)顧客加微信溝通論文代寫細(xì)節(jié),。新京報(bào)資料圖。文 | 馬爾文論文代寫,，一直是學(xué)術(shù)作弊黑灰產(chǎn)中的隱疾,。而隨著人工智能時(shí)代到來,，AI又成了其中得力的生產(chǎn)工具。近日,，據(jù)新京報(bào)臥底調(diào)查,，在論文代寫產(chǎn)業(yè)鏈中,，黑灰產(chǎn)團(tuán)隊(duì)已經(jīng)開始通過AI工具來批量編造論文，并在各大平臺(tái)接單生產(chǎn)售賣,。報(bào)道中值得注意的細(xì)節(jié)是,，有代寫團(tuán)隊(duì)成員向暗訪記者表示，因?yàn)锳I代寫工具的出現(xiàn),，使得論文代寫的門檻降低,，甚至出現(xiàn)了“職高生用AI工具幫博士生代寫論文”的現(xiàn)象。在AIGC（人工智能生成內(nèi)容）工具出現(xiàn)之初,，行業(yè)普遍認(rèn)為人工智能將能夠提升內(nèi)容生產(chǎn)效率,，但或許令人意想不到的是，AI工具暫時(shí)還沒有來得及在嚴(yán)肅的學(xué)術(shù)研究生產(chǎn)中得到廣泛應(yīng)用,，但卻率先成為了黑灰產(chǎn)業(yè)提高產(chǎn)量的工具,。在社交媒體搜索可發(fā)現(xiàn)，最早大約兩年前就已經(jīng)出現(xiàn)了一些“AI寫論文”的教程以及小廣告,，而到最近半年來,，已經(jīng)陸續(xù)有媒體報(bào)道過在高校、學(xué)術(shù)期刊中發(fā)現(xiàn)了“AI論文”的事件,，甚至有國(guó)外媒體認(rèn)為,，學(xué)術(shù)論文正在遭遇一場(chǎng)來自“AI論文”的大規(guī)模襲擊。從技術(shù)原理上看,，目前AI工具對(duì)論文作弊的主要形式有兩種,。第一種類似于論文代寫，主要是用于一部分不需要研究數(shù)據(jù)的綜述性,、分析性論文,，由AI基于數(shù)據(jù)庫和提示詞進(jìn)行全量文本生成。這也是報(bào)道中所主要涉及的論文造假案例,。第二種則更為隱蔽，主要涉及到利用AI工具去編造有邏輯性的偽造數(shù)據(jù)集,，從而根據(jù)偽造的數(shù)據(jù)生成符合邏輯的實(shí)驗(yàn)結(jié)果,、測(cè)試數(shù)據(jù)等。這類數(shù)據(jù)造假對(duì)于使用者的要求更高,，查處發(fā)現(xiàn)的難度也更高,，而其對(duì)于學(xué)術(shù)及社會(huì)公共利益的損害也最大。當(dāng)前,，對(duì)上述兩種造假情形,，我們?nèi)匀粵]有建立更有效的技術(shù)性防范手段。國(guó)內(nèi)外不少學(xué)術(shù)期刊,，最近一年內(nèi)都出現(xiàn)過論文刊發(fā)后被發(fā)現(xiàn)有明顯“AI痕跡”的事,。過去,，我們對(duì)學(xué)術(shù)論文造假的技術(shù)性查驗(yàn)主要是“查重”，本質(zhì)上也是基于大數(shù)據(jù)對(duì)文本進(jìn)行搜索比對(duì),。這類技術(shù)查驗(yàn),，其實(shí)是用技術(shù)工具對(duì)個(gè)人的“抄襲”行為進(jìn)行后期查核。做個(gè)不恰當(dāng)?shù)谋扔鱽碚f,，技術(shù)查重是用熱兵器對(duì)付冷兵器,、用大數(shù)據(jù)監(jiān)控個(gè)體抄襲者，因此,，能夠相對(duì)有效地防范論文造假泛濫現(xiàn)象,。但人工智能的高速發(fā)展，使得相對(duì)傳統(tǒng)的查重技術(shù)逐漸失效,。到了當(dāng)下,，變成了“大數(shù)據(jù)檢索系統(tǒng)”與“大模型”之間的較量，黑灰產(chǎn)和論文造假者借助大模型工具,，掌握了技術(shù)上的優(yōu)勢(shì),。因此，對(duì)這類造假論文的發(fā)現(xiàn)查處,，又回到了早期階段,，高度依賴論文審核者的個(gè)人判斷力。例如,，有高校教師此前在接受媒體采訪時(shí)總結(jié)過,，這類文章“共同特點(diǎn)是比較水”“創(chuàng)新性不強(qiáng)”。這種個(gè)體判斷力能夠發(fā)揮作用,，是因?yàn)榇竽Ｐ蜕蓛?nèi)容仍然是“數(shù)據(jù)歸納”而不是“邏輯推理”,，因?yàn)椋绻麑徍苏哒J(rèn)真閱讀觀察文本,，仍然可以準(zhǔn)確識(shí)別出那些疑似AI造假的文章,。但面對(duì)潛在的海量造假論文、有利益驅(qū)動(dòng)的灰色產(chǎn)業(yè)鏈,，個(gè)體判斷力無法成為長(zhǎng)期的有效防控手段,。要對(duì)抗“AI代寫”的黑灰產(chǎn)，需要監(jiān)管者更快升級(jí)技術(shù)工具,，同時(shí),，建立更加嚴(yán)格的行業(yè)性規(guī)范。即,，一方面,，用“AI來檢測(cè)AI”，另一方面,，要對(duì)“AI工具如何使用”建立明確的標(biāo)準(zhǔn),。當(dāng)前,，國(guó)內(nèi)外已經(jīng)開始研發(fā)專門針對(duì)“AIGC內(nèi)容”的檢測(cè)工具。在部分內(nèi)容平臺(tái)上,，已經(jīng)開始對(duì)疑似“AI生成內(nèi)容”進(jìn)行了異常標(biāo)注,。從數(shù)據(jù)檢測(cè)識(shí)別的邏輯看，這類AI造假內(nèi)容的特征相對(duì)更加明顯,，通過對(duì)文本結(jié)構(gòu),、用詞與語言模型等進(jìn)行檢測(cè)，應(yīng)當(dāng)可以識(shí)別察覺出AI的創(chuàng)作痕跡,。因此,，在傳統(tǒng)的抄襲查重系統(tǒng)之外，至少目前,，可以盡早將針對(duì)“AI內(nèi)容”的檢測(cè)工具也應(yīng)用到學(xué)術(shù)論文的檢測(cè)流程之中,，并對(duì)疑似AI造假的內(nèi)容進(jìn)行標(biāo)注，輔助審核人員進(jìn)行判斷,。在技術(shù)性防范手段之外,，針對(duì)AI論文造假，學(xué)術(shù)界也可以迅速行動(dòng)起來,，為AI工具的應(yīng)用設(shè)定清晰的邊界,。例如，可以使用AI輔助制作插圖,，但不得進(jìn)行任何文本,、數(shù)據(jù)生成，或者,，AI工具的使用必須在論文的前置研究方法章節(jié)進(jìn)行仔細(xì)說明,，正文也應(yīng)當(dāng)進(jìn)行明確標(biāo)注，如果沒有標(biāo)注而被系統(tǒng)檢測(cè)標(biāo)注,，寫作者應(yīng)當(dāng)受到一定程度的處罰,。盡管短期內(nèi)部分黑灰產(chǎn)可以利用監(jiān)管時(shí)間差非法牟利，但隨著AI被應(yīng)用于監(jiān)測(cè)預(yù)警,，以及行業(yè)共同規(guī)范的建立與調(diào)整,，AI造假的漏洞終將被迅速填平。從長(zhǎng)期來看,，人工智能仍然會(huì)是創(chuàng)新的朋友，而不是造假的同伙,。撰稿 / 馬爾文（媒體人）編輯 / 遲道華校對(duì) / 王心