從長期來看,，人工智能仍然會是創(chuàng)新的朋友,，而不是造假的同伙,。▲電商平臺上,，商家引導(dǎo)顧客加微信溝通論文代寫細(xì)節(jié),。新京報資料圖。文 | 馬爾文論文代寫,，一直是學(xué)術(shù)作弊黑灰產(chǎn)中的隱疾,。而隨著人工智能時代到來,，AI又成了其中得力的生產(chǎn)工具。近日,，據(jù)新京報臥底調(diào)查,，在論文代寫產(chǎn)業(yè)鏈中，黑灰產(chǎn)團(tuán)隊(duì)已經(jīng)開始通過AI工具來批量編造論文,，并在各大平臺接單生產(chǎn)售賣,。報道中值得注意的細(xì)節(jié)是，有代寫團(tuán)隊(duì)成員向暗訪記者表示,，因?yàn)锳I代寫工具的出現(xiàn),，使得論文代寫的門檻降低，甚至出現(xiàn)了“職高生用AI工具幫博士生代寫論文”的現(xiàn)象,。在AIGC（人工智能生成內(nèi)容）工具出現(xiàn)之初,，行業(yè)普遍認(rèn)為人工智能將能夠提升內(nèi)容生產(chǎn)效率，但或許令人意想不到的是,，AI工具暫時還沒有來得及在嚴(yán)肅的學(xué)術(shù)研究生產(chǎn)中得到廣泛應(yīng)用,，但卻率先成為了黑灰產(chǎn)業(yè)提高產(chǎn)量的工具。在社交媒體搜索可發(fā)現(xiàn),，最早大約兩年前就已經(jīng)出現(xiàn)了一些“AI寫論文”的教程以及小廣告,，而到最近半年來,，已經(jīng)陸續(xù)有媒體報道過在高校、學(xué)術(shù)期刊中發(fā)現(xiàn)了“AI論文”的事件,，甚至有國外媒體認(rèn)為,，學(xué)術(shù)論文正在遭遇一場來自“AI論文”的大規(guī)模襲擊。從技術(shù)原理上看,，目前AI工具對論文作弊的主要形式有兩種,。第一種類似于論文代寫，主要是用于一部分不需要研究數(shù)據(jù)的綜述性,、分析性論文,，由AI基于數(shù)據(jù)庫和提示詞進(jìn)行全量文本生成。這也是報道中所主要涉及的論文造假案例,。第二種則更為隱蔽,，主要涉及到利用AI工具去編造有邏輯性的偽造數(shù)據(jù)集，從而根據(jù)偽造的數(shù)據(jù)生成符合邏輯的實(shí)驗(yàn)結(jié)果,、測試數(shù)據(jù)等。這類數(shù)據(jù)造假對于使用者的要求更高,，查處發(fā)現(xiàn)的難度也更高,，而其對于學(xué)術(shù)及社會公共利益的損害也最大。當(dāng)前,，對上述兩種造假情形,，我們?nèi)匀粵]有建立更有效的技術(shù)性防范手段。國內(nèi)外不少學(xué)術(shù)期刊,，最近一年內(nèi)都出現(xiàn)過論文刊發(fā)后被發(fā)現(xiàn)有明顯“AI痕跡”的事,。過去，我們對學(xué)術(shù)論文造假的技術(shù)性查驗(yàn)主要是“查重”,，本質(zhì)上也是基于大數(shù)據(jù)對文本進(jìn)行搜索比對,。這類技術(shù)查驗(yàn)，其實(shí)是用技術(shù)工具對個人的“抄襲”行為進(jìn)行后期查核,。做個不恰當(dāng)?shù)谋扔鱽碚f,，技術(shù)查重是用熱兵器對付冷兵器、用大數(shù)據(jù)監(jiān)控個體抄襲者,，因此,，能夠相對有效地防范論文造假泛濫現(xiàn)象。但人工智能的高速發(fā)展,，使得相對傳統(tǒng)的查重技術(shù)逐漸失效,。到了當(dāng)下，變成了“大數(shù)據(jù)檢索系統(tǒng)”與“大模型”之間的較量,，黑灰產(chǎn)和論文造假者借助大模型工具,，掌握了技術(shù)上的優(yōu)勢,。因此，對這類造假論文的發(fā)現(xiàn)查處,，又回到了早期階段,，高度依賴論文審核者的個人判斷力。例如,，有高校教師此前在接受媒體采訪時總結(jié)過,，這類文章“共同特點(diǎn)是比較水”“創(chuàng)新性不強(qiáng)”。這種個體判斷力能夠發(fā)揮作用,，是因?yàn)榇竽Ｐ蜕蓛?nèi)容仍然是“數(shù)據(jù)歸納”而不是“邏輯推理”,，因?yàn)椋绻麑徍苏哒J(rèn)真閱讀觀察文本,，仍然可以準(zhǔn)確識別出那些疑似AI造假的文章,。但面對潛在的海量造假論文、有利益驅(qū)動的灰色產(chǎn)業(yè)鏈,，個體判斷力無法成為長期的有效防控手段,。要對抗“AI代寫”的黑灰產(chǎn)，需要監(jiān)管者更快升級技術(shù)工具,，同時,，建立更加嚴(yán)格的行業(yè)性規(guī)范。即,，一方面,，用“AI來檢測AI”，另一方面,，要對“AI工具如何使用”建立明確的標(biāo)準(zhǔn),。當(dāng)前，國內(nèi)外已經(jīng)開始研發(fā)專門針對“AIGC內(nèi)容”的檢測工具,。在部分內(nèi)容平臺上,，已經(jīng)開始對疑似“AI生成內(nèi)容”進(jìn)行了異常標(biāo)注。從數(shù)據(jù)檢測識別的邏輯看,，這類AI造假內(nèi)容的特征相對更加明顯,，通過對文本結(jié)構(gòu)、用詞與語言模型等進(jìn)行檢測,，應(yīng)當(dāng)可以識別察覺出AI的創(chuàng)作痕跡,。因此，在傳統(tǒng)的抄襲查重系統(tǒng)之外,，至少目前,，可以盡早將針對“AI內(nèi)容”的檢測工具也應(yīng)用到學(xué)術(shù)論文的檢測流程之中，并對疑似AI造假的內(nèi)容進(jìn)行標(biāo)注，輔助審核人員進(jìn)行判斷,。在技術(shù)性防范手段之外,，針對AI論文造假，學(xué)術(shù)界也可以迅速行動起來,，為AI工具的應(yīng)用設(shè)定清晰的邊界,。例如，可以使用AI輔助制作插圖,，但不得進(jìn)行任何文本,、數(shù)據(jù)生成，或者,，AI工具的使用必須在論文的前置研究方法章節(jié)進(jìn)行仔細(xì)說明,，正文也應(yīng)當(dāng)進(jìn)行明確標(biāo)注，如果沒有標(biāo)注而被系統(tǒng)檢測標(biāo)注,，寫作者應(yīng)當(dāng)受到一定程度的處罰,。盡管短期內(nèi)部分黑灰產(chǎn)可以利用監(jiān)管時間差非法牟利，但隨著AI被應(yīng)用于監(jiān)測預(yù)警,，以及行業(yè)共同規(guī)范的建立與調(diào)整,，AI造假的漏洞終將被迅速填平。從長期來看,，人工智能仍然會是創(chuàng)新的朋友,，而不是造假的同伙。撰稿 / 馬爾文（媒體人）編輯 / 遲道華校對 / 王心