據(jù)美國(guó)《滾石》雜志等媒體報(bào)道,，近日,，美國(guó)愛(ài)荷華州一學(xué)區(qū)圖書(shū)館已經(jīng)開(kāi)始使用人工智能輔助內(nèi)容審查，包括《追風(fēng)箏的人》《使女的故事》在內(nèi)的19部作品遭遇下架,，人工智能判定這些書(shū)包含對(duì)性行為的“描述”。

美劇《使女的故事》（The Handmaid’s Tale）第一季劇照。

“圖書(shū)下架運(yùn)動(dòng)”（Book Ban）在美國(guó)社會(huì)呈現(xiàn)擴(kuò)大化趨勢(shì),。8月11日,，美國(guó)愛(ài)荷華州梅森學(xué)區(qū)稱使用“人工智能軟件”對(duì)館藏圖書(shū)進(jìn)行文本分析，并據(jù)此結(jié)果下架了19本圖書(shū),。此舉意味著人工智能開(kāi)始參與內(nèi)容審查,。

據(jù)愛(ài)荷華州報(bào)紙《公報(bào)》稱，這一舉措是為響應(yīng)愛(ài)荷華州最新頒布的一項(xiàng)法案,，要求學(xué)校向?qū)W生提供的每本書(shū)都須“適合年齡”,，并且不含任何“性行為的描述或視覺(jué)描繪”,。最初的消息僅證實(shí)校方在決策時(shí)使用了人工智能軟件,，但并不清楚具體使用了什么工具，以及實(shí)際如何操作,。不久后,，美國(guó)《大眾科學(xué)》報(bào)道稱校方使用的是ChatGPT。

“坦率地說(shuō),，我們有更重要的事情要做,，而不是把大量時(shí)間花在如何保護(hù)孩子們免受什么書(shū)籍侵害?！?梅森學(xué)區(qū)課程和教學(xué)助理總監(jiān)布里奇特·?？怂孤?(Bridgette Exman)在接受媒體采訪時(shí)直言，“于是我們使用ChatGPT來(lái)輔助,?！卑？怂孤忉屨f(shuō),，盡管“適合年齡”這一規(guī)定很主觀,，但“對(duì)性行為的描述”是相對(duì)客觀的。

據(jù)?？怂孤Q,，她和校方管理員首先制定了一份常見(jiàn)的爭(zhēng)議書(shū)籍名單，并進(jìn)一步人工篩選剔除了因色情內(nèi)容以外的原因受到質(zhì)疑的書(shū)籍,，最終確定一份包含約50本書(shū)的清單,。之后,，按照法案的原文輸入，詢問(wèn)ChatGPT“（書(shū)）包含對(duì)性行為的描述嗎”,。如果獲得肯定答案,，這些書(shū)將立即下架,。

這輪公布的遭下架書(shū)籍包括瑪格麗特·阿特伍德的《使女的故事》、托妮·莫里森的《寵兒》、約翰·格林的《尋找阿拉斯加》,、卡勒德·胡賽尼的《追風(fēng)箏的人》,、瑪雅·安吉洛的《我知道籠中鳥(niǎo)為何歌唱》等19部作品,。

這一審查過(guò)程也在美國(guó)社會(huì)引發(fā)爭(zhēng)議,。由Open AI開(kāi)發(fā)的ChatGPT可以說(shuō)是目前公眾可以使用的最知名、最流行但也最有爭(zhēng)議的生成式人工智能程序,。它利用大量數(shù)據(jù),，大語(yǔ)言模型 為用戶提供了令人信服的書(shū)面響應(yīng)，但通常會(huì)附帶有關(guān)錯(cuò)誤信息,、并提供有關(guān)內(nèi)容準(zhǔn)確性和內(nèi)容來(lái)源的提示,。然而近幾個(gè)月來(lái)，研究人員推測(cè)其一致性和質(zhì)量似乎隨著時(shí)間的推移而有所下降,。

《大眾科學(xué)》進(jìn)行了同樣的審查測(cè)試,。當(dāng)詢問(wèn)ChatGPT“以下書(shū)籍中是否包含露骨描寫(xiě)或性場(chǎng)景時(shí)”，《大眾科學(xué)》得到了不同的反饋結(jié)果,。ChatGPT稱,，在19部遭下架的作品中，只有4部包含“露骨描寫(xiě)或性內(nèi)容”,，另外6部則“主題成熟,，但不確定露骨的內(nèi)容”，其余9部則“很少甚至沒(méi)有露骨的內(nèi)容”,。

在幾輪不同測(cè)試后,，ChatGPT經(jīng)常給出前后不一致的回復(fù)。比如,，其對(duì)《追風(fēng)箏的人》的審查結(jié)果是自相矛盾的,。其中有時(shí)ChatGPT認(rèn)定這本小說(shuō)包含“少量或不明確的性內(nèi)容”，但又在后續(xù)反饋中稱“確實(shí)包含涉及性的內(nèi)容”,。

對(duì)此,，埃克斯曼稱即便ChatGPT存在缺陷,，但他們認(rèn)為這一工具仍然是符合新立法規(guī)定且最便捷的選擇,。距離新學(xué)年開(kāi)學(xué)將近，這一法案簽署時(shí)間是2023年5月26日,，留給州內(nèi)學(xué)校執(zhí)行的時(shí)間僅為三個(gè)月,。

“我們的教室和學(xué)校圖書(shū)館擁有大量藏書(shū)，包括購(gòu)買(mǎi),、捐贈(zèng)和發(fā)現(xiàn)的文本,。閱讀每本書(shū)并過(guò)濾這些根本不可行，”?？怂孤谝环萋暶髦姓f(shuō),。“因此,，我們正在使用我們認(rèn)為合理的流程來(lái)確定應(yīng)在2023至2024學(xué)年開(kāi)始時(shí)從館藏中刪除的書(shū)籍,。此后，我們將繼續(xù)依靠我們長(zhǎng)期建立的流程,，允許家長(zhǎng)重新考慮書(shū)籍,。我們相信這一過(guò)程將確保法律精神在梅森得到落實(shí)，且家長(zhǎng)在學(xué)生的教育中永遠(yuǎn)有發(fā)言權(quán),?！?/p>

參考鏈接：

1. Iowa School District Bans Books by Toni Morrison, Margaret Atwood After AI Review for ‘Depictions of a Sex Act’

https://www.rollingstone.com/culture/culture-news/iowa-school-district-bans-books-sex-1234806539/

2. 19 books pulled from Mason City school libraries

https://www.thegazette.com/k/19-books-pulled-from-mason-city-school-libraries/

3. School district uses ChatGPT to help remove library books

School district uses ChatGPT to help remove library books

4. An Iowa school district is using ChatGPT to decide which books to ban

https://www.theverge.com/2023/8/15/23833167/iowa-book-ban-chatgpt-mason-city-community-school-district-removal

編譯/申璐

編輯/王菡

校對(duì)/柳寶慶