據(jù)美國《滾石》雜志等媒體報道，近日，美國愛荷華州一學區(qū)圖書館已經(jīng)開始使用人工智能輔助內(nèi)容審查,，包括《追風箏的人》《使女的故事》在內(nèi)的19部作品遭遇下架,，人工智能判定這些書包含對性行為的“描述”。

美劇《使女的故事》（The Handmaid’s Tale）第一季劇照,。

“圖書下架運動”（Book Ban）在美國社會呈現(xiàn)擴大化趨勢,。8月11日，美國愛荷華州梅森學區(qū)稱使用“人工智能軟件”對館藏圖書進行文本分析,，并據(jù)此結(jié)果下架了19本圖書,。此舉意味著人工智能開始參與內(nèi)容審查。

據(jù)愛荷華州報紙《公報》稱,，這一舉措是為響應愛荷華州最新頒布的一項法案,，要求學校向?qū)W生提供的每本書都須“適合年齡”，并且不含任何“性行為的描述或視覺描繪”,。最初的消息僅證實校方在決策時使用了人工智能軟件,，但并不清楚具體使用了什么工具，以及實際如何操作,。不久后,，美國《大眾科學》報道稱校方使用的是ChatGPT。

“坦率地說,，我們有更重要的事情要做,，而不是把大量時間花在如何保護孩子們免受什么書籍侵害?！?梅森學區(qū)課程和教學助理總監(jiān)布里奇特·?？怂孤?(Bridgette Exman)在接受媒體采訪時直言，“于是我們使用ChatGPT來輔助,?！卑？怂孤忉屨f,，盡管“適合年齡”這一規(guī)定很主觀,，但“對性行為的描述”是相對客觀的。

據(jù)?？怂孤Q,，她和校方管理員首先制定了一份常見的爭議書籍名單，并進一步人工篩選剔除了因色情內(nèi)容以外的原因受到質(zhì)疑的書籍,，最終確定一份包含約50本書的清單,。之后，按照法案的原文輸入,，詢問ChatGPT“（書）包含對性行為的描述嗎”,。如果獲得肯定答案，這些書將立即下架,。

這輪公布的遭下架書籍包括瑪格麗特·阿特伍德的《使女的故事》,、托妮·莫里森的《寵兒》、約翰·格林的《尋找阿拉斯加》,、卡勒德·胡賽尼的《追風箏的人》,、瑪雅·安吉洛的《我知道籠中鳥為何歌唱》等19部作品,。

這一審查過程也在美國社會引發(fā)爭議。由Open AI開發(fā)的ChatGPT可以說是目前公眾可以使用的最知名,、最流行但也最有爭議的生成式人工智能程序,。它利用大量數(shù)據(jù)，大語言模型 為用戶提供了令人信服的書面響應,，但通常會附帶有關(guān)錯誤信息,、并提供有關(guān)內(nèi)容準確性和內(nèi)容來源的提示。然而近幾個月來,，研究人員推測其一致性和質(zhì)量似乎隨著時間的推移而有所下降,。

《大眾科學》進行了同樣的審查測試。當詢問ChatGPT“以下書籍中是否包含露骨描寫或性場景時”,，《大眾科學》得到了不同的反饋結(jié)果,。ChatGPT稱，在19部遭下架的作品中,，只有4部包含“露骨描寫或性內(nèi)容”,，另外6部則“主題成熟，但不確定露骨的內(nèi)容”,，其余9部則“很少甚至沒有露骨的內(nèi)容”,。

在幾輪不同測試后，ChatGPT經(jīng)常給出前后不一致的回復,。比如,，其對《追風箏的人》的審查結(jié)果是自相矛盾的,。其中有時ChatGPT認定這本小說包含“少量或不明確的性內(nèi)容”,，但又在后續(xù)反饋中稱“確實包含涉及性的內(nèi)容”。

對此,，?？怂孤Q即便ChatGPT存在缺陷，但他們認為這一工具仍然是符合新立法規(guī)定且最便捷的選擇,。距離新學年開學將近,，這一法案簽署時間是2023年5月26日，留給州內(nèi)學校執(zhí)行的時間僅為三個月,。

“我們的教室和學校圖書館擁有大量藏書,，包括購買、捐贈和發(fā)現(xiàn)的文本,。閱讀每本書并過濾這些根本不可行,，”埃克斯曼在一份聲明中說,?！耙虼?，我們正在使用我們認為合理的流程來確定應在2023至2024學年開始時從館藏中刪除的書籍。此后,，我們將繼續(xù)依靠我們長期建立的流程,，允許家長重新考慮書籍。我們相信這一過程將確保法律精神在梅森得到落實,，且家長在學生的教育中永遠有發(fā)言權(quán),。”

參考鏈接：

1. Iowa School District Bans Books by Toni Morrison, Margaret Atwood After AI Review for ‘Depictions of a Sex Act’

https://www.rollingstone.com/culture/culture-news/iowa-school-district-bans-books-sex-1234806539/

2. 19 books pulled from Mason City school libraries

https://www.thegazette.com/k/19-books-pulled-from-mason-city-school-libraries/

3. School district uses ChatGPT to help remove library books

School district uses ChatGPT to help remove library books

4. An Iowa school district is using ChatGPT to decide which books to ban

https://www.theverge.com/2023/8/15/23833167/iowa-book-ban-chatgpt-mason-city-community-school-district-removal

編譯/申璐

編輯/王菡

校對/柳寶慶