作者 | 黃金瓊
編輯 | 鄧詠儀
常言道，“一物降一物”,，但對現(xiàn)在的生成式AI來說,，事情也許很難如此。
據(jù)TechCrunch,，OpenAI于7月20日悄悄下架了其AI檢測器,，但因為過于低調(diào)，不少人還沒有發(fā)現(xiàn),。
OpenAI的通知顯示,，下架是因為檢測的準(zhǔn)確率過低。OpenAI團(tuán)隊“會繼續(xù)研究更有效的文本技術(shù)”,，希望未來能夠?qū)I生成的音頻,、視頻內(nèi)容進(jìn)行檢測。
ChatGPT爆火以來,，AI生成文本在各行各業(yè)得到了更廣泛的應(yīng)用。但比起廣泛應(yīng)用,，AI生成內(nèi)容引發(fā)了人們更大的擔(dān)憂——AI或許會成為更大的假新聞源頭,、泄露人們數(shù)據(jù)和隱私。
AI生成內(nèi)容引發(fā)的現(xiàn)實問題也不絕于耳——典型案例是是在大學(xué)里,，學(xué)生們用ChatGPT生成論文,，已經(jīng)擾亂了學(xué)校的教學(xué)秩序，不少學(xué)校已經(jīng)明令禁止在學(xué)術(shù)場景下使用ChatGPT,。
面對洶涌的輿論,，OpenAI在今年2月就迅速推出應(yīng)對方案，也就是這款A(yù)I文本檢測器,。
AI文本檢測器的主要功能,，是用來判斷文本是否由人工智能生成,。此前，在檢測過程中,，用戶無需付費,，只要將所檢測的文本復(fù)制到檢測器上，就可以檢查到內(nèi)容是否為AI生成,。OpenAI也沒有限定可以檢測的文本限定類型,，用戶可以檢測包括郵件、文章以及論文在內(nèi)的文件,。
然而直到下架,，這款產(chǎn)品壽命只有短短半年。
AI文本檢測器其實一開始就并不完美,。據(jù)OpenAI公布的數(shù)據(jù),，AI檢測器在識別AI生成文本方面的正確率為26%，同時將人類所寫的內(nèi)容識別為AI生成的錯誤率為9%,。
在發(fā)布檢測器時,，OpenAI就表明“AI文本檢測器并不完全可靠”。同時,，OpenAI團(tuán)隊也承認(rèn),，檢測器很容易將人類寫的文本識別為AI寫的，AI生成的文本性內(nèi)容如果經(jīng)過人類編輯,，AI也無法進(jìn)行準(zhǔn)確地識別,。
OpenAI已經(jīng)大模型應(yīng)用中的技術(shù)領(lǐng)頭羊。如今AI檢測器的下架,，某種程度上也意味著,，人們現(xiàn)在可能還沒有更好的方式監(jiān)管AI?！坝肁I監(jiān)管AI”的路子,，可能還不太能走通。
近期的一則斯坦福研究,，也得出了同樣的結(jié)論。
數(shù)位斯坦福的專家教授對目前主流的七款A(yù)I文本檢測器進(jìn)行了測試,，研究結(jié)果顯示,，一些檢測器生成的99%的準(zhǔn)確率具有“誤導(dǎo)性”。非英語母語的人寫的文章,，常被錯誤地標(biāo)識為由AI生成,，這會嚴(yán)重影響母語非英語的使用者如學(xué)生、學(xué)者以及求職者,，也會很容易增加他們被歧視的可能性,。
免責(zé)聲明：本文來自網(wǎng)絡(luò)收錄或投稿，觀點僅代表作者本人,，不代表芒果財經(jīng)贊同其觀點或證實其描述,，版權(quán)歸原作者所有。轉(zhuǎn)載請注明出處：http://lequren.com/1061634.html
溫馨提示：投資有風(fēng)險,，入市須謹(jǐn)慎,。本資訊不作為投資理財建議。
