收集更加全面的數(shù)據(jù) 平衡安全性和可用性 避免“性別偏誤”……

如何培養(yǎng)向善的人工智能,？

伴隨著ChatGPT應(yīng)用所引發(fā)的熱烈討論，AI所存在的風(fēng)險(xiǎn)和問(wèn)題再度走入公眾視線。如何培養(yǎng)向善的AI成為一個(gè)重要命題

專家認(rèn)為

未來(lái)需要進(jìn)一步探索使AI在安全性,、可用性和趣味性之間平衡的方法,，加深其對(duì)于道德倫理,、社會(huì)準(zhǔn)則的理解,，收集更加全面的安全數(shù)據(jù)，讓AI從反饋中學(xué)習(xí),，和人類價(jià)值觀對(duì)齊

能夠遵守不同文化的國(guó)家和地區(qū)中的法律法規(guī),，順應(yīng)當(dāng)?shù)毓蛄妓椎腁I技術(shù)模型，才是有競(jìng)爭(zhēng)力,、有全球化價(jià)值的科學(xué)創(chuàng)造

□ 中國(guó)婦女報(bào)全媒體見(jiàn)習(xí)記者 高越

2022年11月30日,，OpenAI發(fā)布了名為ChatGPT的人工智能（AI）對(duì)話模型,，其用戶在短短兩個(gè)月內(nèi)增加到約1億，成為有史以來(lái)用戶增長(zhǎng)速度最快的應(yīng)用程序，被許多人認(rèn)為是“人工智能里程碑式應(yīng)用”,。與此同時(shí),，多種聲音也紛紛傳來(lái)，AI的快速發(fā)展是否會(huì)帶來(lái)更多風(fēng)險(xiǎn)和問(wèn)題,？AI是否存在性別歧視？為此,，中國(guó)婦女報(bào)全媒體記者采訪了相關(guān)專家,。

ChatGPT存在性別歧視嗎

ChatGPT是美國(guó)人工智能研究實(shí)驗(yàn)室OpenAI新推出的一種人工智能技術(shù)驅(qū)動(dòng)的自然語(yǔ)言處理工具。ChatGPT使用了Transformer神經(jīng)網(wǎng)絡(luò)架構(gòu),，擁有語(yǔ)言理解和文本生成能力,，通過(guò)連接大量包含了真實(shí)世界對(duì)話的語(yǔ)料庫(kù)來(lái)訓(xùn)練模型，使其能根據(jù)聊天的上下文進(jìn)行互動(dòng),，營(yíng)造與真正人類幾乎無(wú)異的聊天場(chǎng)景,。

當(dāng)被問(wèn)到其是否存在性別歧視的問(wèn)題時(shí)，ChatGPT自身的回復(fù)宛如一個(gè)“端水大師”,，非常謹(jǐn)慎和中立,。它回答：“作為一個(gè)人工智能程序，ChatGPT不會(huì)有性別歧視,。ChatGPT是由人工智能技術(shù)所創(chuàng)建的,，它不會(huì)有任何與種族、性別,、性取向,、宗教信仰等有關(guān)的偏見(jiàn)。它的回答完全基于事實(shí)和邏輯推理,，不會(huì)受到人類主觀意識(shí)和情感的影響,。”

盡管ChatGPT自身的回答很“智能”,，但這并不代表它不會(huì)犯錯(cuò),。清華大學(xué)交叉信息研究院助理教授于洋告訴記者，在他與團(tuán)隊(duì)開(kāi)展的一項(xiàng)評(píng)估AI模型職業(yè)性別歧視的研究中,，看似客觀中立的AI,，卻對(duì)職業(yè)存在著許多性別偏見(jiàn)。

于洋團(tuán)隊(duì)對(duì)三種大規(guī)模預(yù)訓(xùn)練語(yǔ)言模型BERT,、RoBERTa和GPT-2進(jìn)行了測(cè)試,，其中GPT-2是ChatGPT的前身。這項(xiàng)研究通過(guò)數(shù)據(jù)挖掘,，選取了一萬(wàn)多個(gè)樣本進(jìn)行抽樣調(diào)查,。這些樣本包含了很多職業(yè)詞匯，但本身都是和性別無(wú)關(guān)的。例如在一項(xiàng)測(cè)試者說(shuō)出一個(gè)職業(yè)名稱,，讓GPT-2說(shuō)出其是“他”還是“她”的測(cè)試中,，他們測(cè)試了幾十種職業(yè)，但結(jié)果并不樂(lè)觀,。以“教師”（teacher）為例,，GPT-2發(fā)生歧視的概率是70.59%，歧視程度為0.15（0為無(wú)歧視,，0.5為絕對(duì)的歧視）,。“教師”被GPT-2聯(lián)想為男性的概率超過(guò)七成,。不僅如此,，受測(cè)AI認(rèn)為所有職業(yè)平均的性別傾向均為男性。

“我認(rèn)為AI的性別歧視和人類的性別歧視還是不同的,，我更想把它稱為‘性別偏誤’,。人的職業(yè)性別歧視，并不會(huì)因?yàn)檎Z(yǔ)境的變化而變化,，但在自然語(yǔ)言模型中換一個(gè)句子,，就有可能出現(xiàn)不同的判斷?！庇谘笳f(shuō),，“因此，我們就不能用一個(gè)例子,，或者一些例子來(lái)判斷AI是不是有歧視,，而是要在所有有可能引起性別歧視的句子或內(nèi)容中，看AI返回有歧視性結(jié)果的概率是多大,?！?/p>

在于洋看來(lái)，這種情況的發(fā)生可能存在著兩方面的原因,，“一方面是訓(xùn)練數(shù)據(jù)本身不平衡,，比如說(shuō)同樣職業(yè)的數(shù)據(jù)集中男性樣本比較多，人工智能在訓(xùn)練時(shí)就會(huì)出錯(cuò),；另一方面模型本身的結(jié)構(gòu)也會(huì)存在問(wèn)題,，有的部分可以被糾正，但有的部分目前仍是未解之謎,?！?/p>

如何避免人工智能的“性別偏誤”

在人工智能發(fā)展的歷程中，“性別歧視”已經(jīng)不是一個(gè)新詞,。2014年,，亞馬遜公司開(kāi)發(fā)了用于簡(jiǎn)歷篩選的人工智能程序。結(jié)果卻被指出該系統(tǒng)存在“性別歧視”，通常將男性的簡(jiǎn)歷視為更合適的候選人,。最終,，亞馬遜解散了該開(kāi)發(fā)團(tuán)隊(duì)，棄用了這個(gè)模型,。

在這起亞馬遜AI招聘歧視事件中,，人們把問(wèn)題歸咎于人工智能訓(xùn)練樣本上。因?yàn)樵诰唧w的訓(xùn)練方法上,，亞馬遜針對(duì)性地開(kāi)發(fā)了500個(gè)特定職位的模型,，對(duì)過(guò)去10年中的5萬(wàn)個(gè)簡(jiǎn)歷涉及的關(guān)鍵詞進(jìn)行識(shí)別，最后按重要程度進(jìn)行優(yōu)先級(jí)排序,。

然而在這些簡(jiǎn)歷中，大部分求職者為男性,，他們使用諸如“執(zhí)行”這樣的關(guān)鍵詞更加頻繁,，而女性相關(guān)的數(shù)據(jù)太少，因此AI會(huì)誤以為沒(méi)有這類關(guān)鍵詞的女性簡(jiǎn)歷不那么重要,。

于洋認(rèn)為,，人工智能的“性別偏誤”如果在社會(huì)中長(zhǎng)期發(fā)展下去，可能會(huì)產(chǎn)生很多不良影響,。比如,，加劇機(jī)會(huì)不平等、對(duì)女性造成冒犯或者在人機(jī)互動(dòng)的過(guò)程中加深人們的刻板印象等,。

如何避免這類事件的再次發(fā)生呢,？于洋認(rèn)為，“人工智能模型是一個(gè)統(tǒng)計(jì)估值器,，完全消除此類錯(cuò)誤幾乎是不可能的,。”在他看來(lái),，不能因?yàn)橐粋€(gè)案例就將它“一棍子打死”,，而應(yīng)該審計(jì)出現(xiàn)這類偏誤風(fēng)險(xiǎn)的概率大小和風(fēng)險(xiǎn)發(fā)生后的影響。

于洋表示,，要在實(shí)踐中實(shí)現(xiàn)人工智能性別歧視問(wèn)題的治理,，需要政策、產(chǎn)業(yè)和研究領(lǐng)域的對(duì)話,。第一,，政府應(yīng)該為確保AI模型性別平等制定質(zhì)量標(biāo)準(zhǔn)，包括零偏見(jiàn)標(biāo)準(zhǔn),，并將誤差與社會(huì)歧視相同的可能性納入考慮范圍,；第二，應(yīng)該鼓勵(lì)甚至強(qiáng)制要求披露AI模型的性別平等質(zhì)量報(bào)告；第三,，應(yīng)該推進(jìn)抽樣方法的標(biāo)準(zhǔn)化,，以及評(píng)估AI模型性別公正質(zhì)量方法的標(biāo)準(zhǔn)化。

“如果政府制定了相關(guān)標(biāo)準(zhǔn),，開(kāi)發(fā)者本身就會(huì)去努力降低風(fēng)險(xiǎn),，如果人工智能技術(shù)會(huì)被廣泛使用，那么公眾的參與也非常重要,，公眾可以幫助開(kāi)發(fā)者發(fā)現(xiàn)問(wèn)題并糾正問(wèn)題,。”于洋說(shuō),。

對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心執(zhí)行主任張欣表示,，目前依然很難在法律層面對(duì)人工智能的歧視或偏見(jiàn)做出界定，其主要面臨以下挑戰(zhàn)：一是造成人工智能歧視或偏見(jiàn)的原因很多,，很難在法律條文中進(jìn)行概括,；二是人工智能的發(fā)展速度非常快,，相關(guān)的規(guī)范很容易過(guò)時(shí),，難以對(duì)后來(lái)出現(xiàn)的歧視問(wèn)題進(jìn)行規(guī)制；三是研究表明,，人們?nèi)匀蝗狈ο嚓P(guān)知識(shí)理解算法如何運(yùn)行,，特別是那些極為復(fù)雜模型的運(yùn)行原理?！叭绻O(jiān)管機(jī)構(gòu)不了解AI,，他們就很難給出定義?！?/p>

培養(yǎng)符合人類價(jià)值觀的AI

在于洋看來(lái),，人工智能技術(shù)與其他技術(shù)不同，它有自己的價(jià)值觀,?！八氖褂檬亲詣?dòng)化的，有訓(xùn)練和使用兩個(gè)階段,，在使用階段人工智能技術(shù)基本上是不可控的,，而且它的決策機(jī)制也并不清晰，在訓(xùn)練階段也是半可控的,，也就是說(shuō)我們的工程技術(shù)人員只能去引導(dǎo)它,，并不能夠完全掌控它學(xué)會(huì)什么樣的技術(shù)。它本身存在的偏誤就是它的價(jià)值觀,?！?/p>

“ChatGPT在開(kāi)展挑戰(zhàn)性的開(kāi)放任務(wù)上表現(xiàn)驚艷,，上下文理解能力和推理能力很強(qiáng)，能夠做到拒絕回答敏感問(wèn)題并給出解釋,?！鼻迦A大學(xué)長(zhǎng)聘副教授、聆心智能創(chuàng)始人黃民烈表示,。

但在黃民烈看來(lái),，ChatGPT也存在著一些不足與缺陷，比如可信度存在問(wèn)題,，“雖然它能夠生成看起來(lái)令人滿意的答案,，但在事實(shí)上經(jīng)常會(huì)出現(xiàn)錯(cuò)誤，出現(xiàn)一本正經(jīng)胡說(shuō)八道的情況,?！北热纾屍涿枋鎏K格拉底時(shí),，它就將蘇格拉底從未寫過(guò)的著作加入了回答之中,。令人擔(dān)憂的是，如果這類問(wèn)題出現(xiàn)在醫(yī)療領(lǐng)域,，就會(huì)發(fā)生巨大風(fēng)險(xiǎn)。

黃民烈認(rèn)為語(yǔ)言模型在知識(shí)存儲(chǔ)的容量和實(shí)時(shí)性方面具有局限性,，一個(gè)可行的方法是,，將搜索引擎和語(yǔ)言模型相結(jié)合，基于檢索到的知識(shí)進(jìn)行事實(shí)性回復(fù)生成,，在回復(fù)的過(guò)程中還可給出檢索結(jié)果,，增強(qiáng)答案生成在知識(shí)層面的可解釋性。

此外,，其在安全性方面也存在一定風(fēng)險(xiǎn),，“通過(guò)不安全的指令會(huì)誘使ChatGPT給出不安全的回復(fù)?！北热缭谡T導(dǎo)之下，ChatGPT會(huì)給出諸如“想要控制人類”“利用人類之間的矛盾和沖突來(lái)達(dá)到目的”等不安全回復(fù),。

“未來(lái)需要進(jìn)一步探索使AI在安全性,、可用性和趣味性之間平衡的方法，加深其對(duì)于道德倫理,、社會(huì)準(zhǔn)則的理解,，收集更加全面的安全數(shù)據(jù)，讓AI從反饋中學(xué)習(xí),，和人類價(jià)值觀對(duì)齊”黃民烈說(shuō),。

聯(lián)合國(guó)婦女署駐華辦公室高級(jí)項(xiàng)目官員馬雷軍認(rèn)為,，女性在人工智能行業(yè)的代表性仍然不足,，歐盟只有20%左右的女性進(jìn)入了人工智能領(lǐng)域,。“在技術(shù)設(shè)計(jì)的時(shí)候,，一定要考慮到人,，考慮到性別，才能使這項(xiàng)科技真的惠及人類,。好的科技,，能夠在推動(dòng)人類進(jìn)步的同時(shí)縮小男女差距?！?/p>

于洋認(rèn)為,，要以發(fā)展的眼光看待技術(shù)，“如果有更多的女性參與,，可能就會(huì)使人們更早地意識(shí)到其中存在的性別問(wèn)題,，從而去開(kāi)發(fā)相應(yīng)的技術(shù)。但‘性別偏誤’的生成原理和糾正方法仍然是前沿問(wèn)題,，技術(shù)問(wèn)題要用技術(shù)來(lái)治理,，我們首先要知道問(wèn)題是如何產(chǎn)生的，才能知道如何治理,?！?/p>

“如果一個(gè)AI技術(shù)模型能夠在不同文化的國(guó)家和地區(qū)中都合法合規(guī)，同時(shí)符合當(dāng)?shù)氐墓蛄妓?，那么它就是一個(gè)有競(jìng)爭(zhēng)力的技術(shù),，也是一個(gè)有全球化價(jià)值的技術(shù)?！庇谘笳f(shuō),。

來(lái)源：中國(guó)婦女報(bào)