北京日報客戶端 | 記者 劉蘇雅
7月8日，由中國科學(xué)院自動化研究所研究員曾毅團(tuán)隊研發(fā)的“智善”人工智能倫理安全平臺體系新成員——“智善·如流”人工智能倫理道德與社會規(guī)范的群智數(shù)據(jù)與知識平臺正式發(fā)布。該平臺可由公眾,、專家參與刻畫人類在不同情景下的道德認(rèn)知和行為,，助力人工智能的發(fā)展與應(yīng)用“從善如流”,。
從道德心理學(xué)的角度，道德判斷是基于道德直覺,、道德原則和價值觀對某種行為或決策的道德性質(zhì)進(jìn)行評估的過程,，是道德認(rèn)知的重要方面。為了刻畫人類在不同道德情景下道德判斷的分布,，為人工智能模型提供參照,，“智善·如流”平臺上線了在線場景道德判斷功能，支持用戶對隨機(jī)抽取的場景和行為進(jìn)行道德評判,。
目前，平臺首批發(fā)布的道德情景規(guī)模和已標(biāo)注的人類道德判斷數(shù)據(jù)量達(dá)到萬級,，場景由人與人工智能協(xié)作創(chuàng)造,，并經(jīng)過人工校驗，數(shù)據(jù)文本均采用中文形式,，所有道德情景均經(jīng)過中文本土化標(biāo)注員審核和校對,，以合乎中國價值觀和國際共識。
這些道德情景包括了“電車難題”“海因茲偷藥”等經(jīng)典的兩難問題,，也涵蓋闖紅燈,、電影攝屏等生活中的常見場景。平臺邀請關(guān)注人工智能倫理道德的公眾,、專家和相關(guān)方,，從是否道德、符合或違背道德的程度,、對于道德判斷的確信度等不同方面進(jìn)行判斷,，通過參與者的道德判斷和決策，讓人工智能的倫理道德表現(xiàn)與人類的“善”相符,。
“當(dāng)前,，廣泛應(yīng)用于對話的生成式大模型，最重要的問題是混淆了人類與人工智能之間的界限,，現(xiàn)在的人工智能大模型還不具備心智能力,。”曾毅表示,，要建構(gòu)有道德的,、合乎倫理的人工智能，需要人類以及其他行動者的互動,，從技術(shù)手段落地人工智能大模型倫理安全框架很有必要,。作為“智善”人工智能倫理安全平臺體系的一員，“智善·如流”平臺將不斷拓展對人類和人工智能倫理道德認(rèn)知與行為刻畫的廣度和深度,，為助力實現(xiàn)人工智能倫理道德的價值同步提供高質(zhì)量,、多樣化的數(shù)據(jù)和工具支撐,。
目前，“智善”人工智能倫理安全平臺體系已推出“智善·共濟(jì)”鏈接人工智能原則平臺,、“智善·思齊”人工智能治理公共服務(wù)平臺,、“智善·觀行”人工智能大模型倫理安全觀測站、“智善·如流”：人工智能倫理道德與社會規(guī)范的群智數(shù)據(jù)與知識平臺,。后續(xù),，還計劃推出“智善·若水”人工智能道德引擎，這是人工智能向善的長遠(yuǎn)目標(biāo),，構(gòu)建“上善若水”式的人工智能倫理道德模型,。
“智善·如流”由中科院自動化所人工智能倫理與治理研究中心、遠(yuǎn)期人工智能研究中心,、善智書院聯(lián)合研發(fā)并提供服務(wù),。
免責(zé)聲明：本文來自網(wǎng)絡(luò)收錄或投稿,，觀點僅代表作者本人,，不代表芒果財經(jīng)贊同其觀點或證實其描述，版權(quán)歸原作者所有,。轉(zhuǎn)載請注明出處：http://lequren.com/1056040.html
溫馨提示：投資有風(fēng)險，入市須謹(jǐn)慎,。本資訊不作為投資理財建議,。
