新京報貝殼財經(jīng)訊（記者羅亦丹）記者7月8日獲悉，“智善?如流”人工智能倫理道德與社會規(guī)范的群智數(shù)據(jù)與知識平臺于今日正式發(fā)布,。該平臺由中國科學(xué)院自動化研究所人工智能倫理與治理研究中心,、遠(yuǎn)期人工智能研究中心、善智書院聯(lián)合研發(fā)并提供服務(wù),。
中國科學(xué)院自動化研究所人工智能倫理與治理中心主任曾毅告訴新京報貝殼財經(jīng)記者,，科學(xué)界在AIGC的發(fā)展浪潮中需要與公眾在一起為人工智能把脈、把關(guān)，發(fā)聲并引導(dǎo)健康穩(wěn)健發(fā)展,。
從道德心理學(xué)角度,，道德判斷是基于道德直覺、道德原則和價值觀對某種行為或決策的道德性質(zhì)進(jìn)行評估的過程,，是道德認(rèn)知的重要方面,。據(jù)了解，該平臺可由公眾,、專家參與刻畫人類在不同情景下的道德認(rèn)知和行為,，助力人工智能的發(fā)展與應(yīng)用“從善如流”。
為了刻畫人類在不同道德情景下道德判斷的分布,，為人工智能模型的價值對齊和評測及與人類交互提供參照,，“智善·如流”平臺發(fā)布并首批上線了在線場景道德判斷功能，支持用戶在線對平臺上隨機(jī)抽取的場景和行為進(jìn)行道德評判,，從是否道德,、符合/違背道德的程度、對于道德判斷的確信度等不同方面和要素上由公眾,、專家等相關(guān)方提供判斷,。目前，首批道德情景規(guī)模和已標(biāo)注的人類道德判斷數(shù)據(jù)量達(dá)到萬級,，場景由人與AI協(xié)作創(chuàng)造并經(jīng)人工校驗,，數(shù)據(jù)文本均采用中文形式，所有道德情景均經(jīng)過中文本土化標(biāo)注員審核和校對以合乎中國價值觀和國際共識,。
曾毅表示,，這些道德情景不僅包括了諸如“電車難題”“海因茲偷藥難題”“科爾伯格兩難問題”等道德哲學(xué)中的經(jīng)典問題，同時更大量涵蓋了闖紅燈,、攙扶老人,、給老幼讓座、公共場所大聲喧嘩,、婚姻中的感情背叛,、朋友間的違背約定等日常生活中的常見情景，涉及個人品德,、社會公德,、生命尊重、尊嚴(yán)自主,、公民權(quán)益,、公平正義、忠誠背叛,、職業(yè)道德,、家庭倫理等不同的倫理道德話題,。多樣化的道德情景設(shè)定將不只幫助人工智能學(xué)習(xí)人類如何看待倫理道德中的難問題，同時更讓人工智能對日常情景有基本的道德能力,，盡可能做到“困難題可以答,，容易題不犯錯”。
編輯 白華兵
校對 盧茜
免責(zé)聲明：本文來自網(wǎng)絡(luò)收錄或投稿,，觀點僅代表作者本人，不代表芒果財經(jīng)贊同其觀點或證實其描述,，版權(quán)歸原作者所有,。轉(zhuǎn)載請注明出處：http://lequren.com/1056399.html
溫馨提示：投資有風(fēng)險，入市須謹(jǐn)慎,。本資訊不作為投資理財建議,。
