新京報(bào)貝殼財(cái)經(jīng)訊（記者羅亦丹）記者7月8日獲悉，“智善?如流”人工智能倫理道德與社會(huì)規(guī)范的群智數(shù)據(jù)與知識(shí)平臺(tái)于今日正式發(fā)布。該平臺(tái)由中國(guó)科學(xué)院自動(dòng)化研究所人工智能倫理與治理研究中心、遠(yuǎn)期人工智能研究中心,、善智書院聯(lián)合研發(fā)并提供服務(wù),。
中國(guó)科學(xué)院自動(dòng)化研究所人工智能倫理與治理中心主任曾毅告訴新京報(bào)貝殼財(cái)經(jīng)記者,，科學(xué)界在AIGC的發(fā)展浪潮中需要與公眾在一起為人工智能把脈、把關(guān),，發(fā)聲并引導(dǎo)健康穩(wěn)健發(fā)展,。
從道德心理學(xué)角度，道德判斷是基于道德直覺,、道德原則和價(jià)值觀對(duì)某種行為或決策的道德性質(zhì)進(jìn)行評(píng)估的過程,，是道德認(rèn)知的重要方面。據(jù)了解,，該平臺(tái)可由公眾,、專家參與刻畫人類在不同情景下的道德認(rèn)知和行為，助力人工智能的發(fā)展與應(yīng)用“從善如流”,。
為了刻畫人類在不同道德情景下道德判斷的分布,，為人工智能模型的價(jià)值對(duì)齊和評(píng)測(cè)及與人類交互提供參照，“智善·如流”平臺(tái)發(fā)布并首批上線了在線場(chǎng)景道德判斷功能,，支持用戶在線對(duì)平臺(tái)上隨機(jī)抽取的場(chǎng)景和行為進(jìn)行道德評(píng)判,，從是否道德、符合/違背道德的程度,、對(duì)于道德判斷的確信度等不同方面和要素上由公眾,、專家等相關(guān)方提供判斷。目前,，首批道德情景規(guī)模和已標(biāo)注的人類道德判斷數(shù)據(jù)量達(dá)到萬級(jí),，場(chǎng)景由人與AI協(xié)作創(chuàng)造并經(jīng)人工校驗(yàn)，數(shù)據(jù)文本均采用中文形式,，所有道德情景均經(jīng)過中文本土化標(biāo)注員審核和校對(duì)以合乎中國(guó)價(jià)值觀和國(guó)際共識(shí),。
曾毅表示，這些道德情景不僅包括了諸如“電車難題”“海因茲偷藥難題”“科爾伯格兩難問題”等道德哲學(xué)中的經(jīng)典問題,，同時(shí)更大量涵蓋了闖紅燈,、攙扶老人、給老幼讓座,、公共場(chǎng)所大聲喧嘩,、婚姻中的感情背叛、朋友間的違背約定等日常生活中的常見情景,，涉及個(gè)人品德,、社會(huì)公德,、生命尊重,、尊嚴(yán)自主、公民權(quán)益,、公平正義,、忠誠(chéng)背叛,、職業(yè)道德、家庭倫理等不同的倫理道德話題,。多樣化的道德情景設(shè)定將不只幫助人工智能學(xué)習(xí)人類如何看待倫理道德中的難問題,，同時(shí)更讓人工智能對(duì)日常情景有基本的道德能力，盡可能做到“困難題可以答,，容易題不犯錯(cuò)”,。
編輯 白華兵
校對(duì) 盧茜
免責(zé)聲明：本文來自網(wǎng)絡(luò)收錄或投稿，觀點(diǎn)僅代表作者本人,，不代表芒果財(cái)經(jīng)贊同其觀點(diǎn)或證實(shí)其描述,，版權(quán)歸原作者所有。轉(zhuǎn)載請(qǐng)注明出處：http://lequren.com/1056399.html
溫馨提示：投資有風(fēng)險(xiǎn),，入市須謹(jǐn)慎,。本資訊不作為投資理財(cái)建議。
