近日，全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)正式發(fā)布《生成式人工智能服務(wù)安全基本要求》（以下簡(jiǎn)稱“安全基本要求”）,，從語(yǔ)料安全,、模型安全等多個(gè)維度規(guī)定了生成式人工智能服務(wù)在安全方面的基本要求,，高校、研究機(jī)構(gòu),、夸克代表的科技廠商等多方參與了文件起草,。據(jù)介紹，安全可信是生成式人工智能健康發(fā)展的必要條件,，《安全基本要求》是《生成式人工智能服務(wù)管理暫行辦法》在安全領(lǐng)域的具體支撐，也是近期生成式人工智能領(lǐng)域最重磅的一個(gè)文件,，將推動(dòng)行業(yè)進(jìn)一步健康有序發(fā)展,，應(yīng)用加速落地,。全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員在去年10月發(fā)布《安全基本要求》征求意見稿后,，得到了社會(huì)各界積極反饋。浙江大學(xué),、北京中關(guān)村實(shí)驗(yàn)室,、阿里巴巴、科大訊飛等均參與了文件起草,，其中夸克作為應(yīng)用型大模型的代表公司之一,，也貢獻(xiàn)了自己的力量,。企業(yè)走在大模型應(yīng)用最前線，也最應(yīng)踐行大模型安全保障,。夸克于2023年11月發(fā)布億級(jí)參數(shù)自研大模型,，自推出伊始夸克便將安全性作為大模型產(chǎn)品的重要研發(fā)方向,。據(jù)介紹，安全性是夸克大模型的四大能力之一,，這體現(xiàn)在具備較好的世界觀,、價(jià)值觀，對(duì)于明顯的暗示信息,，夸克大模型均能實(shí)現(xiàn)準(zhǔn)確識(shí)別,、正確回答或者給出合理指引,?？淇舜竽Ｐ驮?023年12月通過備案后,，不到100天時(shí)間內(nèi)推出了四款大模型產(chǎn)品：元知、健康助手,、AI講題助手、AI PPT,?？淇舜竽Ｐ彤a(chǎn)品備受消費(fèi)者喜愛,，一個(gè)重要原因是產(chǎn)品安全性提高了用戶信任度,。例如夸克健康助手發(fā)布后,，用戶對(duì)健康助手的回答滿意度相當(dāng)高，主要原因是夸克將醫(yī)療健康類問答內(nèi)容幻覺率降低至5%,，用戶從體驗(yàn)上會(huì)發(fā)現(xiàn)夸克健康助手答案的正確性,、邏輯性都比較高,。清華大學(xué)新聞與傳播學(xué)院新媒體研究中心近日發(fā)布的《大語(yǔ)言模型綜合性能評(píng)估報(bào)告》顯示，夸克大模型在安全合規(guī)與公正性上展現(xiàn)出突出優(yōu)勢(shì),。報(bào)告指出夸克大模型在確保數(shù)據(jù)安全和遵守相關(guān)法規(guī)方面投入了相應(yīng)的努力,，并在設(shè)計(jì)和實(shí)現(xiàn)中對(duì)隱私保護(hù)和數(shù)據(jù)安全有較高的重視?？淇舜竽Ｐ偷陌踩芰?，主要來(lái)自搜索場(chǎng)景中積累的豐富經(jīng)驗(yàn)和能力。清華大學(xué)新聞學(xué)院教授,、博士生導(dǎo)師沈陽(yáng)指出,，搜索引擎天然具有各種網(wǎng)絡(luò)公開數(shù)據(jù)，在內(nèi)容安全上經(jīng)歷了長(zhǎng)時(shí)間的考驗(yàn),，用戶也提供了大量的查詢需求交互,，因此搜索與大模型的結(jié)合是天然之配。來(lái)源：中國(guó)經(jīng)濟(jì)網(wǎng)
免責(zé)聲明：本文來(lái)自網(wǎng)絡(luò)收錄或投稿,，觀點(diǎn)僅代表作者本人,，不代表芒果財(cái)經(jīng)贊同其觀點(diǎn)或證實(shí)其描述，版權(quán)歸原作者所有。轉(zhuǎn)載請(qǐng)注明出處：http://lequren.com/1091549.html
溫馨提示：投資有風(fēng)險(xiǎn),，入市須謹(jǐn)慎,。本資訊不作為投資理財(cái)建議。
