7月13日,，國(guó)家互聯(lián)網(wǎng)信息辦公室審議通過《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱《辦法》）,，2023年8月15日起開始施行。《辦法》對(duì)大模型發(fā)展原則、技術(shù)發(fā)展與治理、服務(wù)規(guī)范,、監(jiān)督責(zé)任和法律責(zé)任等方面提出明確要求，鼓勵(lì)生成式人工智能技術(shù)在各行業(yè),、各領(lǐng)域的創(chuàng)新應(yīng)用。受此政策影響,，三六零,、百度、阿里巴巴等國(guó)內(nèi)大模型頭部廠商有望進(jìn)入發(fā)展快車道,。
對(duì)于《辦法》的出臺(tái),，360集團(tuán)創(chuàng)始人周鴻祎表示，《辦法》內(nèi)容表明了有關(guān)部門鼓勵(lì)創(chuàng)新,，支持大模型發(fā)展的態(tài)度，為科技企業(yè)創(chuàng)新提供了信心和保障,。他認(rèn)為,，《辦法》明確了適用邊界，既能夠規(guī)范大模型的公眾服務(wù),，同時(shí)也有利于組織機(jī)構(gòu)的研發(fā)和應(yīng)用,。目前，產(chǎn)業(yè)數(shù)字化已成為國(guó)家戰(zhàn)略,，大模型的發(fā)展也應(yīng)該為產(chǎn)業(yè)數(shù)字化賦能,，作為工業(yè)革命級(jí)的生產(chǎn)力工具，幫助傳統(tǒng)產(chǎn)業(yè)特別是制造業(yè)實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型到智能化升級(jí),。大模型未來真正的發(fā)展機(jī)會(huì)就是企業(yè)級(jí)市場(chǎng),，包括組織機(jī)構(gòu)、政府和城市,。從《辦法》來看,，國(guó)家對(duì)企業(yè)級(jí)場(chǎng)景的應(yīng)用研發(fā)和落地整體持大力支持的態(tài)度。
一直以來,，我國(guó)堅(jiān)持發(fā)展和安全并重,，在鼓勵(lì)自主創(chuàng)新的同時(shí)，《辦法》強(qiáng)調(diào)提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任,，履行網(wǎng)絡(luò)信息安全義務(wù),。周鴻祎對(duì)此表示認(rèn)同，他認(rèn)為,，大模型是數(shù)字化的頂峰,，同樣是把“雙刃劍“，帶來生產(chǎn)力提升的同時(shí)存在安全風(fēng)險(xiǎn),，如數(shù)據(jù)和算法安全問題,，“幻覺”帶來的內(nèi)容安全隱患,。
據(jù)了解， 360對(duì)OpenAI,、微軟,、谷歌等廠商的大模型已開展安全風(fēng)險(xiǎn)評(píng)估。結(jié)果顯示,，主流大模型均存在提示注入攻擊等風(fēng)險(xiǎn),，可生成惡意代碼、釣魚郵件,，漏洞利用程序等,，存在安全隱患。作為全球領(lǐng)先,、國(guó)內(nèi)第一的數(shù)字安全公司,，360在人工智能安全方面積累深厚，涉及框架安全,、模型安全,、生成式AI安全等，已累計(jì)發(fā)現(xiàn)主流AI框架漏洞超過200個(gè),，影響超過40億終端設(shè)備,。以此為基礎(chǔ)，360首創(chuàng)大模型安全風(fēng)險(xiǎn)評(píng)估體系“AISE”,。對(duì)此,，周鴻祎表示“加強(qiáng)生成式人工智能大模型技術(shù)的安全向善可信可控是創(chuàng)新發(fā)展的前提，也是360堅(jiān)持攻克的方向,?！保ㄓ晏欤?/p>
免責(zé)聲明：本文來自網(wǎng)絡(luò)收錄或投稿,，觀點(diǎn)僅代表作者本人，不代表芒果財(cái)經(jīng)贊同其觀點(diǎn)或證實(shí)其描述,，版權(quán)歸原作者所有,。轉(zhuǎn)載請(qǐng)注明出處：http://lequren.com/1058602.html
溫馨提示：投資有風(fēng)險(xiǎn)，入市須謹(jǐn)慎,。本資訊不作為投資理財(cái)建議,。
