電影《我,，機(jī)器人》中的場景，機(jī)器人走上街頭
眼下,，ChatGPT爆火,、AIGC（人工智能生成內(nèi)容）快速突破，引發(fā)全球?qū)?span id="a6otyhj" class="wpcom_keyword_link">人工智能（AI）安全性前所有未有的擔(dān)憂,。
三月的最后一天，身處漩渦中的OpenAI創(chuàng)始人兼首席執(zhí)行官山姆·阿爾特曼（Sam Altman）公布自己5 月和6 月的旅行計(jì)劃,。他將前往歐洲主要城市以及迪拜、新德里,、新加坡,、雅加達(dá)、首爾,、東京,、墨爾本，除了與當(dāng)?shù)豋pen AI 用戶與開發(fā)者進(jìn)行交流外,，他還希望在一些城市與政策制定者進(jìn)行會(huì)晤，以找到解除人類對于AI利用憂慮的答案,。
目前,，馬斯克聯(lián)手權(quán)威人士叫停GPT-4以上模型開發(fā)的簽名規(guī)模,，已從千人上升到數(shù)萬人,；歐盟和美國消費(fèi)者權(quán)益保護(hù)組織呼吁對Open AI進(jìn)行調(diào)查并設(shè)施更嚴(yán)格的監(jiān)管；CAIDP（非營利組織人工智能與數(shù)字政策中心）要求聯(lián)邦貿(mào)易委員會(huì)（FTC）停止ChatGPT的商業(yè)部署,，并在未來推出任何模型之前獨(dú)立評估模型；意大利宣布封禁使用ChatGPT,；頂級投資公司 SV Angel，將在4月中旬召集OpenAI,、微軟,、谷歌、蘋果,、英偉達(dá)等公司,，探討制定使用 AI 技術(shù)的標(biāo)準(zhǔn)。
是讓AI繼續(xù)野蠻生長,，還是先找到更好的AI“剎車系統(tǒng)”和“安全帶”再繼續(xù)上路,，引發(fā)全球大爭論。
與此同時(shí),，各國開始實(shí)施對于包括AIGC在內(nèi)的AI更嚴(yán)格的監(jiān)管,。4月11日，中國互聯(lián)網(wǎng)信息辦公室就《生成式人工智能服務(wù)管理辦法（征求意見稿）》公開征求意見,。同一天,，美國商務(wù)部正式就ChatGPT等AI工具進(jìn)行審查問責(zé)措施公開征求意見，包括新AI模型在發(fā)布前是否應(yīng)該通過認(rèn)證程序等問題,。
AI越來越強(qiáng),，人類擔(dān)憂什么？
AI的潘多拉魔盒終于要被打開,，從實(shí)驗(yàn)室逃出的AI,，引發(fā)全球前所未有的失控?fù)?dān)憂。
Meta副總裁兼首席AI科學(xué)家,、圖靈獎(jiǎng)獲得者揚(yáng)立昆（Yann LeCun）認(rèn)為,，目前人們對于AI的憂慮和恐懼，主要分為兩類：一是與未來有關(guān),，擔(dān)心AI未來會(huì)不受控制,，逃離實(shí)驗(yàn)室，最終控制人類,。二是與現(xiàn)實(shí)有關(guān),，AI在公平、偏見上的缺陷會(huì)對社會(huì)與經(jīng)濟(jì)造成沖擊,。
關(guān)于AI是否會(huì)逃出實(shí)驗(yàn)室,，控制、統(tǒng)治人類,，最近揚(yáng)立昆與斯坦福大學(xué)人工智能實(shí)驗(yàn)室主任吳恩達(dá)（Andrew Ng）進(jìn)行了一場公開直播對話,，吳恩達(dá)給出的答案是，他沒有看到今天的AI有任何逃出實(shí)驗(yàn)室的風(fēng)險(xiǎn),，至少要幾十年甚至幾百年才有可能,。而揚(yáng)立昆認(rèn)為，讓AI在一個(gè)特定硬件平臺上保持運(yùn)行都很難,。言下之意,，AI并無威脅和控制人類的能力。
北京郵電大學(xué)教授,、人機(jī)交互與認(rèn)知工程實(shí)驗(yàn)室主任劉偉更愿意將今天以GPT為代表的AIGC 視為“線頭握在人類手中的風(fēng)箏”,。“GPT是一種高級自動(dòng)化,、像‘人’的東西,。而AI真正要產(chǎn)生突破的是獨(dú)立性、自主性，GPT沒有自主性,，它依舊被人類編程操作,，它更像是一個(gè)‘風(fēng)箏’被手中有線的人類操控?！眲フf,。
雖然大部分專家都認(rèn)為，讓AI真正擁有超越人類的能力,，有控制人類的能力,，實(shí)現(xiàn)真正的AGI（通用人工智能）依然漫長。但人們依然擔(dān)憂未來,，在經(jīng)典科幻電影《我,，機(jī)器人》（I,Robot）中，機(jī)器人具有自我進(jìn)化能力,，轉(zhuǎn)化成了人類的“機(jī)械公敵”,，制造者和被制造者展開了戰(zhàn)爭。
未來看似遙遠(yuǎn),，但眼下AIGC所帶來的現(xiàn)實(shí)沖擊,，已經(jīng)足以令全社會(huì)震驚。
藍(lán)色光標(biāo)網(wǎng)站頁面
一是AICG讓很多人丟了飯碗。4月12日,，知名廣告及公關(guān)服務(wù)商藍(lán)色光標(biāo)管理層下發(fā)郵件,，稱公司將全面擁抱AIGC，決定無期限全面停止創(chuàng)意設(shè)計(jì),、方案撰寫,、文案撰寫、短期雇員四類相關(guān)外包支出,。
藍(lán)色光標(biāo)停止創(chuàng)意外包采購,，證實(shí)了OpenAI公司的判斷。3月中旬OpenAI發(fā)布《GPT是GPT：大型語言模型對勞動(dòng)力市場潛在影響的早期觀察》調(diào)研報(bào)告,。報(bào)告顯示，8成勞動(dòng)人口將受到ChatGPT影響,，而且是學(xué)歷收入越高越危險(xiǎn),。另據(jù)就業(yè)服務(wù)平臺Resume Builder調(diào)查統(tǒng)計(jì)，在1000多家受訪美國企業(yè)中,，用ChatGPT取代部分員工的比例已達(dá)到48%,。按照高盛的研究分析，AIGC將改變?nèi)蚣s3億個(gè)工作崗位，導(dǎo)致數(shù)千萬人失業(yè),。微軟CEO薩提亞·納德拉說：“AIGC技術(shù)是知識工作者的工業(yè)革命,。”
二是出現(xiàn)一系列新安全挑戰(zhàn),。網(wǎng)絡(luò)安全領(lǐng)域?qū)＜覄⒔軐IGC引發(fā)的安全挑戰(zhàn)概括為兩類：一類是蓄意制造的,，另一類是意外遺留的。
從蓄意制造的角度看,，隨著AIGC技術(shù)的發(fā)展,，不實(shí)證據(jù)的制作變得越來越容易，惡意分子可能利用AIGC技術(shù)制作,、傳播深度偽造內(nèi)容和其他虛假信息,，進(jìn)行AI詐騙、誹謗,、假冒身份等新型違法犯罪活動(dòng),。
“有圖就有真相“的時(shí)代就有可能從此瓦解，帶來的結(jié)果是社會(huì)的信任度下降,，威脅個(gè)人的隱私和安全,。
歐洲刑警組織在最新科技報(bào)告中指出，ChatGPT等AI驅(qū)動(dòng)的聊天機(jī)器人或被濫用于發(fā)動(dòng)網(wǎng)絡(luò)釣魚攻擊,、散布虛假信息和實(shí)施網(wǎng)絡(luò)犯罪,。此外，由于其有能力復(fù)制語言模式,，可冒充特定個(gè)人或團(tuán)體的講話風(fēng)格,，該聊天機(jī)器人或被犯罪分子用來鎖定受害者。
從意外遺留的角度看,，“AIGC本身面臨的風(fēng)險(xiǎn)有以下幾方面：首先,，AIGC訓(xùn)練數(shù)據(jù)集的質(zhì)量會(huì)影響到模型的性能；其次,，數(shù)據(jù)毒化的問題,，通過在訓(xùn)練的數(shù)據(jù)集里面加入少量被攻擊者精心構(gòu)造的有毒數(shù)據(jù)，從而破壞模型的可用性,、完整性甚至泛化性,；最后，算法選取不當(dāng)帶來的風(fēng)險(xiǎn),?！皠⒔苷f。
天壤智能創(chuàng)始人薛貴榮也談到了“模型自身的不確定性和不可控性”,。GPT-4已經(jīng)是人類世界到目前為止最復(fù)雜的AI系統(tǒng),。整合了語言、視覺等多模態(tài)能力，多模態(tài)之間會(huì)互相加強(qiáng)并且迭代,，最后迭代到什么高度是人類無法預(yù)知的,。能力越強(qiáng)，風(fēng)險(xiǎn)就越大,。最近AI似乎開始有走向自主化的趨勢,，國外已經(jīng)有團(tuán)隊(duì)利用GPT-4進(jìn)行科研，卡耐基梅隆大學(xué)化學(xué)系做了一個(gè)可以做研究又會(huì)做實(shí)驗(yàn)的AI系統(tǒng),，AI表現(xiàn)出很強(qiáng)的邏輯推理分析能力,。中國科學(xué)院計(jì)算技術(shù)研究所研究員包云崗認(rèn)為，GPT-4的知識體系中存在“污點(diǎn)知識”,。也許這些“污點(diǎn)知識”在整個(gè)GPT-4大模型中的占比還不高,，這些“污點(diǎn)”對于一些應(yīng)用場景也許并不重要，比如生成一個(gè)團(tuán)建活動(dòng)方案或一個(gè)報(bào)告提綱等,，但是對于一些需要精準(zhǔn)答案的場景,，確實(shí)是不可接受的。如何清理ChatGPT系列大模型中現(xiàn)有的“污點(diǎn)知識”,，將是未來所面臨的挑戰(zhàn)之一,。
“ChatGPT對話涉及用戶很多個(gè)人隱私信息，比如個(gè)人資料,、電話地址,、公司信息、財(cái)務(wù)信息,、醫(yī)療信息等,，這類用戶人信息被泄漏和不正當(dāng)操縱，會(huì)造成比較大面積的公共安全威脅,?！毖F榮說。
事實(shí)如此,，今年3月下旬,，三星半導(dǎo)體剛引入ChatGPT不到20天，即發(fā)生了3起機(jī)密數(shù)據(jù)泄漏事件,，涉及三星半導(dǎo)體設(shè)備測量資料,、產(chǎn)品良率等信息。
三是對教育,、組織結(jié)構(gòu),，社會(huì)倫理等都將產(chǎn)生新的沖擊。
“AIGC出現(xiàn)后,，學(xué)生作弊現(xiàn)象層出不窮,，AIGC的出現(xiàn)顛覆了傳統(tǒng)教育，在之前的教育關(guān)系中,，學(xué)習(xí)者的信息是遠(yuǎn)遠(yuǎn)低于教學(xué)者的,，但是現(xiàn)在AI出現(xiàn)，讓每個(gè)學(xué)習(xí)者都有無限的信息量,。教育關(guān)系發(fā)生了變化,。”LEAPS國際研究中心的創(chuàng)始人 Joey Lin認(rèn)為,。
“AIGC的快速突破,，智能的大量擴(kuò)散，當(dāng)每一個(gè)人都是專家,，每一個(gè)人都是一個(gè)特種兵的時(shí)候,，原來以班長、排長,、連長,、團(tuán)長組成的靜態(tài)樹狀組織結(jié)構(gòu)，就很難滿足企業(yè),、社會(huì)的發(fā)展需求,。公司的結(jié)構(gòu)、社會(huì)的組織結(jié)構(gòu)就需要發(fā)生變化,?！睘懘a科技創(chuàng)始人、CEO周健表示,，目前看,，GTP-3的智能略低于人類，GTP-4的智能與人類相當(dāng),，GPT-5的能力有可能超越人類，當(dāng)全社會(huì)都可以用極低的成本獲得智能以后,，原來公司的治理架構(gòu)就無法適應(yīng)了,。
中國的《生成式人工智能服務(wù)管理辦法（征求意見稿）》與美國商務(wù)部的AI工具審查問責(zé)措施公開征求意見稿，都對AIGC的信息安全,、數(shù)據(jù)合規(guī),、版權(quán)保護(hù)等一系列熱點(diǎn)問題進(jìn)行了規(guī)范，畫出了紅線,，釋放出技術(shù)發(fā)展與安全合規(guī)同步推進(jìn)的信號,。
與前幾次工業(yè)革命不同，AIGC不僅僅是一個(gè)工具,，作為一個(gè)新的智能體,，其對于整個(gè)社會(huì)的影響超出想象,，我們需要從更大的維度做更多深層次的思考，來構(gòu)建緩沖帶,。
一是關(guān)于就業(yè),。這一次AIGC引發(fā)的產(chǎn)業(yè)轉(zhuǎn)型以海嘯般的速度襲來，其帶來的就業(yè)沖擊讓人類措手不及,，人類應(yīng)該怎么辦,？
電影《我,，機(jī)器人》場景，機(jī)器人走進(jìn)千家萬戶
“三五年之內(nèi)一定會(huì)有人因此失業(yè),，如果不做好準(zhǔn)備,，可能會(huì)引發(fā)社會(huì)的不穩(wěn)定?！敝芙≌J(rèn)為,，應(yīng)對未來AI帶來的就業(yè)沖擊，管理部門需要建立緩沖帶,，設(shè)立緩沖期,。一方面，征收人工智能,、機(jī)器人稅,。因?yàn)槿斯ぶ悄堋⒆詣?dòng)化機(jī)器的出現(xiàn),，造成了人力的貶值和失業(yè),，可以通過收稅的方式進(jìn)行調(diào)節(jié)。征收機(jī)器人稅既可以彌補(bǔ)因?yàn)閯诠p少造成的個(gè)人所得稅收損失,，同時(shí)這些稅收又可以用來重新培訓(xùn)和儲(chǔ)備被人工智能,、機(jī)器人取代的勞工，使其能夠二度就業(yè),。另一方面,，創(chuàng)造更多的新就業(yè)機(jī)會(huì)。創(chuàng)造就業(yè)的增量市場是解決就業(yè)存量市場問題的良策,，新技術(shù)催生產(chǎn)業(yè)變革,，一定會(huì)帶來大量新產(chǎn)業(yè)就業(yè)崗位。
幾年前微軟創(chuàng)始人比爾·蓋茨就對于向機(jī)器人征稅投了贊成票：“機(jī)器人取代了部分人的勞動(dòng),，導(dǎo)致部分人失業(yè),，應(yīng)當(dāng)通過征稅來補(bǔ)償那些因此失業(yè)的人?！?/p>
“新技術(shù)的出現(xiàn)總會(huì)讓曾經(jīng)的工作消失,，但也會(huì)逐漸演化出新的職業(yè),，并促使經(jīng)濟(jì)更高質(zhì)量發(fā)展,，就業(yè)結(jié)構(gòu)更加合理,。”阿里研究院數(shù)字財(cái)稅研究中心主任張凌霄認(rèn)為,。
得到APP創(chuàng)始人羅振宇認(rèn)為，被沖擊得越厲害的地方,，新機(jī)會(huì)就越多,。被替代的崗位越多的地方，誕生的新崗位也越多,?！耙孕卸笾钡娜蝿?wù)式學(xué)習(xí)，將成為終身學(xué)習(xí)的主流。如果人工智能鋪設(shè)的學(xué)習(xí)基礎(chǔ)設(shè)施足夠發(fā)達(dá),，學(xué)習(xí)者面對的現(xiàn)實(shí)挑戰(zhàn)，才是學(xué)習(xí)行為的起點(diǎn)。
“未來大家要學(xué)習(xí)怎么和機(jī)器共事，社會(huì)要加強(qiáng)個(gè)人對AI的教育和學(xué)習(xí),，AI快速發(fā)展會(huì)催生類似人工智能培訓(xùn)師等很多新的職業(yè)需求，設(shè)計(jì)、機(jī)器人、生命科學(xué)、環(huán)境、能源等所有垂直領(lǐng)域都將迎來創(chuàng)新蓬勃發(fā)展的新局面,。”薛貴榮說。
二是關(guān)于人機(jī)共存,。面對飛馳前行的AI如何為之配置剎車系統(tǒng),？“嚴(yán)格謹(jǐn)慎的控制AI決策邊界,，尤其是和物理世界的直接交互。AI系統(tǒng)應(yīng)在特定領(lǐng)域和任務(wù)范圍內(nèi)輔助人類,，而非替代人類的決策,、情感和道德判斷,。確保人類始終是決策的核心,，從而避免對AI系統(tǒng)產(chǎn)生過度依賴和失控的風(fēng)險(xiǎn),?！苯鹕睫k公軟件全球業(yè)務(wù)副總經(jīng)理張寧表示。
AI與物理世界直接的直接交互,，是目前業(yè)界擔(dān)憂點(diǎn)之一,，周健表示，現(xiàn)在看來,，AIGC的生命只存在于對話框,，但是當(dāng)AI與物理世界交互，那么AI的價(jià)值觀就成為至關(guān)重要的“控制閥”,。
如果有一天AI的智能超越了人類,，成為比人類更高級的智能體，它會(huì)消滅人類嗎？它如何與人類共存,，我們應(yīng)對如何面對,？機(jī)器人還會(huì)遵循阿西莫夫在上世紀(jì)《我，機(jī)器人》中提出的機(jī)器人三大定律嗎,？
谷歌與斯坦福構(gòu)建的虛擬小鎮(zhèn)人物
或許機(jī)器人三大定律再無法“框住”和“定義”機(jī)器人的世界,，周健認(rèn)為機(jī)器智能的進(jìn)化正在接近一個(gè)新的奇點(diǎn),，機(jī)器人與人類的共生、共存需要更本源的倫理探索,。最近斯坦福,、谷歌的研究者們利用生成式AI構(gòu)建了一個(gè)“虛擬小鎮(zhèn)”,，創(chuàng)造了25個(gè)AI智能體在小鎮(zhèn)上生存,，機(jī)器人能夠像人類一樣生活、工作,、社交,，去復(fù)刻人類社會(huì)的方方面面，這樣的探索或許能摸索到人與機(jī)器共存的法則,。
未來將是人機(jī)共存的世界,。最近出來進(jìn)行AIGC創(chuàng)業(yè)的搜狗CEO王小川說：“我們正在創(chuàng)造一種新的生命，它和石頭,、蒸汽機(jī),、電腦的出現(xiàn)都不一樣，以前都是工具,，但AGI（通用人工智能）不是工具了——它是你的伙伴,，新的朋友,，是人類進(jìn)化的下一個(gè)階段?！?/p>
當(dāng)AI向AGI加速推進(jìn)，越來越多的觀點(diǎn)認(rèn)同AI將成為新的智能化生命體,。香港科技大學(xué)首席副校長,、歐洲科學(xué)院院士郭毅可認(rèn)為，當(dāng)我們不斷強(qiáng)化“程序”智力的時(shí)候,，我們更應(yīng)當(dāng)反問自己,，人類如何在這樣一個(gè)越來越強(qiáng)大的智能系統(tǒng)的交互中不斷地進(jìn)化自己,，使我們變得更為聰明,、更為豐富、更加強(qiáng)大，使得我們能夠在這樣一個(gè)知識生產(chǎn)的產(chǎn)業(yè)革命的新時(shí)代中,，真正成為主宰者,，從而創(chuàng)造一個(gè)嶄新的人類社會(huì),。
“如果以AI為代表的硅基生命體是比人類更先進(jìn)的智能體,，那么人類應(yīng)該有更大的視野,，擯棄以人為中心,，擁抱地球中心論,。”周健認(rèn)為人類利用AI應(yīng)該有更宏大的視野,，做好短期,、中期和長期的準(zhǔn)備,，以此來建立AI利用的剎車系統(tǒng)。
”希望一百年后回頭看,，今天人類沒有走錯(cuò)這一步,?！睆垖幷f。
免責(zé)聲明：本文來自網(wǎng)絡(luò)收錄或投稿，觀點(diǎn)僅代表作者本人,，不代表芒果財(cái)經(jīng)贊同其觀點(diǎn)或證實(shí)其描述,，版權(quán)歸原作者所有。轉(zhuǎn)載請注明出處：http://lequren.com/1022541.html
溫馨提示：投資有風(fēng)險(xiǎn),，入市須謹(jǐn)慎,。本資訊不作為投資理財(cái)建議。
