電影《我,，機(jī)器人》中的場(chǎng)景,，機(jī)器人走上街頭
眼下，ChatGPT爆火、AIGC（人工智能生成內(nèi)容）快速突破，引發(fā)全球?qū)?span id="a6otyhj" class="wpcom_keyword_link">人工智能（AI）安全性前所有未有的擔(dān)憂,。
三月的最后一天，身處漩渦中的OpenAI創(chuàng)始人兼首席執(zhí)行官山姆·阿爾特曼（Sam Altman）公布自己5 月和6 月的旅行計(jì)劃,。他將前往歐洲主要城市以及迪拜,、新德里、新加坡,、雅加達(dá),、首爾、東京,、墨爾本,，除了與當(dāng)?shù)豋pen AI 用戶與開(kāi)發(fā)者進(jìn)行交流外，他還希望在一些城市與政策制定者進(jìn)行會(huì)晤,，以找到解除人類對(duì)于AI利用憂慮的答案。
目前,，馬斯克聯(lián)手權(quán)威人士叫停GPT-4以上模型開(kāi)發(fā)的簽名規(guī)模,，已從千人上升到數(shù)萬(wàn)人；歐盟和美國(guó)消費(fèi)者權(quán)益保護(hù)組織呼吁對(duì)Open AI進(jìn)行調(diào)查并設(shè)施更嚴(yán)格的監(jiān)管,；CAIDP（非營(yíng)利組織人工智能與數(shù)字政策中心）要求聯(lián)邦貿(mào)易委員會(huì)（FTC）停止ChatGPT的商業(yè)部署,，并在未來(lái)推出任何模型之前獨(dú)立評(píng)估模型；意大利宣布封禁使用ChatGPT,；頂級(jí)投資公司 SV Angel,，將在4月中旬召集OpenAI、微軟,、谷歌,、蘋(píng)果、英偉達(dá)等公司,，探討制定使用 AI 技術(shù)的標(biāo)準(zhǔn),。
是讓AI繼續(xù)野蠻生長(zhǎng)，還是先找到更好的AI“剎車系統(tǒng)”和“安全帶”再繼續(xù)上路,，引發(fā)全球大爭(zhēng)論,。
與此同時(shí)，各國(guó)開(kāi)始實(shí)施對(duì)于包括AIGC在內(nèi)的AI更嚴(yán)格的監(jiān)管,。4月11日,，中國(guó)互聯(lián)網(wǎng)信息辦公室就《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》公開(kāi)征求意見(jiàn),。同一天，美國(guó)商務(wù)部正式就ChatGPT等AI工具進(jìn)行審查問(wèn)責(zé)措施公開(kāi)征求意見(jiàn),，包括新AI模型在發(fā)布前是否應(yīng)該通過(guò)認(rèn)證程序等問(wèn)題,。
AI越來(lái)越強(qiáng),，人類擔(dān)憂什么？
AI的潘多拉魔盒終于要被打開(kāi),，從實(shí)驗(yàn)室逃出的AI,，引發(fā)全球前所未有的失控?fù)?dān)憂,。
Meta副總裁兼首席AI科學(xué)家、圖靈獎(jiǎng)獲得者揚(yáng)立昆（Yann LeCun）認(rèn)為,，目前人們對(duì)于AI的憂慮和恐懼,，主要分為兩類：一是與未來(lái)有關(guān),，擔(dān)心AI未來(lái)會(huì)不受控制,，逃離實(shí)驗(yàn)室，最終控制人類,。二是與現(xiàn)實(shí)有關(guān),，AI在公平、偏見(jiàn)上的缺陷會(huì)對(duì)社會(huì)與經(jīng)濟(jì)造成沖擊,。
關(guān)于AI是否會(huì)逃出實(shí)驗(yàn)室,，控制,、統(tǒng)治人類,，最近揚(yáng)立昆與斯坦福大學(xué)人工智能實(shí)驗(yàn)室主任吳恩達(dá)（Andrew Ng）進(jìn)行了一場(chǎng)公開(kāi)直播對(duì)話,，吳恩達(dá)給出的答案是,，他沒(méi)有看到今天的AI有任何逃出實(shí)驗(yàn)室的風(fēng)險(xiǎn)，至少要幾十年甚至幾百年才有可能,。而揚(yáng)立昆認(rèn)為，讓AI在一個(gè)特定硬件平臺(tái)上保持運(yùn)行都很難,。言下之意,，AI并無(wú)威脅和控制人類的能力,。
北京郵電大學(xué)教授,、人機(jī)交互與認(rèn)知工程實(shí)驗(yàn)室主任劉偉更愿意將今天以GPT為代表的AIGC 視為“線頭握在人類手中的風(fēng)箏”,?！癎PT是一種高級(jí)自動(dòng)化、像‘人’的東西,。而AI真正要產(chǎn)生突破的是獨(dú)立性,、自主性,，GPT沒(méi)有自主性，它依舊被人類編程操作,，它更像是一個(gè)‘風(fēng)箏’被手中有線的人類操控,?！眲フf(shuō)。
雖然大部分專家都認(rèn)為,，讓AI真正擁有超越人類的能力，有控制人類的能力,，實(shí)現(xiàn)真正的AGI（通用人工智能）依然漫長(zhǎng),。但人們依然擔(dān)憂未來(lái)，在經(jīng)典科幻電影《我,，機(jī)器人》（I,Robot）中,，機(jī)器人具有自我進(jìn)化能力，轉(zhuǎn)化成了人類的“機(jī)械公敵”,，制造者和被制造者展開(kāi)了戰(zhàn)爭(zhēng),。
未來(lái)看似遙遠(yuǎn)，但眼下AIGC所帶來(lái)的現(xiàn)實(shí)沖擊,，已經(jīng)足以令全社會(huì)震驚,。
藍(lán)色光標(biāo)網(wǎng)站頁(yè)面
一是AICG讓很多人丟了飯碗。4月12日,，知名廣告及公關(guān)服務(wù)商藍(lán)色光標(biāo)管理層下發(fā)郵件,，稱公司將全面擁抱AIGC，決定無(wú)期限全面停止創(chuàng)意設(shè)計(jì),、方案撰寫(xiě),、文案撰寫(xiě)、短期雇員四類相關(guān)外包支出,。
藍(lán)色光標(biāo)停止創(chuàng)意外包采購(gòu),，證實(shí)了OpenAI公司的判斷,。3月中旬OpenAI發(fā)布《GPT是GPT：大型語(yǔ)言模型對(duì)勞動(dòng)力市場(chǎng)潛在影響的早期觀察》調(diào)研報(bào)告。報(bào)告顯示,，8成勞動(dòng)人口將受到ChatGPT影響,，而且是學(xué)歷收入越高越危險(xiǎn)。另?yè)?jù)就業(yè)服務(wù)平臺(tái)Resume Builder調(diào)查統(tǒng)計(jì),，在1000多家受訪美國(guó)企業(yè)中,，用ChatGPT取代部分員工的比例已達(dá)到48%。按照高盛的研究分析,，AIGC將改變?nèi)蚣s3億個(gè)工作崗位,，導(dǎo)致數(shù)千萬(wàn)人失業(yè)。微軟CEO薩提亞·納德拉說(shuō)：“AIGC技術(shù)是知識(shí)工作者的工業(yè)革命,?！?/p>
二是出現(xiàn)一系列新安全挑戰(zhàn)。網(wǎng)絡(luò)安全領(lǐng)域?qū)＜覄⒔軐IGC引發(fā)的安全挑戰(zhàn)概括為兩類：一類是蓄意制造的,，另一類是意外遺留的,。
從蓄意制造的角度看，隨著AIGC技術(shù)的發(fā)展,，不實(shí)證據(jù)的制作變得越來(lái)越容易,，惡意分子可能利用AIGC技術(shù)制作、傳播深度偽造內(nèi)容和其他虛假信息,，進(jìn)行AI詐騙,、誹謗、假冒身份等新型違法犯罪活動(dòng),。
“有圖就有真相“的時(shí)代就有可能從此瓦解,，帶來(lái)的結(jié)果是社會(huì)的信任度下降，威脅個(gè)人的隱私和安全,。
歐洲刑警組織在最新科技報(bào)告中指出,，ChatGPT等AI驅(qū)動(dòng)的聊天機(jī)器人或被濫用于發(fā)動(dòng)網(wǎng)絡(luò)釣魚(yú)攻擊、散布虛假信息和實(shí)施網(wǎng)絡(luò)犯罪,。此外,，由于其有能力復(fù)制語(yǔ)言模式，可冒充特定個(gè)人或團(tuán)體的講話風(fēng)格,，該聊天機(jī)器人或被犯罪分子用來(lái)鎖定受害者,。
從意外遺留的角度看，“AIGC本身面臨的風(fēng)險(xiǎn)有以下幾方面：首先,，AIGC訓(xùn)練數(shù)據(jù)集的質(zhì)量會(huì)影響到模型的性能,；其次，數(shù)據(jù)毒化的問(wèn)題，通過(guò)在訓(xùn)練的數(shù)據(jù)集里面加入少量被攻擊者精心構(gòu)造的有毒數(shù)據(jù),，從而破壞模型的可用性,、完整性甚至泛化性；最后,，算法選取不當(dāng)帶來(lái)的風(fēng)險(xiǎn),。“劉杰說(shuō),。
天壤智能創(chuàng)始人薛貴榮也談到了“模型自身的不確定性和不可控性”,。GPT-4已經(jīng)是人類世界到目前為止最復(fù)雜的AI系統(tǒng)。整合了語(yǔ)言,、視覺(jué)等多模態(tài)能力,，多模態(tài)之間會(huì)互相加強(qiáng)并且迭代，最后迭代到什么高度是人類無(wú)法預(yù)知的,。能力越強(qiáng),，風(fēng)險(xiǎn)就越大。最近AI似乎開(kāi)始有走向自主化的趨勢(shì),，國(guó)外已經(jīng)有團(tuán)隊(duì)利用GPT-4進(jìn)行科研,，卡耐基梅隆大學(xué)化學(xué)系做了一個(gè)可以做研究又會(huì)做實(shí)驗(yàn)的AI系統(tǒng)，AI表現(xiàn)出很強(qiáng)的邏輯推理分析能力,。中國(guó)科學(xué)院計(jì)算技術(shù)研究所研究員包云崗認(rèn)為,，GPT-4的知識(shí)體系中存在“污點(diǎn)知識(shí)”。也許這些“污點(diǎn)知識(shí)”在整個(gè)GPT-4大模型中的占比還不高,，這些“污點(diǎn)”對(duì)于一些應(yīng)用場(chǎng)景也許并不重要,，比如生成一個(gè)團(tuán)建活動(dòng)方案或一個(gè)報(bào)告提綱等，但是對(duì)于一些需要精準(zhǔn)答案的場(chǎng)景,，確實(shí)是不可接受的,。如何清理ChatGPT系列大模型中現(xiàn)有的“污點(diǎn)知識(shí)”，將是未來(lái)所面臨的挑戰(zhàn)之一,。
“ChatGPT對(duì)話涉及用戶很多個(gè)人隱私信息,，比如個(gè)人資料、電話地址,、公司信息,、財(cái)務(wù)信息、醫(yī)療信息等,，這類用戶人信息被泄漏和不正當(dāng)操縱,，會(huì)造成比較大面積的公共安全威脅?！毖F榮說(shuō)。
事實(shí)如此，今年3月下旬,，三星半導(dǎo)體剛引入ChatGPT不到20天,，即發(fā)生了3起機(jī)密數(shù)據(jù)泄漏事件，涉及三星半導(dǎo)體設(shè)備測(cè)量資料,、產(chǎn)品良率等信息,。
三是對(duì)教育、組織結(jié)構(gòu),，社會(huì)倫理等都將產(chǎn)生新的沖擊,。
“AIGC出現(xiàn)后，學(xué)生作弊現(xiàn)象層出不窮,，AIGC的出現(xiàn)顛覆了傳統(tǒng)教育,，在之前的教育關(guān)系中，學(xué)習(xí)者的信息是遠(yuǎn)遠(yuǎn)低于教學(xué)者的,，但是現(xiàn)在AI出現(xiàn),，讓每個(gè)學(xué)習(xí)者都有無(wú)限的信息量。教育關(guān)系發(fā)生了變化,?！盠EAPS國(guó)際研究中心的創(chuàng)始人 Joey Lin認(rèn)為。
“AIGC的快速突破,，智能的大量擴(kuò)散,，當(dāng)每一個(gè)人都是專家，每一個(gè)人都是一個(gè)特種兵的時(shí)候,，原來(lái)以班長(zhǎng),、排長(zhǎng)、連長(zhǎng),、團(tuán)長(zhǎng)組成的靜態(tài)樹(shù)狀組織結(jié)構(gòu),，就很難滿足企業(yè)、社會(huì)的發(fā)展需求,。公司的結(jié)構(gòu),、社會(huì)的組織結(jié)構(gòu)就需要發(fā)生變化?！睘懘a科技創(chuàng)始人,、CEO周健表示，目前看,，GTP-3的智能略低于人類,，GTP-4的智能與人類相當(dāng)，GPT-5的能力有可能超越人類,，當(dāng)全社會(huì)都可以用極低的成本獲得智能以后,，原來(lái)公司的治理架構(gòu)就無(wú)法適應(yīng)了。
中國(guó)的《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》與美國(guó)商務(wù)部的AI工具審查問(wèn)責(zé)措施公開(kāi)征求意見(jiàn)稿，都對(duì)AIGC的信息安全,、數(shù)據(jù)合規(guī),、版權(quán)保護(hù)等一系列熱點(diǎn)問(wèn)題進(jìn)行了規(guī)范，畫(huà)出了紅線,，釋放出技術(shù)發(fā)展與安全合規(guī)同步推進(jìn)的信號(hào),。
與前幾次工業(yè)革命不同，AIGC不僅僅是一個(gè)工具,，作為一個(gè)新的智能體,，其對(duì)于整個(gè)社會(huì)的影響超出想象，我們需要從更大的維度做更多深層次的思考,，來(lái)構(gòu)建緩沖帶,。
一是關(guān)于就業(yè)。這一次AIGC引發(fā)的產(chǎn)業(yè)轉(zhuǎn)型以海嘯般的速度襲來(lái),，其帶來(lái)的就業(yè)沖擊讓人類措手不及,，人類應(yīng)該怎么辦？
電影《我，機(jī)器人》場(chǎng)景,，機(jī)器人走進(jìn)千家萬(wàn)戶
“三五年之內(nèi)一定會(huì)有人因此失業(yè),，如果不做好準(zhǔn)備，可能會(huì)引發(fā)社會(huì)的不穩(wěn)定,?！敝芙≌J(rèn)為，應(yīng)對(duì)未來(lái)AI帶來(lái)的就業(yè)沖擊,，管理部門需要建立緩沖帶,，設(shè)立緩沖期。一方面,，征收人工智能,、機(jī)器人稅。因?yàn)槿斯ぶ悄?、自?dòng)化機(jī)器的出現(xiàn),，造成了人力的貶值和失業(yè)，可以通過(guò)收稅的方式進(jìn)行調(diào)節(jié),。征收機(jī)器人稅既可以彌補(bǔ)因?yàn)閯诠p少造成的個(gè)人所得稅收損失,，同時(shí)這些稅收又可以用來(lái)重新培訓(xùn)和儲(chǔ)備被人工智能、機(jī)器人取代的勞工,，使其能夠二度就業(yè),。另一方面,，創(chuàng)造更多的新就業(yè)機(jī)會(huì)。創(chuàng)造就業(yè)的增量市場(chǎng)是解決就業(yè)存量市場(chǎng)問(wèn)題的良策,，新技術(shù)催生產(chǎn)業(yè)變革,，一定會(huì)帶來(lái)大量新產(chǎn)業(yè)就業(yè)崗位。
幾年前微軟創(chuàng)始人比爾·蓋茨就對(duì)于向機(jī)器人征稅投了贊成票：“機(jī)器人取代了部分人的勞動(dòng),，導(dǎo)致部分人失業(yè)，應(yīng)當(dāng)通過(guò)征稅來(lái)補(bǔ)償那些因此失業(yè)的人,?！?/p>
“新技術(shù)的出現(xiàn)總會(huì)讓曾經(jīng)的工作消失，但也會(huì)逐漸演化出新的職業(yè),，并促使經(jīng)濟(jì)更高質(zhì)量發(fā)展,，就業(yè)結(jié)構(gòu)更加合理?！卑⒗镅芯吭簲?shù)字財(cái)稅研究中心主任張凌霄認(rèn)為,。
得到APP創(chuàng)始人羅振宇認(rèn)為，被沖擊得越厲害的地方,，新機(jī)會(huì)就越多,。被替代的崗位越多的地方，誕生的新崗位也越多,?！耙孕卸笾钡娜蝿?wù)式學(xué)習(xí)，將成為終身學(xué)習(xí)的主流,。如果人工智能鋪設(shè)的學(xué)習(xí)基礎(chǔ)設(shè)施足夠發(fā)達(dá),，學(xué)習(xí)者面對(duì)的現(xiàn)實(shí)挑戰(zhàn)，才是學(xué)習(xí)行為的起點(diǎn),。
“未來(lái)大家要學(xué)習(xí)怎么和機(jī)器共事,，社會(huì)要加強(qiáng)個(gè)人對(duì)AI的教育和學(xué)習(xí)，AI快速發(fā)展會(huì)催生類似人工智能培訓(xùn)師等很多新的職業(yè)需求,，設(shè)計(jì),、機(jī)器人、生命科學(xué),、環(huán)境,、能源等所有垂直領(lǐng)域都將迎來(lái)創(chuàng)新蓬勃發(fā)展的新局面?！毖F榮說(shuō),。
二是關(guān)于人機(jī)共存。面對(duì)飛馳前行的AI如何為之配置剎車系統(tǒng),？“嚴(yán)格謹(jǐn)慎的控制AI決策邊界,，尤其是和物理世界的直接交互,。AI系統(tǒng)應(yīng)在特定領(lǐng)域和任務(wù)范圍內(nèi)輔助人類，而非替代人類的決策,、情感和道德判斷,。確保人類始終是決策的核心，從而避免對(duì)AI系統(tǒng)產(chǎn)生過(guò)度依賴和失控的風(fēng)險(xiǎn),?！苯鹕睫k公軟件全球業(yè)務(wù)副總經(jīng)理張寧表示。
AI與物理世界直接的直接交互,，是目前業(yè)界擔(dān)憂點(diǎn)之一,，周健表示，現(xiàn)在看來(lái),，AIGC的生命只存在于對(duì)話框,，但是當(dāng)AI與物理世界交互，那么AI的價(jià)值觀就成為至關(guān)重要的“控制閥”,。
如果有一天AI的智能超越了人類,，成為比人類更高級(jí)的智能體，它會(huì)消滅人類嗎,？它如何與人類共存,，我們應(yīng)對(duì)如何面對(duì)？機(jī)器人還會(huì)遵循阿西莫夫在上世紀(jì)《我,，機(jī)器人》中提出的機(jī)器人三大定律嗎,？
谷歌與斯坦福構(gòu)建的虛擬小鎮(zhèn)人物
或許機(jī)器人三大定律再無(wú)法“框住”和“定義”機(jī)器人的世界,，周健認(rèn)為機(jī)器智能的進(jìn)化正在接近一個(gè)新的奇點(diǎn)，機(jī)器人與人類的共生,、共存需要更本源的倫理探索,。最近斯坦福、谷歌的研究者們利用生成式AI構(gòu)建了一個(gè)“虛擬小鎮(zhèn)”,，創(chuàng)造了25個(gè)AI智能體在小鎮(zhèn)上生存,，機(jī)器人能夠像人類一樣生活、工作,、社交,，去復(fù)刻人類社會(huì)的方方面面，這樣的探索或許能摸索到人與機(jī)器共存的法則,。
未來(lái)將是人機(jī)共存的世界,。最近出來(lái)進(jìn)行AIGC創(chuàng)業(yè)的搜狗CEO王小川說(shuō)：“我們正在創(chuàng)造一種新的生命，它和石頭,、蒸汽機(jī),、電腦的出現(xiàn)都不一樣,，以前都是工具，但AGI（通用人工智能）不是工具了——它是你的伙伴,，新的朋友,，是人類進(jìn)化的下一個(gè)階段?！?/p>
當(dāng)AI向AGI加速推進(jìn),，越來(lái)越多的觀點(diǎn)認(rèn)同AI將成為新的智能化生命體。香港科技大學(xué)首席副校長(zhǎng),、歐洲科學(xué)院院士郭毅可認(rèn)為,，當(dāng)我們不斷強(qiáng)化“程序”智力的時(shí)候，我們更應(yīng)當(dāng)反問(wèn)自己,，人類如何在這樣一個(gè)越來(lái)越強(qiáng)大的智能系統(tǒng)的交互中不斷地進(jìn)化自己，使我們變得更為聰明,、更為豐富,、更加強(qiáng)大，使得我們能夠在這樣一個(gè)知識(shí)生產(chǎn)的產(chǎn)業(yè)革命的新時(shí)代中,，真正成為主宰者,，從而創(chuàng)造一個(gè)嶄新的人類社會(huì)。
“如果以AI為代表的硅基生命體是比人類更先進(jìn)的智能體,，那么人類應(yīng)該有更大的視野,，擯棄以人為中心，擁抱地球中心論,?！敝芙≌J(rèn)為人類利用AI應(yīng)該有更宏大的視野，做好短期,、中期和長(zhǎng)期的準(zhǔn)備,，以此來(lái)建立AI利用的剎車系統(tǒng)。
”希望一百年后回頭看,，今天人類沒(méi)有走錯(cuò)這一步,。”張寧說(shuō),。
免責(zé)聲明：本文來(lái)自網(wǎng)絡(luò)收錄或投稿,，觀點(diǎn)僅代表作者本人,，不代表芒果財(cái)經(jīng)贊同其觀點(diǎn)或證實(shí)其描述，版權(quán)歸原作者所有,。轉(zhuǎn)載請(qǐng)注明出處：http://lequren.com/1022541.html
溫馨提示：投資有風(fēng)險(xiǎn),，入市須謹(jǐn)慎,。本資訊不作為投資理財(cái)建議。
