編者按春節(jié)期間，一家創(chuàng)新型科技公司推出的人工智能對話助手——DeepSeek（深度求索）引發(fā)了社交媒體上的大討論,。DeepSeek具有中文深度處理能力,，在短短十幾秒內(nèi)便能生成上千字的高質(zhì)量文章,，且創(chuàng)作的詩歌和文章,，水平遠(yuǎn)超一些普通作者,，在小說創(chuàng)作方面也具備了良好的敘事能力,，令人們驚嘆惶恐,。此前,，我們向DeepSeek提了關(guān)于作家與創(chuàng)作的問題，它告訴我們：“最危險的或許不是AI會寫作,，而是人類在技術(shù)便利中逐漸遺忘如何用顫抖的手書寫靈魂的戰(zhàn)栗,。”透過DeepSeek這扇窗,，人工智能時代巨大的潛力已經(jīng)展現(xiàn)在我們眼前,。在這個系列中,，我們將陸續(xù)邀請幾位來自不同專業(yè)領(lǐng)域的嘉賓探討相關(guān)話題。湖南日報·新湖南客戶端記者 廖慧文本期嘉賓張軍平,，科普作家,，人工智能領(lǐng)域知名專家，中國自動化學(xué)會普及工作委員會主任,，復(fù)旦大學(xué)計算機科學(xué)技術(shù)學(xué)院教授,、博士生導(dǎo)師，獲“典贊·2022科普中國”年度科普人物提名,。主要研究方向包括人工智能,、機器學(xué)習(xí),、圖像處理、生物認(rèn)證及智能交通,。出版科普著作《愛犯錯的智能體》《人工智能極簡史》等?！稅鄯稿e的智能體》獲得 2020年中國科普作家協(xié)會第六屆優(yōu)秀作品獎金獎,。張軍平認(rèn)為,，DeepSeek底層技術(shù)邏輯與其他大模型相似,，仍依賴于思維鏈等模式來生成文本，并通過強化學(xué)習(xí)不斷優(yōu)化,。我們需要在享受人工智能帶來的便利的同時,，保持對知識產(chǎn)權(quán)保護(hù)、信息真實性,、思維工具化等問題的關(guān)注和警惕,。同時，在兒童和青少年使用時,，應(yīng)確保人工智能具有較高的道德水準(zhǔn),。用來創(chuàng)作？可能侵權(quán)或被“剽竊”湘江：春節(jié)期間,，DeepSeek引發(fā)了廣泛關(guān)注,。您對它有什么感受？張軍平：從個人角度來看,，DeepSeek在內(nèi)容表達(dá)上與其他大模型差異不大,，但使用起來更為方便，主要體現(xiàn)在三個方面：支持本地化部署,；整體部署過程較為簡便,；相比其他大模型，使用成本較低,。此外,，DeepSeek具有開源特性，且主要面向國內(nèi)市場,。它的訓(xùn)練成本僅約550多萬美元,，當(dāng)然，這不包括硬件和人員費用,，但總體成本相對較低,。相比之下，GPT-4o不開源,，基礎(chǔ)費用每月20美元,，而更高級的版本（可體驗o1和Sora）費用則較高,，每月200美元。據(jù)傳,，OpenAI會推出一個迷你版的免費GPT-o3-mini,。與GPT系列相比，DeepSeek的幽默感似乎也更勝一籌,，這可能與其訓(xùn)練數(shù)據(jù)有關(guān),。之前對大模型的訓(xùn)練中曾發(fā)現(xiàn)，如果使用百度貼吧里“弱智吧”的語料庫,，人工智能會提升對話和推理能力,。而DeepSeek-R1采用混合專家技術(shù)后，會根據(jù)情況開啟用“貼吧歷史神貼,、微博熱搜爭議及B戰(zhàn)彈幕戰(zhàn)爭等”數(shù)據(jù)訓(xùn)練后的專家組來回復(fù),。結(jié)果，DeepSeek有時會開一些（尺度）較大的玩笑,，這可能也是它受歡迎的原因之一,。湘江：大家最驚訝的是DeepSeek的中文處理能力。有邏輯之外,，它還有溫度,、有創(chuàng)意，讓我們感覺人工智能越來越像人,，而不僅僅是一個工具,。張軍平：思維鏈?zhǔn)侵改Ｐ驮谏晌谋净蚧卮饐栴}時，按照一定的邏輯順序逐步展開思考和推理的過程,。以前的大模型中,，思維鏈通常表現(xiàn)為“首先、其次,、第三,、總而言之”等結(jié)構(gòu)化表達(dá)。而DeepSeek則通過學(xué)習(xí)已有模型的思維鏈模式,，提煉出有價值的內(nèi)容,，并通過強化學(xué)習(xí)進(jìn)行優(yōu)化，從而生成更具創(chuàng)意和更豐富的文本,。雖然我們感覺DeepSeek越來越接近人類的表達(dá)邏輯,，但本質(zhì)上它仍然有與其他大模型相通的套路。湘江：我們能不能通過一些方式,，判斷作品是否是人工智能的創(chuàng)作或者作品中使用人工智能創(chuàng)作的比例,，隨之判斷是否會有著作版權(quán)的問題？張軍平：人工智能模型通過學(xué)習(xí)海量文本數(shù)據(jù)來訓(xùn)練,，這些數(shù)據(jù)幾乎涵蓋了人類創(chuàng)作的所有內(nèi)容,。人工智能生成的內(nèi)容可能會無意中包含或模仿已有作品,，它自己又會創(chuàng)作和改變一些。這帶來了很大的風(fēng)險：你很難追蹤多少來自特定的人類創(chuàng)作,，多少是它自己生成的,，也很難判斷其是否涉及侵權(quán)。我們?nèi)粘Ｊ褂?，如發(fā)送祝福語或撰寫年終總結(jié),，風(fēng)險較小。但如果是創(chuàng)作作品并發(fā)表,，要謹(jǐn)慎,。湘江：一些創(chuàng)意工作者擔(dān)心人工智能會剽竊和洗稿,。您有什么建議,？張軍平：目前很難避免人工智能使用已有作品進(jìn)行訓(xùn)練。建議作家在作品完成前不要使用人工智能潤色,，因為人工智能可能會將數(shù)據(jù)納入訓(xùn)練庫,。如果使用本地化模型，可能部分避免這個問題,，但是我們也不確定有些模型是否會在聯(lián)網(wǎng)更新時上傳相關(guān)數(shù)據(jù),，總體上仍需謹(jǐn)慎。人工智能謠言時代,？已經(jīng)開始了湘江：我們發(fā)現(xiàn)人工智能在處理知識性問題時，有時發(fā)現(xiàn)它會移花接木,，融合信息,，還會給出一些看似權(quán)威的來源，非常有邏輯,，難以辨別真?zhèn)?。人工智能是否會?dǎo)致我們進(jìn)入謠言升級的時代？您認(rèn)為開發(fā)者應(yīng)該如何解決這一問題,？DeepSeek有看病功能,，您覺得靠譜嗎？張軍平：現(xiàn)在的人工智能有一個問題,，就是會“一本正經(jīng)地胡說八道”,，并且不愿意承認(rèn)錯誤。即使指出錯誤,，它仍會繼續(xù)編造,。這會導(dǎo)致造假成本降低，同時用戶糾錯成本增加,，有的時候還不如自己撰寫,?！爸{言升級”時代現(xiàn)在已經(jīng)開始了。比如網(wǎng)上很多新聞我是不太確定是真的還是假的,，就是因為很多自媒體創(chuàng)作者在用人工智能來生成內(nèi)容,。未來人工智能謠言會越來越多。人們應(yīng)該要學(xué)會做一些鑒別,，比如要通過多平臺去驗證信息,，而不是依賴單一平臺。至于開發(fā)者如何避免,？在我看來,，第一。比如DeepSeek有聯(lián)網(wǎng)功能,?？梢詭椭阉鞯揭恍┫鄬碚f比較準(zhǔn)確的信息。第二,，在模型訓(xùn)練的時候,，要適當(dāng)加入一些信息，去幫助糾錯,。第三,，我們需要期待有專門的AI鑒真軟件的出現(xiàn)。人工智能能不能看??？我個人覺得還是找醫(yī)生更靠譜一點。醫(yī)生最怕的就是一個病人說自己先百度搜索了,。我相信,，未來醫(yī)生最怕病人來看病時先說我是先問AI大模型的。人類變得“超級低能”,？應(yīng)該警惕！湘江：您認(rèn)為當(dāng)前人工智能的發(fā)展方向是否正確,？我們是否應(yīng)該警惕人工智能在某些領(lǐng)域的廣泛應(yīng)用,？張軍平：許多大公司認(rèn)為大模型是通向通用人工智能（AGI）的潛在方向。通過不斷改進(jìn)推理能力和利用虛擬語料數(shù)據(jù),，人工智能正逐漸接近人類的智力水平,。然而，我們也需要看到人工智能的局限性,。莫拉維克悖論指出,，機器在執(zhí)行高級數(shù)學(xué)計算等困難任務(wù)時表現(xiàn)良好，但在感知和運動控制等簡單任務(wù)上卻表現(xiàn)不佳。這表明我們對“智力”的定義可能過于狹窄,，過于側(cè)重于邏輯推理和語言處理能力,，而忽視了感知、運動和情感等更基礎(chǔ)的智能形式,。我們可能也需要重新去思考一下,，到底什么真正復(fù)雜的？我們有什么東西沒有做好,？今年春晚有個機器人跳舞的節(jié)目,，跳得很不錯，但大家也發(fā)現(xiàn)機器人跟真實的生命比還差得很遠(yuǎn),，下臺時需要操作人員拎著機器人脖子下去,，還需要用手柄來遙控。我們?nèi)斯ぶ悄苡袃纱蠓较?，一個是認(rèn)知,，包括語言理解、邏輯推理,、問題解決等?，F(xiàn)在已經(jīng)做得還不錯了,，但是感知世界,、精細(xì)運動控制等方面仍然還很弱。人工智能的發(fā)展方向應(yīng)該是不僅要提升認(rèn)知能力,，還要加強感知和運動控制等方面的能力,。湘江：您之前引用過德雷福斯的話，他說如果未來人類高度依賴人工智能,，那么可能會導(dǎo)致的結(jié)果不是讓人類變聰明,，而是會讓人類變成超級低能。您認(rèn)同這樣的觀點嗎,？我們?nèi)W(xué)習(xí)某一樣?xùn)|西,，剛開始先了解概念，然后淺思考,，再深度思考,，但是人工智能給我們的知識的方式是直接給深度思考的答案，您覺得這樣有助于提升我們的認(rèn)知嗎,？它真的是一種捷徑嗎,？張軍平：我即將在4月份由湖南科技出版社出版的一本關(guān)于人工智能的書提到這個關(guān)于學(xué)習(xí)的問題。我們目前的學(xué)習(xí)大致上有兩種模式：兒童/青少年學(xué)習(xí)模式和成人學(xué)習(xí)模式,。兒童/青少年在學(xué)習(xí)新知識時,，通常被建議要先自行思考，嘗試解決問題,。只有在遇到困難時,，才尋求外部幫助,，比如請教老師、同學(xué)或使用人工智能工具,。這種學(xué)習(xí)方式有助于培養(yǎng)他們獨立思考和解決問題的策略,，形成個人的學(xué)習(xí)能力和風(fēng)格。但是現(xiàn)在很多成年人不是這樣的,，喜歡首先依賴人工智能生成文本或解決方案,，然后再根據(jù)人工智能的輸出修改。這樣的做法導(dǎo)致,，實際上使用的初始框架和思路是由人工智能提供的,，然后在人工智能的基礎(chǔ)上，去做“再創(chuàng)作”,。它帶來潛在的風(fēng)險是,，可能很多困難的問題已經(jīng)用人工智能解決掉了，人只是去做一些比較簡單的修改,。那也就意味著有可能沒有辦法形成自己的思路,、自己的邏輯，甚至自己的靈魂,。長此以往,，我們可能會失去獨立思考和形成自己獨特思路的機會，最終會使人類在某些方面變得“超級低能”,。另外,，我們可能為了更好地利用人工智能，會不自覺地迎合人工智能的思維邏輯,，以期獲得更符合預(yù)期的輸出,。市面上已經(jīng)出現(xiàn)了許多關(guān)于如何高效使用人工智能工具的書籍和課程。這種趨勢可能導(dǎo)致人類思維方式的趨同化,，即人們更多地關(guān)注如何利用人工智能,，我們可能會變得過于依賴人工智能，甚至被其同化,。湘江：人工智能會讓我們進(jìn)入一個更“卷”的時代嗎,？張軍平：它可能對白領(lǐng)的影響會大一點，對藍(lán)領(lǐng)的影響會少一點,。這是因為人工智能在認(rèn)知相關(guān)任務(wù)上表現(xiàn)出色,，能替代不少文案撰寫和創(chuàng)作、客服,、簡單的編程工作,。如果大家都做重復(fù)、低效的工作，那確實會變得無意義,。過度依賴人工智能可能會導(dǎo)致工作越來越像機器,，失去創(chuàng)造性。張軍平野蠻生長,？限制與規(guī)范必不可少湘江：您也是一名教育工作者、一位家長,，您會支持您的孩子或?qū)W生使用人工智能寫作業(yè),、寫論文嗎？張軍平：對于無關(guān)緊要的文章,，使用人工智能提高效率是可以的,。但對于嚴(yán)肅的文章，尤其是論文,，必須自己寫,，否則能力是提升不了的，可以讓人工智能幫忙改進(jìn)一些文字的表達(dá),。湘江：人工智能助手是否應(yīng)該設(shè)立使用年齡和使用時長的限制,？張軍平：肯定需要規(guī)范。例如,，DeepSeek上曾出現(xiàn)用戶讓它扮演成人的角色并提問,，自己當(dāng)AI，結(jié)果用戶回答服務(wù)器忙,，DeepSeek就罵了一句話,。成年人可能覺得很爽,，很有趣,，但如果兒童去學(xué)，就很容易學(xué)到臟話,。這個大模型可能還沒有及時地把一些必需的道德和倫理問題考慮進(jìn)去,。人工智能開發(fā)者應(yīng)確保人工智能具有較高的道德水準(zhǔn)，否則不建議兒童使用,。湘江：一些游戲公司會有對年齡的限制,，對使用時長的限制。像人工智能助手,，它需不需要討論出一種限制的方法,？張軍平：我覺得未嘗不可。首先年齡肯定是要限制的,，使用時長也是可以限制的,。如果你過分依賴人工智能，其實就不會思考了。資本狂投,？不一定代表方向正確湘江：春節(jié)后資本市場對人工智能的反應(yīng)非常強烈,，您如何看待？張軍平：資本是逐利的,，會尋找容易變現(xiàn)的方向,，而忽視那些難以變現(xiàn)的領(lǐng)域。這種情況在人工智能領(lǐng)域同樣存在,。資本市場的投入并不一定代表人工智能發(fā)展方向是正確的或能夠成功,。人工智能發(fā)展歷史上，一直存在資本追逐短期利益,、忽視長期和基礎(chǔ)研究的情況,。這種情況不僅存在于一般的商業(yè)投資中，也同樣存在于人工智能領(lǐng)域的專業(yè)公司和學(xué)者中,。對于一些比較困難的問題,，大家都不太愿意去著手。如具身智能很受關(guān)注,，但實際上這塊就非常難做,。資本市場的投入并不一定代表人工智能的發(fā)展方向就一定是正確的或能夠成功的。實際上,，人工智能發(fā)展歷史,，一直都是這樣一個模式：資本追逐短期利益，忽視了長期和基礎(chǔ)性的研究,。湘江：您之前說這個Chat GPT在弱人工智能和強人工智能之間的邊界上,，那您覺得DeepSeek向前進(jìn)了一步嗎？張軍平：它可能會讓人們覺得它更加像,，如果硬要區(qū)分人工智能的強弱,，那它還是一個弱人工智能。湘江：那您覺得我們離強人工智能還有多遠(yuǎn)的路要走,？張軍平：我覺得還是遙遙無期,。強人工智能的一個重要定義是具備自我意識。然而到目前為止,，關(guān)于意識的本質(zhì)和形成機制,，科學(xué)界尚未達(dá)成明確的共識。因此,，在我們對意識還沒有充分理解的情況下,，強人工智能的實現(xiàn)看起來仍然非常遙遠(yuǎn)。