當(dāng)天的對(duì)話是“風(fēng)波”發(fā)酵后簡仁賢首次和外界交流，他十分坦誠,，某些時(shí)刻甚至給人感覺已有些釋然,。

在對(duì)話中，他分享了很多慘痛經(jīng)歷換來的經(jīng)驗(yàn),，這些教訓(xùn)自然不如人們已然習(xí)慣的Sora類的驚艷驚喜驚嚇來的吸引人,，也不如網(wǎng)絡(luò)上用一個(gè)“全面停工”來概括一切更能迎合看客們“中美差距又在拉大”的情緒，但對(duì)于那些和簡仁賢一樣,，同時(shí)陷在大模型帶來的人類技術(shù)大突進(jìn)和創(chuàng)業(yè)環(huán)境大低谷這兩個(gè)重要周期里的創(chuàng)業(yè)者和實(shí)干者們來說,，這一年簡仁賢所經(jīng)歷的，顯然無比重要,。

“我都還沒有放棄追逐夢(mèng)想,，哪怕這把年紀(jì)?！彼f,。

“我希望把這些經(jīng)驗(yàn)分享出來，沒什么可藏著掖著,，大家還是要一起往前走,。”

發(fā)生了什么,？

硅星人：所以最近到底發(fā)生了什么？

簡仁賢：其實(shí)涉及不同層面的事情,。我先講我們最近發(fā)生的事,。

一個(gè)企業(yè)發(fā)生這樣的事背后肯定有一長段的歷程。這次事件的發(fā)酵是偶然的,，因?yàn)槲覀冊(cè)跁和Ｄ骋恍I(yè)務(wù),，需要考慮到很多法律法規(guī)，要給員工正式通知,，但總是有員工會(huì)覺得不同意,，就情緒化的傳出去了，被錯(cuò)誤解讀，斷章取義說是全面停工,。

其實(shí)是我們?cè)谡{(diào)整業(yè)務(wù),。

硅星人：所以事實(shí)上你們?cè)谌绾握{(diào)整業(yè)務(wù)？

簡仁賢：這個(gè)說來比較長一點(diǎn),。

企業(yè)在三種不同因素影響之下,，必須要做一個(gè)重大的改變。

第一個(gè)因素是融資環(huán)境非常不好,。這個(gè)我毫不諱言,，本來我們每一年都有融資，但2023 年年初的融資其實(shí)是 2022 年年底確定的,，所以等于2023 年我們沒有完成融資,。

往年的話我們每一年都有融資事件，因?yàn)槲覀冊(cè)谛录夹g(shù)的投入上是最大的,。從 2015 年以后所有的 NLP 都是我們自研的,，里面沒有用過任何開源軟件。除了像 MySQL 等等這些因?yàn)榭蛻魰?huì)用之外,，我們沒有用過開源軟件做我們的NLP技術(shù)和我們的所有小模型的算法,。我們的產(chǎn)品也都是自研開發(fā)的，甚至我們率先研發(fā)出來,，再被很多企業(yè)去抄襲,，比如說我們的 bot factory，?一個(gè)機(jī)器人平臺(tái),，這個(gè)平臺(tái)到現(xiàn)在也是我們毛利率最高的平臺(tái),，里面有數(shù)千個(gè)不同的小模型在里面。我們還有非常標(biāo)準(zhǔn)化的機(jī)器學(xué)習(xí)平臺(tái),，呼叫中心用的助手,，知識(shí)工程的平臺(tái)以及知識(shí)庫的產(chǎn)品等，這些都是我們用小模型歷史迭代起來的業(yè)務(wù),，其實(shí)在我們最高光的時(shí)候,，這些業(yè)務(wù)都做得非常好。

硅星人：然后ChatGPT來了,。

簡仁賢：對(duì),， 2022 年年底的時(shí)候 ChatGPT 突然橫空出世之后，所有的行業(yè)里的人都開始焦慮跟急躁,，包括我在內(nèi),。你會(huì)發(fā)現(xiàn)說，怎么一個(gè)大模型的技術(shù)就這么來了,？

因?yàn)?022 年年初的時(shí)候（InstructGPT論文發(fā)布后）,，我們?cè)诳?GPT 3 的時(shí)候都覺得這個(gè)東西至少還有兩到三年才有辦法承受。為什么呢,？因?yàn)樗枰罅康乃懔?，這些算力很貴的，非常貴,。所以 2022 年的年初,，我并不覺得大模型有前途，因?yàn)樗懔μF,，我們做 Tob 的我覺得不可能在 3 到 5 年之內(nèi)在 ToB 能夠廣泛落地,。

后來到 Google 的PaLM出來后，我們從六七月開始,，一直到 10?月的時(shí)候就開始用大模型來嘗試著要做一些小模型的東西,。后來發(fā)現(xiàn)大模型能幫助小模型去訓(xùn)練模型，提高它的準(zhǔn)確率,，幫忙制造語料等,。那么到了 ChatGPT 真的出來以后，我們發(fā)現(xiàn)整個(gè)的語義理解經(jīng)過大模型完全改變了,。但是有一件事情沒變,，就是算力的需求還是很高。高到企業(yè)里面根本受不了,。

所以到2023 年初我就提出來新的產(chǎn)品策略,，叫 1 + 4 的產(chǎn)品策略。因?yàn)槠髽I(yè)算力需求肯定很大,，所以我想說未來我們應(yīng)該是“賣算力”的——核心是提供一個(gè)平臺(tái)讓企業(yè)去做模型訓(xùn)練,。

因?yàn)槠髽I(yè)的數(shù)據(jù)無法外傳，一定要訓(xùn)練自己的模型,，那么這樣子我提供了平臺(tái)讓他在我的平臺(tái)里面能夠去訓(xùn)練模型,，去圍繞模型端到端的把各種環(huán)節(jié)都做好，甚至連 GPU 的資源管理都做好,。然后我后面再去用云資源,，再去用GPU，我就可以賺中間的差價(jià),。這是一門賣算力的生意,。

想明白后，我們就研發(fā)出來emotibrain,，也就是模型工廠,。基本上可以私有部署,，也可以公有云,。其實(shí)在美國已經(jīng)有幾家這樣的賣算力的公司，做得非常不錯(cuò)。

硅星人：美國有CoreWeave,。

簡仁賢：對(duì),，他們以前做區(qū)塊鏈,，后來轉(zhuǎn)型把手上的資源拿去提供算力,，可以在上面訓(xùn)練也可以租用，當(dāng)然他們也研發(fā)了一個(gè)共享算力的平臺(tái),。

但我們?cè)趪鴥?nèi)做不可能自己去買一萬塊GPU,。我肯定就是用一些云計(jì)算資源，比如說華為云,、移動(dòng)云,、電信云、聯(lián)通云,，他們都有很多云資源,，還有其他很多，我就接他們,，我們就算中間廠商,。

這聽起來是個(gè)非常好的商業(yè)模式，對(duì)吧,？

硅星人：聽起來比較理想,。

簡仁賢：對(duì)。所以當(dāng)時(shí)我們也推了SaaS,。結(jié)果還真的簽了好幾個(gè)客戶,。

硅星人：這個(gè)產(chǎn)品就是去年發(fā)布的對(duì)吧。

簡仁賢：對(duì),，2023年年中推出的,，我們的定價(jià)分別有299，399,，和1000,。用戶上來可以用它做訓(xùn)練,，拿數(shù)據(jù)來我們這里做打標(biāo)簽的工作，訓(xùn)練模型等,。

硅星人：299是一個(gè)月嗎,？

簡仁賢：對(duì)，299一個(gè)月可以讓它用幾個(gè)小時(shí),。所以這個(gè)算力的差價(jià)其實(shí)是有利潤的，很有利潤?，F(xiàn)在我覺得這部分生意以后還是可以繼續(xù)以項(xiàng)目的方式做,。但是后來很快問題來了。現(xiàn)實(shí)跟想象不同,。

硅星人：哪里出了問題,。

簡仁賢：問題出在需求。大客戶或者是中客戶雖然有這個(gè)需求,，但是需求起得有點(diǎn)慢,。

硅星人：為什么呢？

簡仁賢：我們現(xiàn)在拋開一些表面上的這些問題,，用第一性原理的來解釋這些現(xiàn)象,，其實(shí)用第一性原理來解釋整個(gè)大模型的進(jìn)展，就只有一句話,。就是——整個(gè)技術(shù)迭代太快,。

因?yàn)檎麄€(gè)技術(shù)迭代太快，所以里面根本沒有商業(yè)價(jià)值,。

從All in 到 Half in

硅星人：就是你在這個(gè)基礎(chǔ)技術(shù)上面做開發(fā)和商業(yè)拓展,，但下面的技術(shù)又往前跑了。

簡仁賢：對(duì),。如果一個(gè)新技術(shù)每個(gè)月迭代一次,，To C當(dāng)然很容易嘩眾取寵，但 ToB 的需要一段時(shí)間去消化,。所有 ToB 的客戶首先需要去學(xué)習(xí),，需要去探索，需要去試驗(yàn),、去論證,、去提報(bào)。然后再去做ROI,， ROI 完以后要再去提預(yù)算,。提預(yù)算完以后他才有辦法去做招標(biāo)，再有可能到開發(fā)到實(shí)現(xiàn),。

當(dāng)你每個(gè)月都迭代一次的時(shí)候,，所有的客戶都會(huì)觀望,。哎，那我再等一個(gè)月是不是有新的東西,？所以整個(gè)的大模型從 ChatGPT 出來之后,，我們其實(shí)做了一個(gè)比較極端的決策。就是我要 all in大模型?,，all in ChatGPT,，除了emotibrain，我們還開發(fā)了KK bot,。

硅星人：就是1+4里面的后面四個(gè),。

簡仁賢：對(duì)，四個(gè)產(chǎn)品其中第一個(gè),。一個(gè)對(duì)話平臺(tái),，專門基于大模型的。它里面可以做Prompt 的優(yōu)化,，Prompt的 template ,，Prompt的生成，我們是第一個(gè)能夠做Prompt生成的一個(gè)軟件,。我們?cè)?022年12月就推出來了Prompt Generator,，可以產(chǎn)生prompt。嗯,，那個(gè)時(shí)候我就認(rèn)為 prompt 很重要,，但是撰寫編寫跟設(shè)計(jì) prime 的門檻相當(dāng)高。所以我們就設(shè)計(jì)出來好一些的模板可以自動(dòng)讓你生成,。

當(dāng)初我的要求就是第一降低模型訓(xùn)練的門檻,，第二降低寫 Prompt 的門檻，第三降低模型訓(xùn)練的成本,。全成本,，total owner cost 全部降低。這些體現(xiàn)在 1 + 4里面,。另外幾個(gè)也是在用大模型來升級(jí)我們已有的產(chǎn)品,，比如培訓(xùn)產(chǎn)品，知識(shí)庫產(chǎn)品,，可以用大模型來做知識(shí)的檢索,。

當(dāng)我們推出的時(shí)候，推到客戶那邊去,，每個(gè)客戶都很喜歡,。不過他們都還在探索跟學(xué)習(xí)大模型。他們也覺得那要怎么把它們用到業(yè)務(wù)里面去,？怎么樣去說服他們的高層,？大模型可不可控,？光是在討論大模型可不可控，說話能不能控制這些問題,，企業(yè)的人基本上要花很多很多的時(shí)間自己去調(diào)研,，請(qǐng)專家調(diào)研，才有辦法去信任我們,，光是廠商跟他講是沒有用的,。

完了以后最重要的問題來了，數(shù)據(jù)不可外傳,，一定要本地,。那就要私有部署。

硅星人：回到項(xiàng)目制了,。

簡仁賢：對(duì)。那我們幫你列一個(gè)私有部署方案,。那接下來,，算力呢？企業(yè)根本不知道算力要有多少,，當(dāng)你幫他算出來他的算力要有多少的時(shí)候。他慌了,。因?yàn)槟阌?xùn)練時(shí)需要GPU,，推理時(shí)候 GPU 的需求可能又遠(yuǎn)高于訓(xùn)練的數(shù)倍到數(shù)十倍，這取決于你的用戶數(shù)有多少,，你對(duì)它的響應(yīng)速度有多少,，以及你的場景數(shù)據(jù)有多復(fù)雜。

模型響應(yīng)快的可以四五秒,，但許多主流大模型都是十幾秒,。客戶無法接受,，你知道客戶要多少,，要兩秒。我說?從6 秒到 2 秒,，它的算力的需求可能都要 5 倍到 10?倍,。那時(shí)候一個(gè) A100?的 DGX 的服務(wù)器都要 150?萬人民幣，八卡,。那么 10?個(gè) 8 卡就要 1500?萬,。

硅星人：太貴了。

簡仁賢：客戶的智能客服想要用這個(gè)大模型,，他不可能說先買幾百萬的 GPU 去做,，然后把他現(xiàn)在可能幾十萬,、上百萬的智能客戶系統(tǒng)全換掉。這個(gè)就符合我最初的判斷,，就是大模型在企業(yè)這種唾手可得的業(yè)務(wù)場景里面要落地是不可能,，因?yàn)樗懔κ窍喈?dāng)高。

除此之外,，第二是數(shù)據(jù)成本也很高,。訓(xùn)練大模型的數(shù)據(jù)跟企業(yè)做結(jié)構(gòu)化數(shù)據(jù)的梳理跟標(biāo)注是完全不同的。第三個(gè)問題是Prompt,，你幫企業(yè)部署一個(gè)大模型,，可是企業(yè)用不起來的。因?yàn)樗欢迷趺磳憄rompt,。我們也曾經(jīng)為一家大企業(yè)做一個(gè)垂直場景的大模型,。對(duì)這種具體的場景，通用模型的泛化能力是沒有用的,，所以我們要自己去訓(xùn)練一個(gè)模型,，我們也訓(xùn)練了兩三個(gè)月，我們的算法工程師自己在標(biāo)數(shù)據(jù),，每一天都去調(diào)優(yōu),，然后又要去訓(xùn)練，一次訓(xùn)練都要七八個(gè)小時(shí),，然后再跑出來啊,。這個(gè)整個(gè)的過程是很漫長的。

所以簡單的講,，這些原因才造成目前企業(yè)在大模型落地速度有點(diǎn)慢,。但是需求在不在,？需求在，需求很大，可是落地的速度比較慢,。從學(xué)習(xí)到驗(yàn)證到最后立項(xiàng)才知道原來要這么多GPU,，然后打退堂鼓,。

硅星人：就要重新再來一遍,。

簡仁賢：對(duì)。這個(gè)在我們過去一年多來我們的嘗試耗費(fèi)了大量精力,，我們投入太多,，回報(bào)太少。我可能投入這么多,，預(yù)期回報(bào)是這么多,，現(xiàn)在回報(bào)只有這么少。那我原來跟我們的股東講說我去年要盈虧平衡,，經(jīng)過這個(gè)大模型我又虧錢,，那你說我應(yīng)該怎么辦,？

我說我做的這些產(chǎn)品技術(shù)都是業(yè)界最棒的，我們 KK bot做出來的時(shí)候,，其實(shí)國內(nèi)的基礎(chǔ)模型都還沒有那些功能,，五六月我們做出來的時(shí)候都還沒有，都還沒有啊,。他們都只還是有一個(gè)模型,。比如Prompt builder是11月底ChatGPT出來后四周我們就做出來。但對(duì)客戶來說,，它是一套的東西,。

硅星人：但你們已經(jīng)投入了一年了。

簡仁賢：我們是更極端的 all in 整個(gè)大模型去做,，這導(dǎo)致我自己原先的產(chǎn)品的業(yè)務(wù)受損,。但我認(rèn)為其實(shí)我原先產(chǎn)品的業(yè)務(wù)可以是做得更好的。所以到去年年底我就在思考,，我們的這個(gè)決定,，就是1 + 4 all in 大模型的這個(gè)決定，是不是應(yīng)該調(diào)整一下,？所以我調(diào)整的策略是什么呢,？

是 Half in,。

硅星人：之前提到過去年您在用一個(gè)雙引擎的策略,，外界一度理解是你要大模型和傳統(tǒng)小模型的業(yè)務(wù)同時(shí)做，所以其實(shí)并不是,，而是all in 大模型,？

簡仁賢：雙引擎的確是大小模型雙引擎，但大小模型雙引擎是 all in大模型,，是大模型大帶小模型,。

硅星人：所以很多人說這次的問題是不夠all in 大模型，其實(shí)反而是因?yàn)閍ll in帶來的問題,，過去的所有業(yè)務(wù)都要用大模型改造導(dǎo)致的,。

簡仁賢：我們是all in在做，比如KK bot是全部重新開發(fā),，EmotiBrain上都是大模型,。所以一個(gè)結(jié)果是我們所有的研發(fā)資源，所有整體的資源都往大模型里面去導(dǎo),，大模型的應(yīng)用,、大模型的中臺(tái)、大模型的底層,，甚至于我們也去做了模型訓(xùn)練的加速,。

硅星人：加速也做了,？

簡仁賢：是的，我們連加速都去做,，訓(xùn)練的加速,。對(duì)，加速,。加速 llama 2的 finetuning等,，整個(gè)全棧都做，所以到了 23 年的年底,，我覺得這樣子不行了,，所以接下來應(yīng)該怎么辦？我就覺得說我們應(yīng)該再調(diào)整我的策略,，就2024年不是 all in 大模型,，應(yīng)該叫 half in 大模型。

減少一半的意思是什么呢,？是我要以我原先的這些成熟的經(jīng)過好多年驗(yàn)證,，經(jīng)過 6 、 7 年驗(yàn)證的成熟的產(chǎn)品,，小模型在前面,，我用大模型在后面推。用大模型來幫助小模型,，然后用大模型來兜底小模型,。也就是說讓我們的產(chǎn)品，不但客戶能有小模型的快準(zhǔn)省,，再加上大模型的泛化能力跟語義理解能力,。

所以我必須要暫停一些業(yè)務(wù)，比如說我們的 SaaS 業(yè)務(wù),，暫停一些我們的大模型的標(biāo)準(zhǔn)化產(chǎn)品的業(yè)務(wù),。再濃縮到我們?cè)瓉沓墒斓漠a(chǎn)品，然后把基于我們的小模型的這個(gè)現(xiàn)有客戶,，未來幫他們升級(jí)成大模型的客戶,。這樣我希望能夠不讓我們的客戶受到干擾，不讓我們的投資人受到干擾,。

我們可能未來幾個(gè)月的時(shí)間要用行動(dòng)來證明,，這個(gè)模式能在幾個(gè)月之內(nèi)讓我們現(xiàn)金流轉(zhuǎn)正，我自己能造血之后我再去看大模型,。

所以如果時(shí)間能回到2022 年的 12 月,，我可能就不會(huì)那么激進(jìn)，我可能就會(huì)說讓子彈飛一會(huì)兒。

硅星人：要等一等客戶,，不能比客戶跑得快太多,。

簡仁賢：對(duì)。不能比客戶跑得快,。這是我 30 年來的心得,。?ToB 你要比客戶慢， ToC 你要比用戶快,。完全不一樣,。別人的理解就跟我不一樣，別人理解說 ToB 你可以有既定需求,， ToC 你不用去管你的需求,，其實(shí)這是錯(cuò)的。ToB 就是一點(diǎn),，你要賺錢速度就要比客戶慢,。ToC 你要賺錢，你就要搶在最前面,，剛好相反,。

硅星人：所以當(dāng)初all in的時(shí)候甚至你想讓客戶也要跟著你一起 all in 大模型，而現(xiàn)在 half in,，相當(dāng)于另外一半是自己逐漸消耗掉,，自己繼續(xù)來理解這個(gè)大模型，可能客戶不需要知道你很多東西是用了大模型,，但是你會(huì)在這個(gè)產(chǎn)品里用你們的技術(shù)積累和技術(shù)的認(rèn)知去繼續(xù)改造,。

簡仁賢：對(duì)。我要往后推一些,。原來我們總是跑到最前面去引領(lǐng)創(chuàng)新,，因?yàn)槲业墓亲永锩嬉恢倍家咴谧钋懊妗?/p>

硅星人：其實(shí)這引出來另一個(gè)我想問的問題,，你當(dāng)時(shí)為什么沒有做基礎(chǔ)模型,？

簡仁賢：因?yàn)槲覀兪?年的公司，你不可能說用大模型的估值去融這么多錢,，融不到,，而且相對(duì)應(yīng)的人才都很貴，我要先融錢才有辦法,。我也跟投資人開玩笑說,，可以竹間不做，我另外再去起一個(gè)公司,，可以做一個(gè) 10?億的公司,，馬上可以融2億來做。但是這個(gè)是題外話。

今天Half in的意思就是說我不能放棄我能賺錢的東西,，而去追求一個(gè)還沒有需求爆發(fā)的東西,。所以我應(yīng)該是說，我的客戶他們要的是什么,？它要的是大模型么,，它其實(shí)業(yè)務(wù)沒變，存款還是存款,，貸款還是貸款,，風(fēng)控還是風(fēng)控，都沒變,。只是說他要你要解決他的業(yè)務(wù)問題,，有沒有用最有效的方法？

后來我發(fā)現(xiàn)我們的客戶都是怎么樣,，是我要你這個(gè)小模型的這個(gè)成熟產(chǎn)品,，但是這兩個(gè)場景幫我用大模型做。所以其實(shí)變成80%?用我們成熟產(chǎn)品,， 20%?用大模型去做探索性的場景,，那么這些以后就變成二期、三期了,，所以我們現(xiàn)在的方式是這樣,。這是一個(gè)很大的轉(zhuǎn)型，這樣企業(yè)才能生存,。

硅星人：每天被這些新技術(shù)FOMO式的沖擊,，讓人們忘了NLP在過去十年有多成熟，它是一個(gè)成熟的 ToB 的市場,，成熟的需求,，成熟的產(chǎn)生現(xiàn)金流的跑通了的業(yè)務(wù)模式。

簡仁賢：是的,，沒錯(cuò),。

硅星人：而NLP公司們還有一個(gè)特征，就是它已經(jīng)有一個(gè)成熟的業(yè)務(wù)模式但同時(shí) NLP 它本身是一個(gè)一直在進(jìn)步的技術(shù),，哪怕沒有大模型出來,，它也是一直需要技術(shù)投入的一個(gè)行業(yè)。所以您提到的融資環(huán)境,，今天整個(gè)中國投資市場的彈藥就這么多了,，那如果都去了大模型公司，過往本身非常需要融資支持技術(shù)研發(fā)的NLP公司,，彈藥就不夠了,。

簡仁賢：是的,，沒錯(cuò)。所以因應(yīng)這種環(huán)境,，大部分的資金都是投月之暗面,，minimax，智譜,，對(duì)吧,？那我們?cè)趺醋瞿兀亢芎唵?。我們就自己造血?/strong>