36氪獲悉,，AI應(yīng)用開發(fā)者平臺(tái)「BentoML」已于日前完成900萬美元種子輪融資,，本輪融資由DCM領(lǐng)投,，Bow Capital參投,，融資金額將用于擴(kuò)充產(chǎn)品體系和提升產(chǎn)品水平,。

「BentoML」是一家專注于AI應(yīng)用的開發(fā)者平臺(tái),，成立于2019年,，總部位于舊金山,。核心團(tuán)隊(duì)主要由具有硅谷技術(shù)創(chuàng)業(yè)經(jīng)歷的工程師組成,。「BentoML」致力于為開發(fā)者和企業(yè)客戶提供構(gòu)建,、部署和擴(kuò)展AI應(yīng)用程序的能力,，其開源產(chǎn)品已經(jīng)支持全球范圍內(nèi)數(shù)千個(gè)企業(yè)及組織的核心AI應(yīng)用，并受到了全球AI應(yīng)用開發(fā)者的青睞,?！窧entoML」于近日發(fā)布其Serverless云平臺(tái)BentoCloud，將更好的服務(wù)于全球AI開發(fā)者,，進(jìn)一步滿足縮減開發(fā)時(shí)間和成本的剛性需求,。

“友好的開發(fā)者體驗(yàn)，能讓更多的開發(fā)者將AI融入到他們的產(chǎn)品中去,?！?/p>

「BentoML」創(chuàng)始人、CEO楊超予曾是Databricks早期員工,，他告訴36氪,，“未來一段時(shí)間內(nèi)，縮短開發(fā)周期,、降低開發(fā)門檻,，將會(huì)成為開發(fā)者和企業(yè)通過AI來獲得競爭優(yōu)勢的重要因素?！?/p>

值得一提的是,，「BentoML」自研的LLM（大語言模型）開放平臺(tái)「OpenLLM」，在全球最大開源項(xiàng)目社區(qū)GitHub上,，僅上線一周就成為了“趨勢項(xiàng)目”,。

GitHub – Trending

從模型部署切入,，讓AI開發(fā)“開箱即用”

通過把所需的基礎(chǔ)設(shè)施進(jìn)行模塊化處理,，和對于常見機(jī)器學(xué)習(xí)框架及推理引擎的支持，「BentoML」發(fā)布了其自研Serverless云平臺(tái)「BentoCloud」,，提供了一套簡單易用的API和靈活的架構(gòu),，使得開發(fā)者可以更容易地選用若干預(yù)訓(xùn)練好的模型去開發(fā)不同類型的AI應(yīng)用。目前,，「BentoML」主要優(yōu)勢有三：

首先,，「BentoML」允許開發(fā)者使用一套編程接口部署任何策略,，這也是其作為新一代開發(fā)者平臺(tái)有別于其他框架的特點(diǎn)之一。從低延時(shí)的API接口,、針對長推理任務(wù)的近線計(jì)算,，到分布式的批處理和流處理等，開發(fā)者只需要寫一次代碼去描述AI應(yīng)用的邏輯,。

其次,，「BentoML」對主流模型進(jìn)行了開箱即用的封裝和優(yōu)化，目前支持包括大語言模型（LLM）,、生成式AI,、計(jì)算機(jī)視覺、自然語言處理（NLP）等在內(nèi)的大部分細(xì)分領(lǐng)域AI應(yīng)用開發(fā),。

第三,，基于BentoML開源框架的多年積累，「BentoCloud」的計(jì)費(fèi)方式是在業(yè)務(wù)高峰期自動(dòng)擴(kuò)容,，在高峰過后縮容為零,，確保開發(fā)者只為使用的算力付費(fèi)，比起租用GPU來說大幅降低了研發(fā)與業(yè)務(wù)成本,。

圖源：BentoML

成立之初，「BentoML」從模型部署切入,，主要面向?qū)I(yè)的AI開發(fā)者,。如今，隨著更多商業(yè)機(jī)會(huì)的出現(xiàn),，「BentoML」也正在向著更廣泛的AI應(yīng)用場景進(jìn)發(fā),。

比如，生成式AI的爆發(fā),，導(dǎo)致從去年開始整個(gè)AI領(lǐng)域涌入了一大批AI應(yīng)用開發(fā)者,，其中很多人的經(jīng)驗(yàn)和技術(shù)背景主要來自于產(chǎn)品開發(fā)、移動(dòng)應(yīng)用開發(fā)等,。為了調(diào)用AI的能力,，他們需要在自己不擅長的領(lǐng)域進(jìn)行大量的學(xué)習(xí)和實(shí)踐。

“這群新用戶是今天市場的發(fā)展讓我們看到的最大的改變,?！?/p>

楊超予坦言，將AI開發(fā)的門檻降低到普通開發(fā)者的手中,，“這個(gè)想法早就有了”,。去年夏天，「BentoML」團(tuán)隊(duì)還在預(yù)言，未來會(huì)出現(xiàn)一個(gè)AI應(yīng)用開發(fā)工程師的職位,。直到今年2月,，新聞開始每天沖擊著整個(gè)科技圈的視野，隨之而來的是周圍做軟件開發(fā)的人開始詢問：如果我想做一個(gè)怎樣的模型,，一個(gè)怎樣的應(yīng)用,，我應(yīng)該怎么做？

在越來越多的聲音中,，楊超予感受到，變革真的在發(fā)生,。

對于市場驅(qū)動(dòng)下的新用戶來說,，「BentoML」發(fā)布了專屬的框架幫助用戶自己去探索或組合AI開發(fā)中的各種解決方案。比如聊天機(jī)器人,、OCR,、圖像檢索、文本內(nèi)容搜索等常用AI場景,。

簡化產(chǎn)品路徑,，建立MLOps標(biāo)準(zhǔn)

除了以AI為核心體驗(yàn)的產(chǎn)品服務(wù)之外，目前,，開發(fā)基于AI的產(chǎn)品服務(wù)也已經(jīng)成為了企業(yè)創(chuàng)新和提高生產(chǎn)效率的首要任務(wù),。

“企業(yè)對人工智能應(yīng)用的需求正在到達(dá)一個(gè)拐點(diǎn)?！?/p>

然而,，由于構(gòu)建AI應(yīng)用的開放標(biāo)準(zhǔn)尚未建立，盡管AI的目的是作用于更高效的生產(chǎn)和更好的用戶體驗(yàn),，但復(fù)雜的需求和生產(chǎn)環(huán)境仍然讓如今的AI開發(fā)變得緩慢,、昂貴、且門檻極高：盡管目前開源社區(qū)中已經(jīng)存在如LLaMA,、Stable Diffusion,、LangChain等的開發(fā)組件和預(yù)訓(xùn)練模型等，但開發(fā)者仍然需要花費(fèi)大量的時(shí)間和精力才能達(dá)到生產(chǎn)環(huán)境所需的穩(wěn)定性和可擴(kuò)展性,。

“那么多企業(yè)都在收集數(shù)據(jù),，我們都知道AI是挖掘數(shù)據(jù)價(jià)值的必經(jīng)之路，目前即使是成熟的科技公司,，在內(nèi)部解決方案上也會(huì)面臨巨大的挑戰(zhàn),。”

比如,，內(nèi)部開發(fā),，僅是AI 服務(wù)開發(fā)階段就要平均寫3000行代碼和10多個(gè)組件。總體來看,，「BentoML」能夠?qū)⑿侍嵘?5倍,。

圖源：BentoML

事實(shí)上,，無論是讓模型作用于數(shù)據(jù)分析,，還是面向消費(fèi)市場的AI體驗(yàn)，MLOps（Machine Learning Operations,，機(jī)器學(xué)習(xí)運(yùn)維）目前需要“行業(yè)里最好的工程師”,，而不是每個(gè)公司都能招到頂尖人才去完成復(fù)雜系統(tǒng)的開發(fā)。即使具備了以上條件,，AI基礎(chǔ)設(shè)施還是會(huì)成為企業(yè)花時(shí)間和資源最多的地方,。

可以說，以更簡單的方式進(jìn)行AI開發(fā)與生產(chǎn),，不僅僅是以開箱即用的解決方案匹配當(dāng)下風(fēng)頭正盛的技術(shù)方向,，也是為當(dāng)下每一家還在收集數(shù)據(jù)、觀望 AI 的公司提前做出一個(gè)開源標(biāo)準(zhǔn),。

無論是去年的低代碼,、無代碼趨勢，還是時(shí)下熱門的MLOps,、LLMOps,，人類技術(shù)發(fā)展的要義就是不斷簡化和降低新興技術(shù)的門檻。而對于AI和大模型應(yīng)用開發(fā)來說,，將差異化和競爭壁壘依托于數(shù)據(jù)本身,，模型訓(xùn)練交給數(shù)據(jù)科學(xué)家，其他的步驟在標(biāo)準(zhǔn)化的工業(yè)級(jí)生產(chǎn)框架下快速完成,，才是最高效的,。

“今年一月，很多人認(rèn)為企業(yè)要基于自己的數(shù)據(jù)去做大語言模型,，訓(xùn)練成本需要上百萬美金,，很少有公司能負(fù)擔(dān)起。然而我們相信,，隨著訓(xùn)練成本下降,，更多的企業(yè)將來一定可以去使用自己的大語言模型。沒想到的是,，僅三個(gè)月后,，fine-tune 大模型的成本，可以下降到幾百美元,?！?/p>

更早的投入,，意味著每天都在見證嶄新的未來，也意味著一個(gè)更扎實(shí)的開源社區(qū)基石,。如今,，「BentoML」在社區(qū)內(nèi)擁有上千名開發(fā)者用戶，支撐著埃森哲,、Riot Games,、SoundHound、LINE等不同領(lǐng)域一線企業(yè)的AI應(yīng)用及服務(wù),。市場方面,，「BentoML」目前的市場活躍度優(yōu)先分布于北美、東亞,、歐洲市場,，已經(jīng)得到了來自企業(yè)和開發(fā)者的廣泛響應(yīng)。

置身AIGC的浪花中,，AI技術(shù)革命所帶來的創(chuàng)造與體驗(yàn)價(jià)值，已經(jīng)成為了一個(gè)長期命題,。當(dāng)市場回歸理性,，AI應(yīng)用與服務(wù)會(huì)從如今的新奇體驗(yàn)變?yōu)楦餍懈鳂I(yè)不可或缺的副駕駛。屆時(shí),，平靜海面的下方,，將會(huì)是一個(gè)豐富而有條不紊的開發(fā)生態(tài)系統(tǒng)。

而隨著越來越多的開發(fā)者投身AI,，像「BentoML」一樣深耕于MLOps基礎(chǔ)設(shè)施的“開拓者”,，也將進(jìn)一步思考，如何服務(wù)于不同需求,、不同場景,、不同技術(shù)背景下的開發(fā)者，為AI開發(fā)的成本和效率之戰(zhàn)給出更好的回答,。

———————–

“隨著GPT4等大型語言模型（LLM）的蓬勃興起,，軟件工程師正在以前所未有的速度和規(guī)模借助各類開源基礎(chǔ)模型創(chuàng)建AI原生應(yīng)用程序。 DCM對「BentoML」為幫助AI/ML開發(fā)者創(chuàng)建和運(yùn)營AI服務(wù)所做的工作感到興奮,，”DCM中國創(chuàng)始合伙人,、董事合伙人林欣禾（Hurst Lin）表示，“借助全新推出的BentoCloud產(chǎn)品,，「BentoML」將以最大的可靠性和可擴(kuò)展性交付AI產(chǎn)品,，成為所有軟件開發(fā)者的首選MLOps/LLMOps平臺(tái)?！?/p>