36氪獲悉,，AI應(yīng)用開發(fā)者平臺「BentoML」已于日前完成900萬美元種子輪融資,，本輪融資由DCM領(lǐng)投,，Bow Capital參投，融資金額將用于擴充產(chǎn)品體系和提升產(chǎn)品水平,。

「BentoML」是一家專注于AI應(yīng)用的開發(fā)者平臺，成立于2019年，總部位于舊金山,。核心團隊主要由具有硅谷技術(shù)創(chuàng)業(yè)經(jīng)歷的工程師組成?！窧entoML」致力于為開發(fā)者和企業(yè)客戶提供構(gòu)建,、部署和擴展AI應(yīng)用程序的能力，其開源產(chǎn)品已經(jīng)支持全球范圍內(nèi)數(shù)千個企業(yè)及組織的核心AI應(yīng)用,，并受到了全球AI應(yīng)用開發(fā)者的青睞,。「BentoML」于近日發(fā)布其Serverless云平臺BentoCloud,，將更好的服務(wù)于全球AI開發(fā)者,，進一步滿足縮減開發(fā)時間和成本的剛性需求。

“友好的開發(fā)者體驗,，能讓更多的開發(fā)者將AI融入到他們的產(chǎn)品中去,。”

「BentoML」創(chuàng)始人,、CEO楊超予曾是Databricks早期員工,，他告訴36氪，“未來一段時間內(nèi),，縮短開發(fā)周期,、降低開發(fā)門檻，將會成為開發(fā)者和企業(yè)通過AI來獲得競爭優(yōu)勢的重要因素,?！?/p>

值得一提的是，「BentoML」自研的LLM（大語言模型）開放平臺「OpenLLM」,，在全球最大開源項目社區(qū)GitHub上,，僅上線一周就成為了“趨勢項目”。

GitHub – Trending

從模型部署切入,，讓AI開發(fā)“開箱即用”

通過把所需的基礎(chǔ)設(shè)施進行模塊化處理,，和對于常見機器學習框架及推理引擎的支持，「BentoML」發(fā)布了其自研Serverless云平臺「BentoCloud」,，提供了一套簡單易用的API和靈活的架構(gòu),，使得開發(fā)者可以更容易地選用若干預(yù)訓練好的模型去開發(fā)不同類型的AI應(yīng)用。目前,，「BentoML」主要優(yōu)勢有三：

首先,，「BentoML」允許開發(fā)者使用一套編程接口部署任何策略，這也是其作為新一代開發(fā)者平臺有別于其他框架的特點之一,。從低延時的API接口,、針對長推理任務(wù)的近線計算，到分布式的批處理和流處理等,，開發(fā)者只需要寫一次代碼去描述AI應(yīng)用的邏輯,。

其次，「BentoML」對主流模型進行了開箱即用的封裝和優(yōu)化,，目前支持包括大語言模型（LLM）,、生成式AI、計算機視覺,、自然語言處理（NLP）等在內(nèi)的大部分細分領(lǐng)域AI應(yīng)用開發(fā),。

第三，基于BentoML開源框架的多年積累,，「BentoCloud」的計費方式是在業(yè)務(wù)高峰期自動擴容,，在高峰過后縮容為零，確保開發(fā)者只為使用的算力付費,，比起租用GPU來說大幅降低了研發(fā)與業(yè)務(wù)成本,。

圖源：BentoML

成立之初,，「BentoML」從模型部署切入,，主要面向?qū)I(yè)的AI開發(fā)者。如今,，隨著更多商業(yè)機會的出現(xiàn),，「BentoML」也正在向著更廣泛的AI應(yīng)用場景進發(fā)。

比如,，生成式AI的爆發(fā),，導致從去年開始整個AI領(lǐng)域涌入了一大批AI應(yīng)用開發(fā)者，其中很多人的經(jīng)驗和技術(shù)背景主要來自于產(chǎn)品開發(fā),、移動應(yīng)用開發(fā)等,。為了調(diào)用AI的能力，他們需要在自己不擅長的領(lǐng)域進行大量的學習和實踐,。

“這群新用戶是今天市場的發(fā)展讓我們看到的最大的改變,?！?/p>

楊超予坦言，將AI開發(fā)的門檻降低到普通開發(fā)者的手中,，“這個想法早就有了”,。去年夏天，「BentoML」團隊還在預(yù)言,，未來會出現(xiàn)一個AI應(yīng)用開發(fā)工程師的職位。直到今年2月,，新聞開始每天沖擊著整個科技圈的視野,，隨之而來的是周圍做軟件開發(fā)的人開始詢問：如果我想做一個怎樣的模型，一個怎樣的應(yīng)用,，我應(yīng)該怎么做,？

在越來越多的聲音中，楊超予感受到,，變革真的在發(fā)生,。

對于市場驅(qū)動下的新用戶來說，「BentoML」發(fā)布了專屬的框架幫助用戶自己去探索或組合AI開發(fā)中的各種解決方案,。比如聊天機器人,、OCR、圖像檢索,、文本內(nèi)容搜索等常用AI場景,。

簡化產(chǎn)品路徑，建立MLOps標準

除了以AI為核心體驗的產(chǎn)品服務(wù)之外,，目前,，開發(fā)基于AI的產(chǎn)品服務(wù)也已經(jīng)成為了企業(yè)創(chuàng)新和提高生產(chǎn)效率的首要任務(wù)。

“企業(yè)對人工智能應(yīng)用的需求正在到達一個拐點,?！?/p>

然而，由于構(gòu)建AI應(yīng)用的開放標準尚未建立,，盡管AI的目的是作用于更高效的生產(chǎn)和更好的用戶體驗,，但復(fù)雜的需求和生產(chǎn)環(huán)境仍然讓如今的AI開發(fā)變得緩慢、昂貴,、且門檻極高：盡管目前開源社區(qū)中已經(jīng)存在如LLaMA,、Stable Diffusion、LangChain等的開發(fā)組件和預(yù)訓練模型等,，但開發(fā)者仍然需要花費大量的時間和精力才能達到生產(chǎn)環(huán)境所需的穩(wěn)定性和可擴展性,。

“那么多企業(yè)都在收集數(shù)據(jù)，我們都知道AI是挖掘數(shù)據(jù)價值的必經(jīng)之路,，目前即使是成熟的科技公司,，在內(nèi)部解決方案上也會面臨巨大的挑戰(zhàn),。”

比如,，內(nèi)部開發(fā),，僅是AI 服務(wù)開發(fā)階段就要平均寫3000行代碼和10多個組件?？傮w來看,，「BentoML」能夠?qū)⑿侍嵘?5倍。

圖源：BentoML

事實上,，無論是讓模型作用于數(shù)據(jù)分析，還是面向消費市場的AI體驗,，MLOps（Machine Learning Operations,，機器學習運維）目前需要“行業(yè)里最好的工程師”，而不是每個公司都能招到頂尖人才去完成復(fù)雜系統(tǒng)的開發(fā),。即使具備了以上條件,，AI基礎(chǔ)設(shè)施還是會成為企業(yè)花時間和資源最多的地方,。

可以說,，以更簡單的方式進行AI開發(fā)與生產(chǎn)，不僅僅是以開箱即用的解決方案匹配當下風頭正盛的技術(shù)方向,，也是為當下每一家還在收集數(shù)據(jù),、觀望 AI 的公司提前做出一個開源標準。

無論是去年的低代碼,、無代碼趨勢,，還是時下熱門的MLOps、LLMOps,，人類技術(shù)發(fā)展的要義就是不斷簡化和降低新興技術(shù)的門檻,。而對于AI和大模型應(yīng)用開發(fā)來說，將差異化和競爭壁壘依托于數(shù)據(jù)本身,，模型訓練交給數(shù)據(jù)科學家,，其他的步驟在標準化的工業(yè)級生產(chǎn)框架下快速完成，才是最高效的,。

“今年一月,，很多人認為企業(yè)要基于自己的數(shù)據(jù)去做大語言模型，訓練成本需要上百萬美金,，很少有公司能負擔起,。然而我們相信，隨著訓練成本下降,，更多的企業(yè)將來一定可以去使用自己的大語言模型,。沒想到的是,，僅三個月后，fine-tune 大模型的成本,，可以下降到幾百美元,。”

更早的投入,，意味著每天都在見證嶄新的未來,，也意味著一個更扎實的開源社區(qū)基石。如今,，「BentoML」在社區(qū)內(nèi)擁有上千名開發(fā)者用戶,，支撐著埃森哲、Riot Games,、SoundHound、LINE等不同領(lǐng)域一線企業(yè)的AI應(yīng)用及服務(wù),。市場方面,，「BentoML」目前的市場活躍度優(yōu)先分布于北美、東亞,、歐洲市場,，已經(jīng)得到了來自企業(yè)和開發(fā)者的廣泛響應(yīng)。

置身AIGC的浪花中,，AI技術(shù)革命所帶來的創(chuàng)造與體驗價值,，已經(jīng)成為了一個長期命題。當市場回歸理性,，AI應(yīng)用與服務(wù)會從如今的新奇體驗變?yōu)楦餍懈鳂I(yè)不可或缺的副駕駛,。屆時，平靜海面的下方,，將會是一個豐富而有條不紊的開發(fā)生態(tài)系統(tǒng),。

而隨著越來越多的開發(fā)者投身AI，像「BentoML」一樣深耕于MLOps基礎(chǔ)設(shè)施的“開拓者”,，也將進一步思考,，如何服務(wù)于不同需求、不同場景,、不同技術(shù)背景下的開發(fā)者,，為AI開發(fā)的成本和效率之戰(zhàn)給出更好的回答。

———————–

“隨著GPT4等大型語言模型（LLM）的蓬勃興起,，軟件工程師正在以前所未有的速度和規(guī)模借助各類開源基礎(chǔ)模型創(chuàng)建AI原生應(yīng)用程序,。 DCM對「BentoML」為幫助AI/ML開發(fā)者創(chuàng)建和運營AI服務(wù)所做的工作感到興奮，”DCM中國創(chuàng)始合伙人,、董事合伙人林欣禾（Hurst Lin）表示,，“借助全新推出的BentoCloud產(chǎn)品,，「BentoML」將以最大的可靠性和可擴展性交付AI產(chǎn)品，成為所有軟件開發(fā)者的首選MLOps/LLMOps平臺,?！?/p>