《科創(chuàng)板日報》23日訊(記者 李明明) 新年伊始,AI賽道持續(xù)火熱。
近日,,國內AI Infra創(chuàng)業(yè)企業(yè)北京清程極智科技有限公司(下稱“清程極智”)發(fā)生工商變更,新增北京市人工智能產業(yè)投資基金(有限合伙),、北京中科創(chuàng)星硬科技中小企業(yè)創(chuàng)業(yè)投資合伙企業(yè)(有限合伙)、北京考拉鯤鵬科技成長基金合伙企業(yè)(有限合伙)等,注冊資本由約115.4萬元增至約138.4萬元。
《科創(chuàng)板日報》記者注意到,,作為天使輪投資方,智譜近期退出了清程極智,,退出前持股比例2.16%。對此,,《科創(chuàng)板日報》記者聯系了智譜,,但公司未作回應。
清程極智聯合創(chuàng)始人湯雄超為字節(jié)系創(chuàng)業(yè)者,,他于2022年加入字節(jié)跳動任高級研發(fā)工程師,。
聚焦AI Infra賽道
清程極智成立于2023年12月,法定代表人為湯雄超,,是一家智能算力系統(tǒng)軟件服務商,。經營范圍含人工智能理論與算法軟件開發(fā),、人工智能基礎資源與技術平臺,、人工智能基礎軟件開發(fā)等,現由北京清程萬象科技中心(有限合伙),、北京清程縱橫科技中心(有限合伙)等及上述新增股東共同持股,。
主要產品方面,清程極智此前推出自研高性能推理引擎 “赤兔(Chitu)”,。該引擎集低延遲,、高吞吐、低顯存占用,、系統(tǒng)運行穩(wěn)定等技術優(yōu)勢于一身,。目前,“赤兔”推理引擎已支持文本,、圖片和視頻等多種模態(tài),,并且適配及多款國產芯片。
另外,,清程極智的旗艦系統(tǒng)“八卦爐”在某國產芯片集群訓練 Llama2-70B 場景下,,加速效果接近2倍?!鞍素誀t”系統(tǒng)具有較強的通用性,,能針對不同硬件架構和目標模型提供針對性的性能優(yōu)化方案,可以兼顧預訓練和個性化微調等多樣化業(yè)務需求,。
清程極智所在的AI Infra賽道,,指的是在大模型的生態(tài)系統(tǒng)中,除算力外,,為支持大模型訓練和部署流程構建的各種底層軟件技術設施,。其能幫開發(fā)者簡單方便地設計模型或使用模型,而無需操心底層算力資源的調配,。
隨著ChatGPT的火熱,,大模型和其相關應用不斷涌現。AI Infra作為連接算力和應用的AI中間層基礎設施,,其技術和商業(yè)發(fā)展前景被重點關注,。
一位投資國內AI Infra早期創(chuàng)企的頭部投資人向《科創(chuàng)板日報》記者表示,由于目前大模型的發(fā)展處于早期階段,,快速構建和訓練調優(yōu)模型更受重視,。而基礎設施構建雖并非絕對優(yōu)先級,但是在行業(yè)成熟后,,應用層發(fā)展起來后,,基礎設施的支撐將會越來越重要,,因此,其個人非??春肁I Infra的前景,。
“國內AI Infra創(chuàng)企若想發(fā)展的好,還需要思考是面向國內市場還是海外市場,、相比現有解決方案或開源軟件的獨特優(yōu)勢在哪,、商業(yè)模式是否可以標準化等問題?!?/p>
隨著 AI 應用日益廣泛,,未來 AI 算力需求呈現推理需求持續(xù)攀升的態(tài)勢。據相關數據預測,,到2026年,,大模型推理在算力使用中的占比有望達到60%以上。
《科創(chuàng)板日報》記者注意到,,國內AI Infra創(chuàng)企還包括無問芯穹,、硅基流動等,二者均為清華系公司,,此前清程極智的投資方智譜也入資了這兩家企業(yè),。
無問芯穹的項目發(fā)起人是清華大學電子工程系主任汪玉,創(chuàng)始人是其學生夏立雪,;硅基流動的創(chuàng)始人袁進輝也出身于清華,師從中國人工智能的開拓者,、中國科學院院士張鈸,。
而該賽道的國外企業(yè)包括英偉達、亞馬遜,、Lepton AI,、OctoAI等,以及伯克利大學開發(fā)的 vLLM,。
創(chuàng)始人系字節(jié)跳動前高級工程師
清程極智核心團隊都來自清華,,其聯合創(chuàng)始人湯雄超2019年于清華計算機系博士畢業(yè),畢業(yè)后加入深信服,,在2022年加入字節(jié)跳動任高級研發(fā)工程師,,負責計算密集型產品的架構;2023年12月成立清程極智,。
團隊首席科學家為清華大學計算機系教授翟季冬,,研究方向包括高性能計算、編程語言和編譯優(yōu)化,、性能評測等,。
此前,,訓推一體機是業(yè)內較為流行的產品形態(tài)。但在湯雄超看來,,訓推一體機是很難滿足未來的 AI 業(yè)務全部需求的,。
他認為,訓練和推理兩種業(yè)務對算力系統(tǒng)的需求區(qū)別較大,,很難想象出有一個比較小的一體機能夠承載訓練的業(yè)務,,現在大模型的預訓練可能都是萬卡以上的規(guī)模。所以,,清程極智選擇為推理業(yè)務量身定制相應的軟硬一體化算力系統(tǒng),。
商業(yè)化方面,湯雄超此前表示,,清程極智已經陸續(xù)和多家芯片廠商,、算力中心、AI 應用開發(fā)商以及基礎模型預訓練廠商達成了商業(yè)合作,,包括沐曦,、燧原、天數,、摩爾線程等,。
成立至今,清程極智已經完成了兩輪融資,,本輪投資方之一北京市人工智能產業(yè)投資基金表示,,當前我國各地智算中心在GPU大集群上的建設和運營經驗尚顯不足,清程極智是國內有充足潛力的AI Infra企業(yè),,核心團隊國內稀缺,,具備編譯和并行系統(tǒng)雙重背景,能提供完整并行系統(tǒng)而非單一框架,,具備百萬億級參數模型訓練經驗,,且具備異構算力集群訓推優(yōu)化經驗。
北京市人工智能產業(yè)投資基金,,于2023年底成立,,截至目前,其共有公開投資事件約20起,,涉及面壁智能,、智譜、深勢科技等多個人工智能領域的知名項目,。
另一投資方中科創(chuàng)星表示,,清程極智核心團隊在大模型出圈之前,就具備大模型在國產卡上的訓練優(yōu)化能力,。是國內少有的完全掌握從底層編譯器到上層并行加速全棧研發(fā)能力的團隊,,在國內市場尤為空缺的編譯器和并行訓練推理系統(tǒng)等核心技術軟件方面,,具備完整的自主研發(fā)能力。
免責聲明:本文來自網絡收錄或投稿,,觀點僅代表作者本人,,不代表芒果財經贊同其觀點或證實其描述,版權歸原作者所有,。轉載請注明出處:http://lequren.com/1129125.html
溫馨提示:投資有風險,,入市須謹慎。本資訊不作為投資理財建議,。