《科創(chuàng)板日報》23日訊（記者 李明明） 新年伊始,，AI賽道持續(xù)火熱,。

近日，國內(nèi)AI Infra創(chuàng)業(yè)企業(yè)北京清程極智科技有限公司（下稱“清程極智”）發(fā)生工商變更，新增北京市人工智能產(chǎn)業(yè)投資基金（有限合伙）,、北京中科創(chuàng)星硬科技中小企業(yè)創(chuàng)業(yè)投資合伙企業(yè)（有限合伙）,、北京考拉鯤鵬科技成長基金合伙企業(yè)（有限合伙）等,，注冊資本由約115.4萬元增至約138.4萬元,。

《科創(chuàng)板日報》記者注意到，作為天使輪投資方,，智譜近期退出了清程極智,，退出前持股比例2.16%。對此,，《科創(chuàng)板日報》記者聯(lián)系了智譜,，但公司未作回應(yīng)。

清程極智聯(lián)合創(chuàng)始人湯雄超為字節(jié)系創(chuàng)業(yè)者,，他于2022年加入字節(jié)跳動任高級研發(fā)工程師,。

聚焦AI Infra賽道

清程極智成立于2023年12月,，法定代表人為湯雄超，是一家智能算力系統(tǒng)軟件服務(wù)商,。經(jīng)營范圍含人工智能理論與算法軟件開發(fā),、人工智能基礎(chǔ)資源與技術(shù)平臺、人工智能基礎(chǔ)軟件開發(fā)等,，現(xiàn)由北京清程萬象科技中心（有限合伙）,、北京清程縱橫科技中心（有限合伙）等及上述新增股東共同持股。

主要產(chǎn)品方面,，清程極智此前推出自研高性能推理引擎 “赤兔（Chitu）”,。該引擎集低延遲、高吞吐,、低顯存占用,、系統(tǒng)運行穩(wěn)定等技術(shù)優(yōu)勢于一身。目前,，“赤兔”推理引擎已支持文本,、圖片和視頻等多種模態(tài)，并且適配及多款國產(chǎn)芯片,。

另外,，清程極智的旗艦系統(tǒng)“八卦爐”在某國產(chǎn)芯片集群訓(xùn)練 Llama2-70B 場景下，加速效果接近2倍,?！鞍素誀t”系統(tǒng)具有較強的通用性，能針對不同硬件架構(gòu)和目標(biāo)模型提供針對性的性能優(yōu)化方案,，可以兼顧預(yù)訓(xùn)練和個性化微調(diào)等多樣化業(yè)務(wù)需求,。

清程極智所在的AI Infra賽道,，指的是在大模型的生態(tài)系統(tǒng)中，除算力外,，為支持大模型訓(xùn)練和部署流程構(gòu)建的各種底層軟件技術(shù)設(shè)施,。其能幫開發(fā)者簡單方便地設(shè)計模型或使用模型，而無需操心底層算力資源的調(diào)配,。

隨著ChatGPT的火熱,，大模型和其相關(guān)應(yīng)用不斷涌現(xiàn)。AI Infra作為連接算力和應(yīng)用的AI中間層基礎(chǔ)設(shè)施,，其技術(shù)和商業(yè)發(fā)展前景被重點關(guān)注,。

一位投資國內(nèi)AI Infra早期創(chuàng)企的頭部投資人向《科創(chuàng)板日報》記者表示，由于目前大模型的發(fā)展處于早期階段,，快速構(gòu)建和訓(xùn)練調(diào)優(yōu)模型更受重視,。而基礎(chǔ)設(shè)施構(gòu)建雖并非絕對優(yōu)先級，但是在行業(yè)成熟后,，應(yīng)用層發(fā)展起來后,，基礎(chǔ)設(shè)施的支撐將會越來越重要，因此,，其個人非?？春肁I Infra的前景。

“國內(nèi)AI Infra創(chuàng)企若想發(fā)展的好,，還需要思考是面向國內(nèi)市場還是海外市場,、相比現(xiàn)有解決方案或開源軟件的獨特優(yōu)勢在哪、商業(yè)模式是否可以標(biāo)準(zhǔn)化等問題,?！?/p>

隨著 AI 應(yīng)用日益廣泛，未來 AI 算力需求呈現(xiàn)推理需求持續(xù)攀升的態(tài)勢,。據(jù)相關(guān)數(shù)據(jù)預(yù)測,，到2026年，大模型推理在算力使用中的占比有望達(dá)到60%以上,。

《科創(chuàng)板日報》記者注意到,，國內(nèi)AI Infra創(chuàng)企還包括無問芯穹、硅基流動等,，二者均為清華系公司,，此前清程極智的投資方智譜也入資了這兩家企業(yè)。

無問芯穹的項目發(fā)起人是清華大學(xué)電子工程系主任汪玉,，創(chuàng)始人是其學(xué)生夏立雪,；硅基流動的創(chuàng)始人袁進輝也出身于清華，師從中國人工智能的開拓者、中國科學(xué)院院士張鈸,。

而該賽道的國外企業(yè)包括英偉達(dá),、亞馬遜、Lepton AI,、OctoAI等,，以及伯克利大學(xué)開發(fā)的 vLLM。

創(chuàng)始人系字節(jié)跳動前高級工程師

清程極智核心團隊都來自清華,，其聯(lián)合創(chuàng)始人湯雄超2019年于清華計算機系博士畢業(yè),，畢業(yè)后加入深信服，在2022年加入字節(jié)跳動任高級研發(fā)工程師,，負(fù)責(zé)計算密集型產(chǎn)品的架構(gòu),；2023年12月成立清程極智。

團隊首席科學(xué)家為清華大學(xué)計算機系教授翟季冬,，研究方向包括高性能計算,、編程語言和編譯優(yōu)化、性能評測等,。

此前,，訓(xùn)推一體機是業(yè)內(nèi)較為流行的產(chǎn)品形態(tài)。但在湯雄超看來,，訓(xùn)推一體機是很難滿足未來的 AI 業(yè)務(wù)全部需求的,。

他認(rèn)為，訓(xùn)練和推理兩種業(yè)務(wù)對算力系統(tǒng)的需求區(qū)別較大,，很難想象出有一個比較小的一體機能夠承載訓(xùn)練的業(yè)務(wù)，現(xiàn)在大模型的預(yù)訓(xùn)練可能都是萬卡以上的規(guī)模,。所以,，清程極智選擇為推理業(yè)務(wù)量身定制相應(yīng)的軟硬一體化算力系統(tǒng)。

商業(yè)化方面,，湯雄超此前表示,，清程極智已經(jīng)陸續(xù)和多家芯片廠商、算力中心,、AI 應(yīng)用開發(fā)商以及基礎(chǔ)模型預(yù)訓(xùn)練廠商達(dá)成了商業(yè)合作,，包括沐曦、燧原,、天數(shù),、摩爾線程等。

成立至今,，清程極智已經(jīng)完成了兩輪融資,，本輪投資方之一北京市人工智能產(chǎn)業(yè)投資基金表示，當(dāng)前我國各地智算中心在GPU大集群上的建設(shè)和運營經(jīng)驗尚顯不足，清程極智是國內(nèi)有充足潛力的AI Infra企業(yè),，核心團隊國內(nèi)稀缺,，具備編譯和并行系統(tǒng)雙重背景，能提供完整并行系統(tǒng)而非單一框架,，具備百萬億級參數(shù)模型訓(xùn)練經(jīng)驗,，且具備異構(gòu)算力集群訓(xùn)推優(yōu)化經(jīng)驗。

北京市人工智能產(chǎn)業(yè)投資基金,，于2023年底成立,，截至目前，其共有公開投資事件約20起,，涉及面壁智能,、智譜、深勢科技等多個人工智能領(lǐng)域的知名項目,。

另一投資方中科創(chuàng)星表示,，清程極智核心團隊在大模型出圈之前，就具備大模型在國產(chǎn)卡上的訓(xùn)練優(yōu)化能力,。是國內(nèi)少有的完全掌握從底層編譯器到上層并行加速全棧研發(fā)能力的團隊,，在國內(nèi)市場尤為空缺的編譯器和并行訓(xùn)練推理系統(tǒng)等核心技術(shù)軟件方面，具備完整的自主研發(fā)能力,。