來源：IT水哥
在人工智能領域,，能源消耗一直是一個備受關注的問題?，F(xiàn)在,，BitEnergy AI公司的研究人員開發(fā)了一種名為線性復雜度乘法（L-Mul）的技術,，這項技術有潛力將AI模型的功耗降低95%,，而不會犧牲模型的質(zhì)量,。
L-Mul技術通過在AI計算中用更簡單的整數(shù)加法替換能耗大的浮點乘法來實現(xiàn)這一目標。對于那些不熟悉這個術語的人來說,，浮點是一種數(shù)學和編程術語，它允許計算機通過調(diào)整小數(shù)點的位置高效地處理非常大和非常小的數(shù)字,。你可以將其視為二進制中的科學記數(shù)法,。它們對于AI模型中的許多至關重要的計算，但它們需要大量的能源和計算能力,。模型越大,，所需的算力就越多。從fp32的全精度模型開始,，開發(fā)者通常會降低精度到fp16,、fp8甚至fp4，以便他們的模型可以在本地硬件上運行,。
AI對電力的龐大需求已經(jīng)成為一個日益增長的擔憂,。僅ChatGPT每天就消耗564兆瓦時——足以為18,000個北美家庭供電。根據(jù)劍橋替代金融中心分享的估計,，到2027年,，整個AI行業(yè)的年能源消耗預計將達到850-1340太瓦時，與比特幣挖礦操作大致相同,。
L-Mul技術直接解決了AI能源問題,，重新構想了AI模型處理計算的方式。與傳統(tǒng)的浮點乘法不同,，L-Mul使用整數(shù)加法來近似這些操作,。例如，而不是將123.45乘以67.89,，L-Mul將其分解為使用加法的更小,、更簡單的步驟。這使得計算更快,，使用的能源更少,，同時仍然保持準確性。
研究結果看起來非常有希望,。研究人員聲稱,，“在張量處理硬件中應用L-Mul操作可以潛在地通過元素級別的浮點張量乘法減少95%的能源成本，以及點積的80%能源成本,?！焙喍灾绻粋€模型使用了這項技術,，根據(jù)這項研究,，它將以比原來少95%的能源來“思考”,，以及比原來少80%的能源來產(chǎn)生新的想法,。
該算法的影響不僅限于節(jié)能,。在某些情況下，L-Mul的性能甚至超過了當前的8位標準,，在使用顯著更少的位級計算的同時實現(xiàn)了更高的精度,。在自然語言處理、視覺任務和符號推理的測試中,，平均性能下降僅為0.07%——對于潛在的能源節(jié)省來說,，這是一個微不足道的權衡。
基于Transformer的模型,，如GPT等大型語言模型的支柱,，可能會從L-Mul中大大受益。該算法可以無縫集成到這些模型的注意力機制中,，這是計算密集型的部分,。在流行的模型如Llama、Mistral和Gemma上的測試甚至表現(xiàn)出在某些視覺任務上的準確性的提升,。
在操作層面上,，L-Mul的優(yōu)勢變得更加明顯。研究表明,，乘以兩個float8數(shù)字（AI模型今天的運行方式）需要325次操作,，而L-Mul僅使用157次——不到一半?！翱偨Y誤差和復雜度分析,，L-Mul不僅比fp8乘法更高效，而且更準確,?！毖芯咳藛T得出結論。
但沒有什么技術是完美的,，這項技術有一個主要的弱點：它需要特殊類型的硬件,，因此現(xiàn)行的硬件對其而言還沒有得到充分優(yōu)化。
支持L-Mul計算的專用硬件開發(fā)計劃可能已經(jīng)在進行中,?！盀榱顺浞旨ぐl(fā)我們提出的方法的潛力，我們將在硬件層面上實現(xiàn)L-Mul和L-Matmul內(nèi)核算法,，并為高級模型設計開發(fā)編程API,。”研究人員表示道,。這可能誘發(fā)新一代的AI模型誕生,，它們快速、準確且成本極低——使能源高效的AI成為現(xiàn)實,。
免責聲明：本文來自網(wǎng)絡收錄或投稿,，觀點僅代表作者本人,，不代表芒果財經(jīng)贊同其觀點或證實其描述，版權歸原作者所有,。轉載請注明出處：http://lequren.com/1125364.html
溫馨提示：投資有風險,，入市須謹慎。本資訊不作為投資理財建議,。
