通過此次收購(gòu)，紅帽引入了推理性能優(yōu)化和模型優(yōu)化領(lǐng)域的專業(yè)能力，進(jìn)一步推進(jìn)其愿景，即在混合云的任意位置，根據(jù)客戶獨(dú)特需求提供高性能的AI工作負(fù)載支持。

支撐當(dāng)前生成式AI應(yīng)用的大型語言模型（LLM）雖然具有創(chuàng)新性，但往往成本高昂且資源消耗巨大，大多數(shù)組織難以有效利用。

為應(yīng)對(duì)這些挑戰(zhàn)，紅帽認(rèn)為，未來AI戰(zhàn)略的成功關(guān)鍵在于開發(fā)更小、更優(yōu)化并采用開源許可的模型，通過在計(jì)算架構(gòu)和部署環(huán)境中的開放創(chuàng)新來實(shí)現(xiàn)。

Neural Magic致力于將優(yōu)化且高效的AI模型變?yōu)楝F(xiàn)實(shí)，這進(jìn)一步增強(qiáng)了紅帽實(shí)現(xiàn)AI愿景的能力。

Neural Magic也是vLLM的主要貢獻(xiàn)者之一，vLLM是由加州大學(xué)伯克利分校開發(fā)的一個(gè)開源項(xiàng)目，專注于開放模型服務(wù)，這將為組織在構(gòu)建和部署AI工作負(fù)載方面提供更多選擇和更高的可及性。

借助Neural Magic的技術(shù)與性能工程專業(yè)知識(shí)，紅帽致力于破解大規(guī)模企業(yè)AI面臨的挑戰(zhàn)，通過開源創(chuàng)新進(jìn)一步推動(dòng)AI變革的普及。具體路徑包括：

• 開源許可模型：提供從10億到數(shù)千億參數(shù)規(guī)模的模型，可靈活運(yùn)行于混合云的任意環(huán)境中——包括企業(yè)數(shù)據(jù)中心、多云部署以及邊緣場(chǎng)景。

• 模型微調(diào)能力：幫助企業(yè)更高效地根據(jù)私有數(shù)據(jù)和特定用例定制大型語言模型（LLM），同時(shí)增強(qiáng)安全性。

• 推理性能優(yōu)化專業(yè)知識(shí)：顯著提升運(yùn)營(yíng)效率和基礎(chǔ)設(shè)施利用率。

• 合作伙伴與開源生態(tài)系統(tǒng)支持：從LLM和相關(guān)工具，到認(rèn)證服務(wù)器硬件及底層芯片架構(gòu)，為客戶提供更豐富的選擇，滿足多樣化需求。

“選擇”這一理念對(duì)于今天的生成式AI至關(guān)重要，就如同幾年前的云原生和容器化應(yīng)用一樣。成功的生成式AI戰(zhàn)略依賴于合適的環(huán)境（如云、服務(wù)器、邊緣等）、加速計(jì)算能力以及推理服務(wù)器。

紅帽始終致力于在混合云環(huán)境中為客戶提供廣泛的選擇，尤其是在AI領(lǐng)域。收購(gòu)Neural Magic進(jìn)一步鞏固了我們對(duì)這一承諾的支持。

Neural Magic的技術(shù)和專業(yè)能力將融入紅帽AI，打造一個(gè)專為生成式AI平臺(tái)設(shè)計(jì)的產(chǎn)品組合，秉承混合云架構(gòu)，紅帽AI包括：

• 紅帽企業(yè)Linux AI (RHEL AI)：基礎(chǔ)模型平臺(tái)，在Linux服務(wù)器上無縫開發(fā)、測(cè)試和運(yùn)行IBM Granite開源許可LLM家族，支持企業(yè)應(yīng)用。

• 紅帽O(jiān)penShift AI：AI平臺(tái)，提供工具快速開發(fā)、訓(xùn)練、部署和監(jiān)控機(jī)器學(xué)習(xí)模型，涵蓋本地、公共云及邊緣分布式Kubernetes環(huán)境。

• InstructLab：由紅帽與IBM聯(lián)合創(chuàng)建的開源AI社區(qū)項(xiàng)目，通過協(xié)作改進(jìn)開源許可的Granite LLM，利用InstructLab的微調(diào)技術(shù)，讓任何人都能參與塑造生成式AI的未來。

• vLLM、LLM Compressor、預(yù)優(yōu)化模型等將被整合到紅帽AI，讓Neural Magic成為紅帽AI平臺(tái)的關(guān)鍵組成部分。