【產(chǎn)通社，1月14日訊】如果任何桌面PC只需一次升級就可以AI推理，奇跡會出現(xiàn)？臺灣初創(chuàng)公司Neuchips在CES 2024推出了一個PCIe附加卡，可以升級典型臺式計算機的AI能力，同時只增加55瓦的PC功率預(yù)算。

這不僅僅是一個概念。該卡被插入展廳的臺式計算機，并提供與聊天機器人的實時離線對話，聊天機器人由Meta的流行的Llama 2 7B大型語言模型驅(qū)動(Neuchips表示，該卡也將運行Llama 2 13B)。

Neuchips的卡Evo PCIe加速器是圍繞該公司的Raptor Gen AI加速器芯片構(gòu)建的。根據(jù)Meta的DLRM基準(zhǔn)測試，Raptor芯片每秒可進行高達200萬億次運算，該公司表示，它針對基于變壓器的模型進行了優(yōu)化。

Neuchips展示的卡有Raptor芯片，但單個芯片不是卡的最終形式。Neuchips的首席執(zhí)行官Ken Lau是一位在英特爾工作了26年的老兵，他說Raptor可以用來設(shè)計帶有不同數(shù)量芯片的卡。

Neuchips也希望給用戶提供有效使用信用卡所需的工具。Neuchips公司有編譯軟件，并將提供驅(qū)動程序。最終的卡應(yīng)該在2024年下半年發(fā)貨，大約是CES上顯示的卡的一半大小。

雖然Neuchips的加速器可能是CES 2024上最受矚目的AI加速器卡，但它遠不是展會上唯一的一個。一些初創(chuàng)公司推出了自己的AI加速器，包裝了獨特的功能。Panmnesia因其AI加速器獲得了CES創(chuàng)新獎，該加速器包括一個用于訪問巨大內(nèi)存池的Compute eXpress Link接口。其他擁有AI加速器的公司包括DeepX和MemryX。英特爾和AMD也參與其中；每個都在其最新的CPU架構(gòu)中提供了一個AI加速器。

新的AI加速器，如Neuchips的Raptor和Evo PCIe卡已經(jīng)準(zhǔn)備好為那些不關(guān)心圖形或在運行AI推理時需要提高能效的開發(fā)人員提供新的選擇。（鐠元素）    （完）