Tensormesh籌集450萬美元以提高AI伺服器的推理效率

新聞報導於2天前

Tensormesh本週以450萬美元的種子資金首次亮相,資金由Laude Ventures領投,數據庫先驅Michael Franklin也參與投資。該公司計劃利用這筆資金打造商業版開源工具LMCache,這一工具能大幅降低推理成本,轉而提高伺服器的推理效率。透過保存關鍵值緩存,Tensormesh的產品能有效重複使用記憶體內的資料,從而提高推理能力,特別是在即時聊天和代理系統中,滿足市場對高效AI產品的需求。

小見聞來源: YAHOO

查看詳情

您可能也對這些小見聞有興趣

返回所有小見聞