新聞資訊
593 次
1月12日消息，基于生成式AI的搜索引擎技術初創(chuàng)公司ExaAILabs首席執(zhí)行官 Will Bryk于當?shù)貢r間周五宣布，該公司已經(jīng)部署了 Exacluster，這是業(yè)界首批基于英偉達（Nvidia）H200 GPU 的集群之一。該集群將用于構建一個AI搜索引擎，號稱可以比谷歌（Google）搜索更好地理解用戶需求，并返回更好的搜索結果。
據(jù)介紹，Exacluster采用了 18 個基于 NVIDIA H200 的 8卡服務器（exa 表示 Quintillion，或 10^18），即擁有 144 個 H200 GPU，具有 20TB HBM3E 內存（每個 GPU 141GB HBM3E），可提供 569958 TOPS（約 570 PetaTOPS）的組合計算性能。同時，該集群還集成了192 個 96 核CPU（共計 3456 個CPU內核），并配備了 36TB 的 DDR5 內存和 270TB 的 NVMe 固態(tài)存儲。該集群將被將用于訓練 ExaAI 的神經(jīng)網(wǎng)絡，總體的功耗為 100kW。
該集群依然采用的是標準空氣冷卻方案，因此為了解決散熱問題，該集群當中的每個機架只安裝兩臺這樣的機器，以確保所有服務器都能得到足夠的冷卻。
據(jù)Will Bryk介紹，Exacluster的成本約為500萬美元，這也意味著其每臺服務器價格約為27.78萬美元。值得一提的是，英偉達也是ExaAILabs公司的主要投資者之一，此外Lightspeed 和 YCombinator也是其投資者。
1242 次
706 次
864 次
583 次
發(fā)布日期: 2024-08-21
發(fā)布日期: 2024-04-24
發(fā)布日期: 2024-07-04
發(fā)布日期: 2024-10-08
發(fā)布日期: 2024-08-22
發(fā)布日期: 2024-07-17
發(fā)布日期: 2024-05-31
發(fā)布日期: 2024-05-08
發(fā)布日期: 2026-01-09
發(fā)布日期: 2026-01-09
發(fā)布日期: 2026-01-09
發(fā)布日期: 2026-01-09
發(fā)布日期: 2026-01-09
