技嘉科技旗下子公司 Giga Computing 最近推出了解决方案，旨在通过先进的冷却基础设施解决复杂的人工智能工作负载并提高能源效率。作为 NVIDIA 认证的系统提供商，技嘉科技服务器现在支持 NVIDIA NIM 推理微服务，这是 NVIDIA AI Enterprise 软件平台的一部分。
技嘉展示了其最新的 CPU 和加速计算技术，包括机架级 AI 解决方案 GIGA POD。GIGA POD 的灵活性通过最新的 NVIDIA 解决方案得到展示，例如 HGX B100、HGX H200、GH200 Grace Hopper 超级芯片和其他 OAM 基板 GPU 系统。这款交钥匙解决方案支持大规模基板加速器，集成交换机、网络、计算节点等，同时利用 NVIDIA Spectrum-X 在生成 AI 基础设施中实现强大的网络功能。
此次展示的一大亮点是 NVIDIA GB200 NVL72 系统。该系统提供 30 倍的实时大型语言模型 (LLM) 推理速度，将总拥有成本 (TCO) 降低 25 倍，能耗降低 25 倍。该液冷机架级解决方案使用 NVIDIA NVLink 连接 36 个 NVIDIA Grace CPU 和 72 个 NVIDIA Blackwell GPU，形成一个带宽为 130 TB/s 的单一大型 GPU。
集成先进的冷却解决方案
技嘉的产品组合包括直接液体冷却 (DLC) 和单相浸没式冷却技术，这些技术对于下一代计算至关重要，并且比传统空气冷却需要更好的散热性能。技嘉 DLC 机架配备适用于 AMD、英特尔和 NVIDIA 技术的服务器，由 CDU 合作伙伴 CoolIT Systems 和 Motivair 提供支持。
展示的主要产品包括：
G4L3-SD1：支持双 Intel Xeon 处理器和 NVIDIA HGX B200 8-GPU 的 DLC 服务器，利用冷板实现高效冷却。
G593-ZX1：一款配备适用于 AMD EPYC 9004 处理器和 OAM 模块的液冷服务器，展示了高性能的冷却解决方案。
将数据从云端释放到边缘
技嘉展示了多种服务器，从通用服务器到基于 ARM 的平台和 OCP 解决方案，面向云端和边缘应用。展出的新型系统包括支持 E3.S 或 E1.S 驱动器的存储服务器和为下一代 AMD EPYC 处理器准备的服务器。总共展示了超过 25 台服务器。
技嘉主板适用于 AMD EPYC 4004、Intel Xeon W-3400 和 Intel Xeon 6 系列等处理器，具有服务器级功能，包括 RAS 和 BMC 芯片。这些主板属于入门级服务器和基于 Broadcom 的 HBA、RAID 和 OCP LAN 卡解决方案系列。该硬件设计灵活、多功能且可靠，具有远程服务器管理和监控功能。
技嘉预计 NVIDIA GB200 NVL72 系统将于 2025 年第一季度上市。