通过三星云平台提供英伟达最新B300 GPU服务……并预告将在第三季度推出无服务器推理服务
fullscreen(Seoul=NSP NEWS) = 三星SDS(018260)引入基于英伟达B300 GPU的GPU即服务(GPUaaS),加快构建企业级AI推理基础设施。
该服务的特点在于顺应企业AI应用从以模型训练为中心,转向实际服务运营与推理阶段的趋势而设计。
B300 GPU采用12层HBM3E内存,每块GPU提供288GB内存和约8TB/s的带宽。与既有H100相比,内存容量提升至3.6倍,带宽提升至2.4倍。由此可有效缓解大规模语言模型运行时的内存瓶颈,并为AI代理、图像·视频·代码生成等高性能AI服务提供更高效的处理环境。
三星SDS继2021年的A100、2023年的H100之后,将GPUaaS产品线扩展至B300,持续强化AI基础设施竞争力。
该服务采用订阅制模式,降低企业初期基础设施投入负担,并引入按使用量计费的成本结构。同时结合安全功能,以满足企业数据处理环境的需求。
三星SDS计划在今年第三季度进一步推出基于无服务器架构的推理服务,以及基于自动分布式训练的AI训练服务。
此次布局顺应AI基础设施由“训练为中心”向“推理为中心”转变的趋势,同时也反映出GPU资源利用方式的变化,未来有可能对企业级AI云市场的竞争格局产生影响。
该服务的特点在于顺应企业AI应用从以模型训练为中心,转向实际服务运营与推理阶段的趋势而设计。
B300 GPU采用12层HBM3E内存,每块GPU提供288GB内存和约8TB/s的带宽。与既有H100相比,内存容量提升至3.6倍,带宽提升至2.4倍。由此可有效缓解大规模语言模型运行时的内存瓶颈,并为AI代理、图像·视频·代码生成等高性能AI服务提供更高效的处理环境。
三星SDS继2021年的A100、2023年的H100之后,将GPUaaS产品线扩展至B300,持续强化AI基础设施竞争力。
该服务采用订阅制模式,降低企业初期基础设施投入负担,并引入按使用量计费的成本结构。同时结合安全功能,以满足企业数据处理环境的需求。
三星SDS计划在今年第三季度进一步推出基于无服务器架构的推理服务,以及基于自动分布式训练的AI训练服务。
此次布局顺应AI基础设施由“训练为中心”向“推理为中心”转变的趋势,同时也反映出GPU资源利用方式的变化,未来有可能对企业级AI云市场的竞争格局产生影响。
광고를 불러오는 중...
![삼성전자[T01] [NSPAD]삼성전자](https://file.nspna.com/ad/T01_samsung_gn_5138.gif)