Samsung SDS внедряет GPUaaS на базе B300…расширение инфраструктуры для ИИ‑инференса
NSP NEWS, By Youngsuk Kim and Bok-hyun Lee
RUX7, Read 0Через облачную платформу Samsung предоставляются сервисы на базе новейших GPU NVIDIA B300… в третьем квартале также анонсирован запуск серверлес‑инференса
fullscreen(изображение = Samsung SDS)
(Seoul=NSP NEWS AGENCY) = Samsung SDS (018260) внедряет GPUaaS на базе NVIDIA B300 GPU и расширяет инфраструктуру корпоративного ИИ для инференса.
Новый сервис разработан с учётом тенденции перехода корпоративного ИИ от обучения моделей к их практическому использованию в реальных сервисах и решению задач инференса.
B300 GPU оснащён 12‑уровневой памятью HBM3E обеспечивая 288 ГБ на один GPU и пропускную способность порядка 8 ТБ/с. По сравнению с H100 объём памяти увеличен в 3,6 раза а пропускная способность в 2,4 раза. Это позволяет снизить узкие места при работе с крупными языковыми моделями и создать условия для эффективной обработки высокопроизводительных ИИ‑сервисов от ИИ‑агентов до генерации изображений видео и программного кода. Samsung SDS в 2021 году внедрила A100 затем в 2023 году H100 и теперь расширяет линейку GPUaaS до B300 тем самым укрепляя конкурентоспособность ИИ‑инфраструктуры.
Новый сервис разработан с учётом тенденции перехода корпоративного ИИ от обучения моделей к их практическому использованию в реальных сервисах и решению задач инференса.
B300 GPU оснащён 12‑уровневой памятью HBM3E обеспечивая 288 ГБ на один GPU и пропускную способность порядка 8 ТБ/с. По сравнению с H100 объём памяти увеличен в 3,6 раза а пропускная способность в 2,4 раза. Это позволяет снизить узкие места при работе с крупными языковыми моделями и создать условия для эффективной обработки высокопроизводительных ИИ‑сервисов от ИИ‑агентов до генерации изображений видео и программного кода. Samsung SDS в 2021 году внедрила A100 затем в 2023 году H100 и теперь расширяет линейку GPUaaS до B300 тем самым укрепляя конкурентоспособность ИИ‑инфраструктуры.
광고를 불러오는 중...
Сервис предоставляется по подписке. Это снижает нагрузку на первоначальные инвестиции в инфраструктуру и вводит модель затрат, основанную на фактическом использовании. Дополнительно он оснащён функциями безопасности чтобы соответствовать требованиям корпоративной обработки данных.
В третьем квартале Samsung SDS планирует запустить серверлес‑сервис для инференса а также сервис обучения ИИ с автоматическим распределением нагрузки.
Внедрение B300 отражает переход ИИ‑инфраструктуры от ориентации на обучение к акценту на инференс и связано с изменением подходов к использованию GPU‑ресурсов, что может изменить конкурентную динамику на рынке корпоративных ИИ‑облачных решений.
Внедрение B300 отражает переход ИИ‑инфраструктуры от ориентации на обучение к акценту на инференс и связано с изменением подходов к использованию GPU‑ресурсов, что может изменить конкурентную динамику на рынке корпоративных ИИ‑облачных решений.
![[NSPAD]삼성전자](https://file.nspna.com/ad/T01_samsung_gn_5138.gif "삼성전자[T01]")