삼성SDS B300 기반 GPUaaS 도입AI 추론 인프라 확대-NSP통신

IT/과학

광고를 불러오는 중...

삼성SDS, B300 기반 GPUaaS 도입…AI 추론 인프라 확대

NSP통신, 이복현 기자

입력 2026-03-23 10:51 입력 2026-03-23 10:51 KRX3, 읽는 중 0명

#삼성SDS(018260) #B300 #GPUaaS #기업용AI추론 #SCP

삼성 클라우드 플랫폼 통해 엔비디아 최신 B300 GPU 서비스 제공…3분기 서버리스 추론 서비스도 예고

(이미지 = 삼성SDS)

(서울=NSP통신) 이복현 기자 = 삼성SDS(018260)가 엔비디아 B300 GPU를 기반으로 한 GPUaaS를 도입하며 기업용 AI 추론 인프라 확장에 나섰다.

이번 서비스는 기업 AI 활용이 모델 학습 중심에서 실제 서비스 운영과 추론 단계로 이동하는 흐름에 맞춰 설계된 것이 특징이다.

B300 GPU는 12단 HBM3E를 적용해 GPU당 288GB 메모리와 초당 8TB 수준의 대역폭을 제공한다. 기존 H100 대비 메모리 용량은 3.6배, 대역폭은 2.4배 확대된 구조다. 이로 인해 대규모 언어 모델 구동 시 발생하는 메모리 병목을 줄이고, AI 에이전트 및 이미지·영상·코드 생성 등 고성능 AI 서비스의 처리 효율을 높일 수 있는 환경이 구축됐다.

광고를 불러오는 중...

삼성SDS는 2021년 A100, 2023년 H100에 이어 B300까지 GPUaaS 라인업을 확대하며 AI 인프라 경쟁력 강화 흐름을 이어가고 있다.

서비스는 구독형 방식으로 운영되며 초기 인프라 투자 부담을 낮추고 사용량 기반 비용 구조를 적용했다. 또한 보안 기능을 결합해 기업 데이터 처리 환경에 대응하도록 설계됐다.

삼성SDS는 올 3분기 서버리스 기반 추론 서비스와 자동 분산학습 기반 AI 학습 서비스도 추가할 계획이다.

이번 도입은 AI 인프라가 학습 중심에서 추론 중심으로 전환되는 흐름 속에서 GPU 자원 활용 방식이 변화하는 흐름과 맞닿아 있으며, 기업용 AI 클라우드 시장 내 경쟁 구도 변화로 이어질 여지가 있다.

NSP통신 이복현 기자(bhlee2016@nspna.com)