본문으로 건너뛰기
AI NEWS JOURNAL
AWS 머신러닝 블로그AI NEWS / JOURNAL

Amazon SageMaker AI가 GPU 없이 관리되는 모델 맞춤형 교육 세션을 출시하며, 정식으로 전면적으로 이용 가능해졌습니다.

AWS는 SageMaker AI의 서버리스 모델 맞춤화 기능에 ‘훈련 세션(Training Sessions)’을 추가했다고 발표했으며, 이는 오늘부터 전면적으로 이용 가능하다. 사용자는 훈련 후 로직(예: 사용자 정의 손실 함수, 보상 신호, 다단계 강화학습 등)을 직접 작성할 수 있으며, GPU 할당, 분산 실행, 장애 복구 및 체크포인트 저장은 모두 플랫폼에서 자동으로 처리된다.

2026년 10월 25일, 아마존 웹서비스(AWS)는 Amazon SageMaker AI의 서버리스 모델 커스터마이제이션 기능이 ‘트레이닝 세션(Training Sessions)’을 정식으로 지원한다고 발표했으며, 오늘부터 전면적으로 이용 가능하다고 밝혔습니다. 이 기능을 통해 개발자는 감독형 미세조정(SFT), 직접 선호도 최적화(DPO), RLAIF, 다단계 강화학습(multi-turn RL) 등 다양한 기술을 조합해 구성하는 후처리 로직을 완전히 제어할 수 있으며, GPU 인스턴스를 별도로 구성하거나 클러스터를 관리하거나 분산 트레이닝 스크립트를 작성할 필요가 없습니다.

트레이닝 세션은 온디맨드 기반의 과금 모델을 채택합니다. SageMaker AI가 실제로 처리한 토큰 수에 대해서만 비용이 부과되며, 사용자의 코드가 자체 환경에서 보상 점수 산정 등 GPU 집약적이지 않은 작업을 수행하는 동안에는 과금이 일시 중단됩니다. 모든 데이터는 고객이 지정한 AWS 리전 내 Amazon S3 버킷에 저장되며, 체크포인트 역시 이곳에 저장됩니다. 고객은 맞춤형 IAM 역할, AWS KMS 키 및 VPC 구성 등을 통해 세분화된 접근 제어와 네트워크 격리를 구현할 수 있으며, AWS는 고객의 데이터나 맞춤형 가중치를 활용해 다른 모델을 학습하거나 이를 활용하지 않습니다.

기술 구현 측면에서 사용자 코드는 훈련 루프를 정의하는 역할을 하며, 예를 들어 GRPO 알고리즘에서는 응답 샘플링, 외부 평가, 기울기 업데이트 및 가중치 갱신을 담당합니다. SageMaker AI는 GPU를 관리하며 주로 부하를 처리합니다: 샘플러는 응답을 생성하고, 트레이너는 기울기를 계산하여 가중치를 업데이트합니다. gpt-oss-20b, gemma-4-31B-it, Qwen3.6-27B 및 Qwen3.8-27B 등 오픈소스 모델에 대한 지원이 검증되었습니다. 개발자는 SageMaker Studio(20초 내에 시작) 또는 로컬 IDE(Python 3.10–3.12)를 통해 신속하게 접근할 수 있으며, 공식 제공되는 훈련 세션 요리책(cookbook)과 코딩 에이전트 기술(키로, Claude Code, Codex, GitHub Copilot 지원)을 재사용할 수 있습니다.

실제 적용 사례에 따르면, ImagineSoftware는 이 기능을 활용해 의료 청구 거절 분류 모델을 구축했으며, 해당 데이터 과학 팀은 하위 계층 API가 전방향/역방향 전파, 샘플링 및 최적화 단계에 대한 세밀한 제어를 제공한다고 강조했습니다. 한편 Karini AI는 gpt-oss-20b를 기반으로 Amazon Neptune 지식 그래프를 대상으로 한 다단계 도구 호출 에이전트를 구현했으며, 체크포인트 복구(checkpoint-and-resume) 기능이 매우 신뢰성이 높아 수동 튜닝과 GPU 메모리 오버플로 문제를 완전히 회피할 수 있다고 밝혔습니다.

자료 출처

원문 읽기 ↗

관련 주제

← 전체 소식 이어 읽기