실제 트래픽으로 검증 후, 확신 있게 배포하는 단계적 롤아웃

CX팀이나 AI팀이 배포한 변경 사항은 곧바로 모든 사용자에게 적용됩니다. 문제가 발견되어 빠르게 롤백하더라도 이미 수천 건의 실제 대화가 라우팅된 뒤일 수 있습니다. 대규모 트래픽 환경에서는 이런 방식이 안정적인 테스트 전략이 될 수 없습니다.

이제 단계적 롤아웃을 사용해 전체 배포를 확정하기 전에, 실제 트래픽을 통해 액션북과 모델 변경 사항을 먼저 검증해 보세요.

단계적 롤아웃 소개

• 후보 버전 자동 저장소: 개발(Dev)에서 스테이징(Staging)으로 승격된 모든 버전은 별도의 태그를 붙이거나 수동으로 처리할 필요 없이 자동으로 후보 버전으로 저장됩니다.
• 2슬롯 아키텍처: 프로덕션은 현재 버전이 실행되는 '라이브(Live)' 슬롯과 테스트 중인 후보 버전이 실행되는 '유휴(Idle)' 슬롯으로 운영됩니다. 실제 고객 대화는 설정한 비율에 따라 두 슬롯으로 나뉘어 라우팅됩니다.
• 트래픽 비율 설정: 대시보드에서 후보 버전에 보낼 실제 고객 대화의 비율을 1~99% 사이에서 설정할 수 있습니다. 먼저 1%처럼 낮은 비율로 시작한 뒤, 성과를 확인하며 점진적으로 확대해 보세요.
• 대화 단위 지표 제공: 모든 대화에는 '라이브(Live)' 또는 '유휴(Idle)' 태그가 붙습니다. 문제 해결률, CSAT, 기타 핵심 지표는 슬롯별, 비율 구간별로 나뉘어 표시됩니다.
• 한 번의 액션으로 버전 승격 또는 롤백: 후보 버전의 성과가 좋다면 슬롯을 전환해 유휴(Idle) 슬롯을 100% 라이브(Live)로 승격할 수 있습니다. 반대로 문제가 감지되면 유휴 슬롯을 즉시 0%로 낮출 수 있으며, 이때 기존 라이브 슬롯은 변경되지 않습니다.
• 모델 비교 지원: 단계적 롤아웃은 액션북 변경뿐 아니라 모델 업데이트 검증에도 사용할 수 있습니다. 실제 트래픽을 후보 버전으로 라우팅해, 전체 배포를 확정하기 전에 모델 성능을 먼저 비교해 보세요.