다이내믹 세이프가드: 세이프가드가 작동해도, 응답은 맥락에 맞게

세이프가드는 고객 앞에서 신뢰할 수 있는 AI 에이전트와 그렇지 않은 에이전트를 가르는 기준입니다. 유해 콘텐츠, 프롬프트 인젝션 시도, 금지어, 잘못된 맥락, 이런 것들이 대화 흐름에 영향을 미치기 전에 걸러냅니다. 문제는 세이프가드가 한 번 작동하고 나면, 사용자가 보게 되는 문구는 늘 똑같았다는 겁니다. 헷갈려서 질문한 고객이나, 탈옥을 시도한 사용자나, 금지어 목록에 있는 경쟁사 이름을 언급한 경우나 다 같은 문장을 받았습니다.

이는 안전망으로서는 괜찮지만, 브랜드 경험으로 보면 아쉽습니다. 무해한 질문에 금지어가 우연히 섞였을 뿐인 사용자도, 에이전트를 공격하려던 사용자와 똑같이 정형화된 사과문을 받게 됩니다. 감지는 제대로 하고 있는데, 응답은 딱 최소한만 하고 있는 셈입니다.

다이내믹 세이프가드는 이 고정된 폴백 대신 세이프가드 액션북을 씁니다. 트리거 유형별로 분기해서, 전체 대화 맥락을 반영한 응답을 그때그때 생성합니다.

다이내믹 세이프가드 소개

• 세이프가드 응답용 액션북 모드: 원하는 액션북을 세이프가드 후속 조치에 연결하면 됩니다. 세이프가드가 작동하면 기본 메시지 대신 이 액션북이 실행됩니다.
• 트리거별 분기: 액션북은 감지된 유형(harmful_content, adversarial_attack, context_injection, banned_words)과 감지 사유를 입력받습니다. 유형별로 지침을 따로 써두면, 공격 시도와 단순 금지어 노출에 서로 다르게 응답할 수 있습니다.
• 전체 대화·사용자 맥락 반영: 액션북은 전체 대화 이력은 물론, 설정해 둔 사용자 정보(멤버십 등급, 지역, 언어 등)에도 접근합니다. VIP 고객에게는 좀 더 공감 어린 응답을, 규제 지역 사용자에게는 알맞은 고지 문구를 보여줄 수 있습니다.
• 백업 메시지는 그대로 안전망으로: 액션북 모드에서도 백업 세이프가드 메시지는 필수입니다. 액션북이 실패하거나 시간을 넘기면 백업이 대신 나서므로, 사용자는 어떤 경우에도 응답을 받습니다.

다이내믹 세이프가드는 Trust OS의 일부입니다. 세이프가드가 작동해도 대화는 막히지 않고 브랜드다운 응답으로 이어집니다.