본 기술은 강화학습이 적용된 시스템에서 AI 에이전트의 행동 의도를 사용자에게 설명하고 그 결과를 시스템 동작에 반영하는 기술에 관한 것입니다. 특히 AI가 행동하기 전 의도를 출력하는 XAII 제공 모듈을 통해 강화학습 기반 의사결정의 설명 가능성을 높이는 기술입니다.
기존 강화학습 시스템은 에이전트가 선택한 행동의 목적이나 의도를 사용자가 사전에 이해하기 어려워 신뢰성, 통제 가능성, 현장 적용성이 제한될 수 있었습니다. 이에 본 기술은 AI 터미널의 제어부에 XAII 제공 모듈과 AI 모드 제공 모듈을 두어 행동 의도 정보를 입출력부로 제공하고, 사용자 피드백 또는 결과값을 반영하는 방식을 제안합니다.
이에 따라 본 기술은 AI 에이전트의 행동 전 설명, 사용자 확인, 개입 수준 조절을 가능하게 하여 안전성이 요구되는 자동화 시스템, 로봇, 방위·운용 지원 시스템, 설명가능 인공지능 서비스에 활용될 수 있습니다.
N/A
