다중 상태 거버넌스에 기반한 장기 작업 수행 인공지능 에이전트의 런타임 운영 방법 및 시스템

【발명의 명칭】

다중 상태 거버넌스에 기반한 장기 작업 수행 인공지능 에이전트의 런타임 운영 방법 및 시스템{METHOD AND SYSTEM FOR RUNTIME OPERATION OF AI AGENT PERFORMING LONG-TERM TASKS BASED ON MULTI-STATE GOVERNANCE}

【기술분야】

본 개시는 인공지능(artificial intelligence, AI) 에이전트 기술에 관한 것으로서, 더욱 상세하게는 다중 상태 거버넌스에 기반한 장기 작업 수행 인공지능 에이전트의 런타임 운영 방법 및 시스템에 관한 것이다.

【발명의 배경이 되는 기술】

최근 대규모 언어 모델(Large Language Model, LLM)을 기반으로 사용자의 지시나 목표에 따라 문서 작성, 소프트웨어 개발, 데이터 분석 등 일련의 복잡한 과업을 자율적으로 수행하는 인공지능(AI) 에이전트 기술이 활발히 연구·개발되고 있다. 이러한 에이전트의 연속성과 작업 맥락을 유지하기 위하여, 기존에는 대화 및 작업 이력을 데이터베이스에 저장하고 현재 상황과의 유사도에 기초하여 회상(retrieval)하여 LLM의 프롬프트에 주입하는 이른바 검색증강생성(RAG) 기반의 에이전트 메모리 구조가 주로 활용되어 왔다.

다만, 이러한 종래의 메모리 중심 구조는 수 시간에서 수 주에 걸치는 장기 작업(long-running work)을 수행할 때 심각한 한계를 드러낸다.

첫째로, 회상된 기억은 현재 어떠한 작업 단계가 진행 중인지 또는 어떠한 가정이 이미 검토 후 폐기되었는지에 대한 명시적 상태 정보를 담지 못하므로, 에이전트가 작업 진행 중 목표에서 이탈하거나 이미 기각된 오판/가정을 반복하여 재사용하는 문제가 발생할 수 있다.

둘째로, 산출물이 반복 수정되는 과정에서 단일한 기준본이 유지되지 못하고 오염되거나, 산출물 품질 판단을 LLM 자체의 자기평가에 의존함으로써 판정의 재현성이 떨어지고 오류가 지속되는 폐단이 존재한다.

결과적으로 종래 기술은 기억 회상, 작업 계획, 산출물 관리 및 품질 검증이 파편화되어 있어 장기 작업 전반에 걸친 오류 반복을 구조적으로 차단하지 못한다는 문제가 존재한다.