최근 행정 현장에서는 챗GPT로 대표되는 텍스트 생성 인공지능을 넘어, 스스로 상황을 판단하고 복잡한 과업을 연쇄적으로 수행하는 이른바 ‘자율형 인공지능 에이전트’에 대한 관심이 집중되고 있습니다. 많은 공직자 여러분께서 “질문에 대답만 하던 기존의 인공지능이 이제는 알아서 코딩을 하고 업무를 처리한다는데, 과연 그 기술 수준은 어디까지 왔으며 실무 도입 시 우려되는 한계점은 무엇인가”에 대해 궁금해하십니다. 오늘은 차세대 인공지능으로 불리는 AI 에이전트의 현주소와 정책적 시사점을 짚어 드리겠습니다.
먼저 AI 에이전트의 현재 기술 수준과 작동 방식을 살펴보겠습니다. 기존의 생성형 인공지능이 우리가 던지는 단일 질문에 대해 그럴듯한 답변을 단순히 ‘작성’해 주는 똑똑한 타자기에 불과했다면, AI 에이전트는 인간의 실시간 개입 없이도 주어진 목표를 달성하기 위해 스스로 계획을 세우고 행동하는 ‘실무형 보좌관’ 수준에 도달해 있습니다.
이를 이해하기 위해 ‘관내 1인 가구 고독사 예방을 위한 복지 사각지대 현황 분석’ 업무를 지시하는 상황을 가정해 보십시오. 기존 시스템에서는 공무원이 통계청 데이터를 직접 다운로드하여 AI에게 입력하고 요약을 부탁해야 했습니다. 하지만 AI 에이전트 환경에서는 인공지능이 스스로 웹 브라우저를 열어 공공 데이터 포털에 접속해 최신 데이터를 검색하고, 방대한 엑셀 데이터를 분석하기 위한 파이썬(Python) 코드를 스스로 작성하여 실행합니다. 나아가 그 결과를 바탕으로 시각화된 그래프가 포함된 보고서 초안까지 일괄적으로 완성해 냅니다. 즉, 정보의 단순 검색을 넘어 다른 소프트웨어를 직접 제어하고 복잡한 연산까지 스스로 판단하여 실행하는 단계에 진입한 것입니다.
하지만 이토록 강력해 보이는 AI 에이전트 역시 명확한 기술적 한계와 행정적 도입의 장벽을 지니고 있습니다. 첫 번째이자 가장 치명적인 한계는 바로 ‘실행 과정에서의 연쇄적 환각(Hallucination)’ 현상입니다. 기존 AI의 오류가 단지 틀린 문장을 써내는 데 그쳤다면, 시스템 제어 권한을 가진 에이전트의 오류는 잘못된 데이터의 삭제나 부적절한 안내 메일의 자동 발송 등 실제적인 행정 사고로 직결될 위험이 큽니다. 에이전트가 복잡한 과업을 여러 단계로 쪼개어 수행하는 과정에서 단 하나의 단계라도 통계적 편향이나 논리적 오류가 발생하면, 그다음 단계의 행동은 도미노처럼 무너지며 전혀 엉뚱한 결과를 낳게 됩니다.
두 번째 한계는 ‘행정적 책임과 복합적 맥락을 조율하는 능력의 부재’입니다. 에이전트가 아무리 정교한 코드와 훌륭한 보고서를 짜낸다고 해도, 그 결과물이 현행 조례나 지역 사회의 복잡한 이해관계, 그리고 예산 집행의 우선순위를 꼼꼼히 고려한 것인지 기계 스스로 판단할 수는 없습니다. 기계는 오직 수학적인 최단 경로로 목표를 달성하려 할 뿐, 그 과정에서 발생할 수 있는 특정 계층의 소외나 민원 발생 소지 등 다차원적인 ‘정책적 가치’를 가늠하는 인지적 능력은 완벽히 결여되어 있습니다.
결론적으로, 스스로 판단하고 행동하는 AI 에이전트의 시대가 본격화되더라도 이를 다루는 공무원의 역할은 결코 축소되지 않으며, 오히려 그 통제와 검증의 책임이 막중해집니다. 향후 행정 현장에서는 인공지능이 내린 판단의 논리적 근거를 깐깐하게 역추적하고, 알고리즘이 작성한 코드와 실행 결과의 법적 실효성을 교차 검증하는 역량이 필수적입니다. 기계에게 업무의 권한을 전적으로 위임하는 것이 아니라, 행정의 최종 승인권자로서 AI 에이전트의 행동 반경을 명확히 설계하고 그 결과에 인간적 통찰과 책임을 부여하는 현명한 정책 기획자로 거듭나시기를 당부드립니다.