최근 행정 현장에서 챗GPT나 제미나이(Gemini) 같은 생성형 인공지능을 실무에 도입하시면서, 공직자 여러분께서 가장 자주 던지시는 질문 중 하나는 “기계가 도대체 어떤 과정을 거치길래 사람처럼 자연스럽고 전문적인 대답을 척척 내놓을 수 있는가” 하는 점입니다. 기술의 원리를 막연하게 두려워하거나 맹신하지 않고 이를 통제 가능한 행정 도구로 활용하기 위해서는, 기계가 지식을 습득하고 답변을 생성하는 본질적인 과정을 명확히 이해하실 필요가 있습니다.
이를 이해하기 위해 먼저 AI가 방대한 지식을 습득하는 ‘사전 학습’ 단계를 신규 임용된 공직자의 업무 숙지 과정에 비유해 보겠습니다. 신규 공무원이 발령을 받으면 해당 부서의 과거 10년 치 기안문, 정책 보고서, 의회 답변 자료 등을 꼼꼼히 읽으며 행정의 흐름과 용어를 파악하게 됩니다. 인공지능 역시 이와 유사한 과정을 거칩니다. 기계는 인터넷상에 존재하는 수십억 건의 문서, 책, 기사 데이터를 쉼 없이 읽어 들입니다. 다만 인간처럼 문장의 깊은 ‘의미’를 깨닫고 암기하는 것이 아닙니다. 기계는 특정 단어 뒤에 어떤 단어가 이어지는지 그 ‘통계적 확률과 패턴’을 수학적인 지도처럼 그려냅니다. 예를 들어 “지방”이라는 단어 뒤에 “자치”가 올 확률, “소멸”이 올 확률을 수치화하여 인간의 언어 구조 자체를 거대한 데이터베이스로 구축하는 과정을 거치는 것입니다.
이렇게 학습을 마친 AI가 여러분의 질문에 답변을 내놓는 과정을 ‘추론 및 생성’이라고 부릅니다. 이 과정은 우리가 스마트폰에서 문자 메시지를 입력할 때 나타나는 ‘자동 완성 기능’이 수천만 배 고도화된 형태라고 이해하시면 정확합니다. 여러분께서 “성공적인 지역 축제 개최를 위한”이라고 지시어(프롬프트)를 입력하시면, AI는 앞서 학습한 방대한 확률 지도를 바탕으로 다음에 올 가장 자연스러운 단어를 수학적으로 연산해 냅니다. “방안”, “조건”, “전략” 등의 단어 중 가장 확률이 높은 단어를 선택하고, 그 뒤에 다시 이어질 단어를 꼬리에 꼬리를 물듯 이어 붙여 순식간에 하나의 문장과 문단을 조립해 내는 것입니다. 즉, 인공지능은 여러분의 질문을 깊이 고민하여 철학적인 통찰을 내놓는 것이 아니라, 오직 주어진 확률에 기반하여 통계적으로 가장 그럴듯한 단어의 배열을 생성해 내는 정교한 계산기에 불과합니다.
기계의 이러한 기술적 한계와 특성을 명확히 이해하신다면, 행정 실무에서 인공지능을 다루는 우리의 자세 또한 달라져야 함을 깨달으실 것입니다. AI는 스스로 우리 지역 사회의 맥락을 파악하거나 행정적 책임의 무게를 가늠하지 못합니다. 단지 입력된 텍스트의 확률적 조합에 따라 움직이기 때문에, 결국 결과물의 수준을 결정짓는 것은 지시를 내리는 공직자의 ‘의도 설계’와 ‘질문 역량’입니다.
따라서 단순히 기계에 업무를 떠넘기는 것이 아니라, 육하원칙과 정책적 목표(+1)에 입각하여 우리가 해결하고자 하는 행정 과제를 얼마나 선명하게 묻느냐에 따라 AI의 답변 궤적이 완전히 달라지게 됩니다. 통계적 확률로 조립된 기계의 초안 위에, 공직자 여러분께서 지니신 고유의 통찰력과 책임의식을 얹어내는 ‘휴먼 프리미엄’이야말로 AI 시대에 가장 절실히 요구되는 역량입니다. 인공지능이 그저 그럴듯한 문장을 만들어내는 계산기임을 명심하시고, 여러분의 날카로운 기획력을 통해 기계의 연산을 올바른 정책적 성과로 이끌어 내시기를 당부드립니다.