최근 일선 행정 현장에서 챗GPT를 비롯한 생성형 인공지능(AI)을 실무에 도입하고자 하는 시도가 활발히 이루어지고 있습니다. 그러나 많은 공직자 여러분께서 AI를 실제 업무에 적용해 보신 후, 기대와 달리 엉뚱한 답변을 내놓거나 실무에 당장 적용하기에는 결과물의 품질이 미흡하다는 고충을 자주 말씀하십니다. 오늘은 이처럼 AI가 우리의 의도를 명확히 파악하지 못하는 근본적인 원인이 무엇인지 살펴보고, 이를 교정하여 정책적 실효성을 확보할 수 있는 방안에 대해 말씀드리고자 합니다.
결론부터 말씀드리자면, AI가 기대에 미치지 못하는 결과물을 도출하는 가장 큰 원인은 기술적 한계가 아니라 지시를 내리는 사용자의 ‘의도 설계’가 부족하기 때문입니다. 우리는 흔히 조직 내에서 동료와 소통하듯 “이 자료를 바탕으로 보도자료를 작성해줘”라고 포괄적으로 지시하곤 합니다. 우리 조직 내부에는 그동안 공유해 온 부처의 정책 기조나 이전 보고서의 표준 양식 등 암묵적으로 합의된 ‘행정적 맥락’이 존재하기 때문에 이러한 지시가 가능합니다. 하지만 AI는 입력된 텍스트를 바탕으로 통계적으로 가장 적합한 단어를 배열하는 언어 모델에 불과하기 때문에, 입력된 지시가 모호할수록 AI는 부족한 맥락을 임의의 정보로 채우게 되며, 그 결과 현장의 실정과 괴리된 원론적인 답변이나 사실과 다른 환각(Hallucination) 현상을 유발하게 되는 겁니다.
이를 극복하고 AI를 실질적인 행정 보조 도구로 활용하기 위해서는 단순한 명령을 넘어 명확한 ‘맥락’과 ‘제약 조건’을 부여하는 과정이 필수적으로 수반되어야 합니다. 정책을 기획하고 집행할 때 명확한 법적 근거와 적용 대상을 규정하듯, AI에게도 정확한 역할과 작업의 기준을 설정해 주어야 합니다. 예를 들어, 보도자료 초안 작성을 지시할 때 “홍보하기 좋게 세련된 문장으로 써줘”와 같은 주관적인 표현은 AI에게 유효한 가이드라인이 되지 못합니다. 보도자료는 언론 매체가 그대로 기사화할 수 있어야 하므로, “제3자인 언론의 객관적인 관점에서 작성해줘”, “기관의 주관적인 호소나 홍보성 문구는 배제하고 사실관계를 중심으로 3문단 이내로 요약해 줘”와 같이 구체적인 기준과 시점을 명시해 주어야 실무에 부합하는 결과물을 얻을 수 있습니다.
아울러, AI의 작동 원리를 고려하여 지시어의 형태를 긍정문으로 구성하는 것이 바람직합니다. 특정 행동을 제한하기 위해 “~하지마”라고 부정형으로 나열하는 것보다는, 지향해야 할 구체적인 결과물의 형태나 모범 예시를 직접 제시하는 “~해줘” 형태의 긍정형 지시가 오류를 줄이는 데 훨씬 효과적입니다. “딱딱한 공문서 어투를 사용하지마”라고 지시하기보다, “시민들이 이해하기 쉬운 친근하고 신뢰감 있는 안내문 형태로 작성해줘”라고 명확한 방향성을 제시하시기 바랍니다.
결국, 생성형 AI라는 강력한 신기술의 효용성은 이를 다루는 공직자 여러분의 ‘질문의 격’, 즉 문제 정의 역량에 달려 있습니다. AI는 행정 현장의 복잡한 맥락을 스스로 읽어내는 독심술사가 아닙니다. AI의 진정한 가치는 공직자가 지닌 기획력과 인간 고유의 통찰력이 반영된 ‘휴먼 프리미엄’을 통해서만 완성될 수 있습니다. 우리가 해결하고자 하는 정책적 과제를 선명하게 설계하고 이를 명확한 지시어로 표현할 때, AI는 비로소 공공 서비스의 질을 높이고 업무 효율을 극대화하는 가장 든든한 실무 파트너가 될 것입니다.