최근 일선 행정 현장에서 업무 효율성을 높이기 위해 생성형 AI를 다각도로 활용하고 계십니다. 그러나 AI를 활용하는 과정에서 기관의 비공개 행정 정보나 주민의 개인정보가 유출되거나, 우리가 입력한 민감한 데이터가 AI의 ‘사전 학습 데이터’로 재활용될 수 있다는 우려 또한 높습니다. 공공 행정의 핵심 가치는 정책의 실효성 못지않게 ‘데이터의 안전성과 보안’에 있습니다. 오늘은 입력한 정보가 AI 모델 학습에 활용되지 않도록 제어하는 구체적인 설정 방법과 행정적 조치 사항을 알기 쉽게 설명해 드리겠습니다.
1. 웹 서비스 내부의 ‘학습 거부(Opt-Out)’ 설정의 필수화
우선 AI 서비스가 작동하는 기본 구조를 이해할 필요가 있습니다. 일반적인 상용 AI 서비스는 사용자가 입력한 대화 내용을 수집하여 AI의 성능을 개선하고 다음 버전의 모델을 학습시키는 데 활용하도록 기본 설정(Default)되어 있습니다. 비유하자면, 우리가 작성한 내부 보고서를 공개된 의견함에 넣는 것과 같습니다. 수거한 문서를 바탕으로 AI 서비스 제공업체는 문장 구조와 정보를 분석하여 시스템을 더 똑똑하게 만듭니다. 이 과정에서 민감한 행정 정보가 추후 다른 일반 사용자의 질문에 대한 답변으로 원치 않게 노출될 위험이 발생하게 됩니다.
이러한 위험을 차단하기 위해 가장 먼저 시행해야 할 조치는 ‘웹 서비스 내부의 학습 거부(Opt-Out) 설정’입니다. 대부분의 생성형 AI 플랫폼은 계정 설정 메뉴 내에 ‘데이터 제어(Data Controls)’ 또는 ‘개인정보 설정(Privacy Settings)’ 항목을 제공합니다. 이곳에서 ‘대화 기록 및 모델 학습(Chat History & Training)’ 관련 스위치를 비활성화(Off) 상태로 전환하십시오. 이 설정을 끄면, 사용자가 입력한 대화 내용이 서비스 제공업체의 모델 재학습 서버로 전송되지 않으며, 일정 기간 후 시스템에서 완전히 삭제됩니다. 일선 공직자 여러분께서는 AI 도구를 사용하기 전, 해당 계정의 학습 거부 설정이 올바르게 적용되어 있는지 반드시 확인하는 습관을 형성하십시오.
2. 보안약관이 적용된 ‘API 및 공공·기업용 요금제’ 활용
둘째, 개인용 계정이 아닌 ‘API 연동 환경’ 또는 ‘기업·공공 전용 요금제(Enterprise/Team)‘를 활용하는 방안입니다.
웹 브라우저를 통해 무료나 일반 유료 계정으로 접속하는 방식과 달리, API(응용 프로그램 인터페이스)를 통해 AI를 호출하거나 기관 단위의 보안 전용 계약을 체결한 경우, 서비스 제공업체의 약관상 ‘입력 데이터의 모델 학습 활용 금지(Zero Data Retention / Non-Training Policy)‘가 기본적으로 보장됩니다. 비유하자면 일반 우편이 아닌, 내용물이 봉인되고 전송 후 파기되는 보안 등기 우편을 사용하는 것과 같습니다.
따라서 각 지자체 및 부서 차원에서 AI를 도입할 때에는 개별 공직자의 사적 계정 이용을 지양하고, 보안 인프라가 갖춰진 공공 전용 시스템이나 API 기반 행정 보좌 프로그램을 구축하여 활용하는 것이 정책적으로 가장 안전합니다.
3. 입력 전 단계에서의 ‘사전 데이터 비식별화(Masking)’
셋째, 기술적 설정 이전에 시행되어야 할 ‘사전 데이터 마스킹(Masking) 및 비식별화’입니다.
아무리 완벽한 보안 설정을 마쳤다 하더라도, 비공개 공문서 원본이나 주민등록번호, 이름, 연락처와 같은 개인정보를 AI에 직접 입력하는 행위는 엄격히 금지되어야 합니다. 보고서 초안이나 번역, 요약 작업을 지시할 때에는 “OO구청 OO과 홍길동 팀장” 대신 “A지자체 B부서 담당자”와 같이 가명 처리하거나, 핵심 보안 수치를 제외하고 구조화된 문장 형태만 제공하십시오. 기술적 방어선과 더불어 공직자 스스로 가공된 정보만을 입력하는 ‘인적 통제’가 결합할 때 비로소 완벽한 보안이 완성됩니다.
결론: 통제 가능한 환경에서의 선별적 활용
행정 현장에서 AI 기술을 안전하게 안착시키는 핵심은 무조건적인 거부나 무분별한 수용이 아닌, ‘통제 가능한 환경에서의 선별적 활용’입니다.
국가정보원 및 행정안전부의 ‘성공적인 생성형 AI 활용 보안 가이드라인’을 준수하시어, 학습 거부 설정을 필수화하고 입력 데이터를 사전 검증하는 행정 프로세스를 정립하십시오. 공공의 신뢰를 지키는 명확한 보안 가이드라인 위에서 작동할 때, AI는 비로소 안심하고 사용할 수 있는 가장 유능하고 안전한 행정 보좌관이 될 것입니다.