공공부문 초거대AI 도입·활용 가이드라인

공공 업무에 언어모델을 붙이면 초안은 빨라지지만, 원문이 망 밖으로 나가거나 사실이 아닌 문장이 공문에 붙을 수 있습니다. 공공부문 초거대AI 가이드라인은 그 간극을 도입 절차와 금지·제한으로 줄이려는 행정 지침입니다. 민간 서비스 약관과 달리, 행정 신뢰와 개인정보보호법이 전제입니다.

정의

공공기관이 초거대·생성형 AI를 수요 검토부터 사후 감사까지 어떤 순서로 도입하고, 어떤 업무에는 쓰지 말며, 출력의 최종 책임을 누구에게 둘지를 정한 가이드입니다. AI 거버넌스ⓘ의 공공 적용본에 가깝습니다.

초기는 텍스트 중심 도입 틀이었고, 이후 판은 생성형·멀티모달, 처리 유형별 개인정보, AI 책임관ⓘ, 정량 품질 지표를 보강하는 쪽으로 읽으면 됩니다.

등장 배경 / 필요성

반복 민원, 요약, 분류는 AI와 잘 맞습니다. 동시에 주민 정보, 수사·복지 결정, 보안 문서가 프롬프트에 들어가면 유출과 오판이 행정 책임이 됩니다. 환각현상ⓘ은 문장이 매끄러울수록 검수를 건너뛰기 쉽습니다.

그래서 클라우드 상용 API를 쓸지, CSAPⓘ를 갖춘 구간인지, 폐쇄망에 둘지를 서비스 선택 단계에서 먼저 봅니다.

도입 단계와 원칙

공통 원칙은 네 줄입니다. 사람은 최종 판단과 책임을 남긴다. 개인정보 입력은 목적 범위로 제한한다. 이용자에게 AI 사용을 고지한다. 중요 공공 데이터는 외부 모델로 보내지 않는 쪽을 우선한다.

위험 분류와 적합성

누가 결정하는가와 국민에게 미치는 힘이 통제 강도를 정합니다. 보조(초안)는 낮고, 자동 처리가 늘수록 중간, 기본권·법적 효력이 붙으면 고위험입니다.

개인정보 구간에서는 처리 근거를 확인하고, 출력에 식별자가 남으면 삭제·마스킹하며, 개인정보 영향평가(PIA)ⓘ 대상인지를 미리 봅니다.

책임 체계

생성 문장에 저작권이 바로 생기지 않는 경우가 많고, 행정 결정의 책임은 담당 공무원 또는 기관에 남습니다. 활용 사실과 생성 표시, 이의제기 경로가 투명성입니다.

기술사 답안 포인트

관련 용어

• 환각현상ⓘ
• CSAPⓘ
• 개인정보 영향평가ⓘ
• AI 책임관ⓘ
• AI 거버넌스ⓘ