PE Notes · AI
AI 윤리 — 원칙, 기본법, 실천
정부 AI 윤리 3대 원칙과 10대 요건, AI 기본법의 고영향 관리, 개발·운영·이용자 권리로 내리는 실천을 한 장에서 연결합니다.
채용, 신용, 진료처럼 삶의 결정에 모델이 끼면, 틀린 숫자보다 누구를 불리하게 만들었는지가 먼저 문제가 됩니다. 는 그 판단을 원칙과 요건으로 적고, 은 그중 영향이 큰 시스템을 의무로 올립니다.
정의
AI 윤리는 개발·배포·이용 전 과정에서 인권, 공정, 안전, 책임을 지키기 위한 규범입니다. 점수가 높아도 설명하지 못하거나 특정 집단을 밀어내면 쓸 수 없다는 전제입니다.
국내 공개 기준으로는 2020년 정부 윤리기준의 3대 원칙·10대 요건, 2024년 제정된 기본법의 고영향 AI, 공공기관이 추가로 지는 적법·공정·책임 원칙을 한 세트로 보면 답안이 짧아집니다.
등장 배경 / 필요성
모델은 학습 데이터의 기울기를 그대로 확대합니다. 결정 근거가 없으면 이의제기도 어렵습니다. 기술 속도가 규범보다 빠를 때, 원칙만 있으면 선언이 되고 법만 있으면 사후 처벌이 됩니다. 윤리 기준과 기본법은 그 사이를 메우려는 장치입니다.
3대 원칙과 10대 요건
원칙은 방향입니다. 인간성을 위한 AI는 존엄과 권리가 목적이라는 뜻이고, 사회의 공공선은 혜택이 한쪽으로만 가지 않게 하며, 기술의 합목적성은 사람이 통제할 수 있게 만든다는 뜻입니다.
요건은 점검 목록입니다.
| 번호 | 요건 | 한 줄 |
|---|---|---|
| 1 | 인권 보장 | 기본권을 침해하지 않음 |
| 2 | 프라이버시 보호 | 최소 수집, 안전 관리 |
| 3 | 다양성 존중 | 집단 차별·편향을 막음 |
| 4 | 침해 금지 | 신체·정신 피해를 예방 |
| 5 | 공공성 | 공익에 기여 |
| 6 | 연대성 | 혜택의 편중을 줄임 |
| 7 | 데이터 관리 | 품질·출처를 관리 |
| 8 | 책임성 | 행위자별 책임을 나눔 |
| 9 | 안전성 | 예측 못 한 위험을 줄임 |
| 10 | 투명성 | 사용 사실과 근거를 열 수 있음 |
인간성 축은 1–4, 공공선 축은 5–8, 합목적성 축은 9–10과 인간 감독으로 대응하면 외우기 쉽습니다. 투명성과 안전은 요건이기도 하고, 의 입구이기도 합니다.
AI 기본법과 고영향
기본법의 공식 명칭은 인공지능 발전과 신뢰 기반 조성 등에 관한 법률입니다. 산업 진흥과 신뢰·안전을 한 법에 둡니다. 핵심은 를 따로 지정·관리하는 점입니다. 국민 생활과 권리에 중대한 영향을 미치는 시스템이 대상입니다.
사업자 쪽은 투명성·안전, 필요하면 을 남깁니다. 이용자 쪽은 생성 콘텐츠 고지, 자동화 결정에 대한 이의제기 여지입니다. 정책 조율은 국가 AI 위원회, 안전 검증은 전담 연구 기관 축으로 적습니다.
| 비교축 | 한국 기본법·윤리 | OECD 원칙 | |
|---|---|---|---|
| 방식 | 진흥+규제 혼합 | 금지·고·제한·최소 | 비구속 권고 |
| 고위험 | 고영향 지정 | 목록형 고위험 | 맥락 판단 |
| 제재 | 시정·과태료 축 | 매출 비율 과징금 | 해당 없음 |
| 설명 | 확보 의무 | 설명에 가까운 권리 | 투명성 원칙 |
공공기관은 여기에 적법성, 공정 모니터링, 최종 책임의 기관 귀속, 국민 설명권을 더합니다.
실천
개발에서는 대표성 있는 데이터, 공정 기준, 영향 평가와 레드팀이 먼저입니다. 운영에서는 사용 사실 공개, 고영향 구간의 사람 개입, 편향 정기 점검입니다. 이용자에게는 설명·이의제기·구제 경로가 보여야 합니다.
