PE Notes · AI

고영향 인공지능

기본권·안전·생계에 직접 닿는 고영향 AI를 국내 기본법과 EU AI Act 고위험으로 읽고, 신고·영향평가·설명·인간 감독 의무를 일반 AI와 비교합니다.

2026-09-12

채용, 신용, 진단, 형사 예측처럼 한 번의 점수가 삶을 가르면, 정확도만으로 배포할 수 없습니다. 은 그 결과가 기본권·안전·생계·사회적 기회에 중대하고 직접 닿는 시스템입니다. 의 고위험과 국내 의 고영향이 같은 자리에 있습니다.

정의

국내 기본법은 두 조건을 같이 봅니다. 첫째, 이 사람 개입 없이 또는 거의 없이 이뤄진다. 둘째, 그 결정이 권리·기회·생계에 직접 중대한 영향을 준다.

EU는 위험 네 층입니다. 금지는 사회적 점수·실시간 생체인식 등, 고위험은 Annex III 분야, 제한은 챗봇 표시 같은 투명성, 최소는 게임·스팸 필터처럼 규제 밖입니다.

국내 고영향은 서비스 전 신고, 기본권·안전 영향평가, 이용자에게 AI 사용과 근거를 알리는 설명, 불리한 결정에 대한 이의, 중대 결정의 인간 검토를 같이 둡니다. 과 맞닿습니다.

EU 제공자 절차는 위험 관리 → 학습 데이터 품질· → 기술 문서 → 이벤트 로그 → 투명성 안내 → 인간이 중단·재설정할 수 있는 감독 → 견고성·사이버보안 → 적합성 평가입니다. 여덟 칸을 한 줄로 외웁니다.

COMPAS류 예측이 보여주는 것은 수치가 공정과 같지 않다는 점입니다. 와 , 이 사후 손이 됩니다. 은 선택이 아니라 고영향의 기본값입니다.

목록에 시스템을 올리지 않으면 고영향 여부조차 판단하지 못합니다. 공공 가이드의 사전 영향평가와 같은 게이트입니다. 성능이 바뀌거나 쓰임이 넓어지면 등급을 다시 매깁니다.

비교축	금지	고영향·고위험	제한	최소
규제 강도	사용 차단	사전 의무 묶음	투명성	사실상 없음
예	사회 점수	채용·신용·진단	챗봇 고지	필터·게임

제140회 정보관리기술사 3교시