PE Notes · AI
AI 리스크 — 보안, 프라이버시, 사회
비결정 행동과 데이터 의존, 사회 파급을 보안·프라이버시·사회적 리스크로 가르고, 피해 주체와 탐지 시점, 레드티밍·차분 프라이버시·인간 개입으로 대응하는 법을 정리합니다.
전통 IT 리스크는 취약점과 침해 이벤트에 가깝습니다. 는 출력이 흔들리고, 학습 데이터에 기대며, 채용·여론처럼 사회로 번집니다. 그래서 보안만으로 닫히지 않습니다. 세 층으로 나누고, 같은 비교축에 올립니다.
정의
AI 리스크는 모델의 학습·배포·사용이 조직, 개인, 집단에 주는 부작용의 묶음입니다. 성능 지표가 좋아도 공격, 재식별, 차별이 남을 수 있습니다.
| 층 | 대표 현상 |
|---|---|
| 보안 | , , , , 침해, 인프라 과부하 |
| 프라이버시 | , , , 대화의 재학습 유용, 비식별 데이터의 재식별 |
| 사회 | , ·, 일자리 대체, 출력 과신, 설명 없는 자동 결정 |
발생 시점
학습에 편향과 오염이 들어가면, 배포 후의 적대 입력과 환각은 그 위에서 자랍니다. 사회 층은 한 번의 침해가 아니라 누적입니다.
| 비교축 | 보안 리스크 | 프라이버시 리스크 | 사회적 리스크 |
|---|---|---|---|
| 피해 주체 | 조직·시스템 | 개인·데이터 주체 | 집단·제도 |
| 발생 시점 | 공격 이벤트 | 학습·운영 전 과정 | 중장기 누적 |
| 탐지 | 중간 (모니터링) | 낮음 (사후 인지) | 낮음 (서서히) |
| 기존 규범 | 보안 프레임 확장 | 개인정보 규범 일부 | 신규 규범이 필요 |
관리 손
층마다 손이 갈립니다. 한 필터로 세 층을 덮지 않습니다. 전사 리스크로 올리려면 와 게이트에 붙입니다.
| 층 | 관리 수단 |
|---|---|
| 보안 | , , 공급망 감사, API 속도 제한, 모델 워터마크 |
| 프라이버시 | , , , 데이터 최소화 |
| 사회 | 공정성 지표, , , 다양성 기준 |
국내 의 고영향 사전 평가와 등급은 사회·제도 층의 바깥 틀입니다.