PE Notes · AI
생성형 AI 저작권과 이용자 보호
학습 데이터 이용과 AI 생성물 귀속이라는 저작권 쟁점을 개발사·창작자 입장으로 가르고, 고지·워터마크·자동화 결정 이의 등 이용자 보호 항목을 대응표로 정리합니다.
생성 모델은 텍스트·이미지·음악을 대량으로 본 뒤 새 샘플을 뽑습니다. 그 과정에서 두 질문이 동시에 열립니다. 학습에 쓴 저작물을 허락 없이 넣어도 되는가, 그리고 모델이 만든 결과물의 권리는 누구에게 가는가. 이용자가 그 결과물을 사실로 오인하거나 개인정보가 재학습에 들어가면, 저작권과 별도로 보호 가이드가 필요합니다.
학습과 생성의 쟁점
학습 단계는 크롤링·스크래핑으로 모은 저작물을 가중치에 넣는 문제입니다. 생성 단계는 출력의 권리 주체, 원저작물과의 실질적 유사, 특정 인물의 얼굴·목소리입니다.
| 쟁점 | 질문 |
|---|---|
| 학습 데이터 | 허락 없는 학습이 침해인가, 인가. |
| 개발사인가, 프롬프트를 쓴 이용자인가, 권리 없음인가. | |
| 원저작물 유사 | 출력과 학습 원본이 실질적으로 같으면 의거·복제인가. |
| ·초상 | 얼굴·목소리를 허락 없이 만들어 쓰는가. |
| 비교축 | 개발사 쪽 | 저작권자 쪽 |
|---|---|---|
| 학습 이용 | 변환적 이용, 공정이용에 가깝다 | 명시 허락과 보상 없는 무단 이용이다 |
| 생성물 귀속 | 도구를 쓴 사람에게, 또는 공유 영역 | 학습에 기여한 원저작자에게도 몫이 있어야 한다 |
미국 저작권청은 인간 창작성이 없는 순수 생성물에는 등록을 인정하지 않는 쪽으로 서 있습니다. EU AI Act는 학습에 쓴 저작물 목록을 밝히는 투명성 의무를 넣습니다. 한국은 저작권법 개정과 생성물 가이드를 논의 중입니다. 답안에는 나라별 한 줄을 표로 적으면 충분합니다.
누가 권리를 갖는가, 이용자를 어떻게 알리는가
창작성 요건을 “인간의 창의적 표현”에 두면, 모델이 혼자 만든 출력은 권리가 비고, 사람이 구도와 수정을 충분히 넣은 경우에만 부분 인정이 검토됩니다.
| 시나리오 | 논리 |
|---|---|
| 개발사 귀속 | 학습 투자와 모델 가중치를 보호해야 한다. |
| 이용자 귀속 | 프롬프트와 후편집이 창작 기여다. |
| 공유 영역 | 인간 창작이 없으면 누구나 쓸 수 있다. |
이용자 보호는 권리 논쟁과 겹치되, 피해를 줄이는 쪽에 가깝습니다. 생성 사실을 숨기면 오인 피해가 나고, 대화가 재학습되면 개인정보가 모델에 남습니다.
| 항목 | 내용 |
|---|---|
| 생성 고지 | AI가 만들었다는 라벨, , 메타데이터를 붙인다. |
| 환각 책임 | 허위 출력으로 손해가 났을 때 사업자 책임 범위를 밝혀 둔다. |
| 개인정보 | 질의·대화가 재학습에 쓰이면 동의를 받는다. |
| 채용·대출 등에서 과 이의제기를 연다. | |
| 미성년자 | 청소년 대상 서비스에 별도 안전장치를 둔다. |
누가 무엇을 하나
개발사는 학습 라이선스와 옵트아웃, 출처 공개를 준비하고, 이용자·도입 기업은 상업 배포 전에 유사성과 표시를 검토합니다. 제도는 TDM(텍스트·데이터 마이닝) 예외, 특별 규정, 국제 표준 논의를 병행합니다.
| 구분 | 내용 |
|---|---|
| 사업자 의무 | 활용 사실 고지, 개인정보 처리 안내, 모니터링, 피해 구제 창구 |
| 이용자 권리 | 고지받을 권리, 이의제기, 삭제 요청, 구제 신청 |
딥페이크는 저작권보다 초상·명예·사기 쪽으로 번집니다. 적대적 공격 토픽의 합성 미디어와 같은 출력 층이므로, 워터마크와 고지를 보안 통제로도 읽습니다.