PE Notes · 보안
Model DoS
소수 요청으로 GPU와 과금을 고갈시키는 Model DoS를 자원 소진·복잡성·경제 공격으로 가르고, 토큰·스텝 한도와 일반 DDoS를 같은 표에 올립니다.
웹 DoS는 연결 수와 대역을 채웁니다. LLM은 요청 한 건의 GPU 시간과 토큰 과금이 이미 큽니다. 는 길거나 꼬인 입력, 재귀 도구 호출로 가용성과 청구서를 동시에 겨냥합니다. OWASP LLM 목록의 무제한 소비와 같은 줄입니다.
유형을 세 갈래로
자원 소진은 컨텍스트를 가득 채우거나 출력을 끝없이 늘립니다. 복잡성은 중첩 조건·으로 스텝을 늘리고, 에이전트에 “부족하면 더 분석하라”를 넣어 재귀를 엽니다. 경제 공격은 정상처럼 보이는 질의로 API 비용을 올립니다.
| 비교축 | 자원 소진 | 복잡성 | 경제 |
|---|---|---|---|
| 입력 | 초장문, 반복 출력 지시 | , 재귀 에이전트 | 대량 정상형 질의 |
| 소모 | 메모리··토큰 | 추론 스텝, 도구 연쇄 | 과금, 쿼터 |
| 탐지 | 길이로 걸리기 쉬움 | 정상 질문처럼 보임 | 패턴·비용 임계 |
| 대응 | max 입출력 토큰 | 스텝 상한, 복잡도 점수 | Rate limit, 예산 차단 |
스펀지 공격은 특정 입력이 더 많은 연산을 끌어내 지연과 전력을 올립니다. 캐시가 긴 프리필을 받으면 TTFT가 같이 무너집니다.
파급과 일반 DoS
한 요청이 도구를 부르면 증폭됩니다. 피해는 GPU 포화, 대기열 지연, 계정 과금, 강제 중단으로 번집니다.
| 비교축 | 일반 DoS / DDoS | Model DoS |
|---|---|---|
| 방법 | 연결·대역 포화 | 고비용 추론 유도 |
| 규모 | 대량 트래픽 | 소수 정교 요청으로 가능 |
| 탐지 | 트래픽 이상 | 정상 질의와 닮음 |
| 비용 | 네트워크 | GPU, API 과금 |
| 증폭 | 봇넷 | 에이전트 도구 연쇄 |
네트워크 DDoS 토픽이 신·대역을 다루면, 여기서는 토큰과 스텝이 병목입니다.
한도와 관측
막는 순서는 길이 제한, 출력 상한, 사용자별 속도·예산, 에이전트 스텝 캡, 유사 질의 캐시, 큐, 이상 탐지입니다.
| 층 | 수단 |
|---|---|
| 입력 | 최대 토큰, 복잡도 사전 평가 |
| 실행 | max_tokens, 에이전트 스텝 한도, 샌드박스 예산 |
| 인프라 | Rate limit, 동시 추론 캡, 캐시 |
| 운영 | 비용 임계 알림, 패턴 탐지, 계정 차단 |
필터 한 줄로 끝나지 않습니다. 한도와 청구 관측이 아키텍처입니다.
기술사 답안 포인트
관련 용어
관련 토픽
AI
OWASP Top 10 for LLM
웹 취약점 목록으로는 잡히지 않는 LLM 서비스의 열 가지 위협을 입력·모델·출력·도구 층으로 읽고, 프롬프트 인젝션과 단계별 가드레일을 구분합니다.
보안
DDoS 공격과 대응
대역폭을 채우는 볼류메트릭, 반연결을 쌓는 SYN, 정상처럼 보이는 L7을 가르고, 스크러빙·SYN 쿠키·Anycast를 계층에 맞춥니다.
AI
KV 캐시 (Key-Value Cache)
오토리그레시브 생성에서 이미 계산한 Key·Value를 저장해 재계산을 없애는 KV 캐시의 프리필·디코딩, 메모리 최적화, 속도와 보안 트레이드오프를 정리합니다.