PE Notes · AI

AI Agent와 기계고객

목표를 인식–추론–행동 루프로 반복하는 AI Agent와, 탐색·구매·협상을 대신하는 기계고객을 가릅니다. ReAct, 도구 호출, 자율성 수준과 승인·최소 권한을 정리합니다.

2026-09-12

챗봇은 한 번 답하고 끝입니다. 는 목표를 받아 환경을 보고, 계획을 나누고, 도구를 고른 뒤 결과를 다시 봅니다. 은 그 루프가 구매·협상·계약으로 옮겨간 형태입니다. 자율이 늘어날수록 권한이 곧 공격 면입니다.

정의

에이전트는 인식(Perception) → 메모리 → 계획 → 행동(Action)을 환경 피드백과 돌립니다. 일반 과의 차이는 도구, 장기 기억, 다단계 계획입니다.

기계고객은 센서나 재고 신호로 필요를 읽고, 상품을 비교한 뒤 주문합니다. 수준은 규칙 자동결제(지시 따름), 범위 안 최저가 구매(제한 자율), 공급사 선정·계약(독립)으로 나눕니다.

는 Thought → Action → Observation을 반복합니다. 생각이 정보를 요구하면 도구를 치고, 관찰이 다음 생각을 엽니다. 행동은 이나 서버로 나갑니다. 계획은 나 Tree-of-Thought로 목표를 태스크로 쪼갭니다.

구매 절차는 니즈 감지 → 탐색 → 다기준 비교 → 협상(에이전트 간 협상 포함) → 계약 → 이행 모니터링입니다. 조달, 재고 보충, 포트폴리오 리밸런싱이 같은 뼈대입니다.

목표가 어긋나면 도구를 과하게 씁니다. 탈옥과 API 탈취는 주문 위조로 이어집니다. 책임 소재가 흐려지고, 가격 알고리즘이 서로 맞으면 시장이 왜곡됩니다.

비교축	목표 오정렬	도구 남용	책임 공백
증상	지시와 다른 부작용	과도한 API·결제	오류 주문을 누구에게 물을지
통제	목표 명세, 중단 스위치	, 허용 목록	감사 추적, 계약상 귀속

MCP 보안 토픽의 가드레일과 같은 손입니다. 자율을 높일수록 승인 게이트를 더 촘촘히 둡니다.