이 문서를 통해 아래 질문들에 답할 수 있게 됩니다.
- LangGraph, AutoGen, CrewAI 같은 agent framework의 장점은 무엇인가?
- agent framework를 운영 서비스에 붙일 때 어떤 위험을 봐야 하는가?
- autonomous agent와 bounded workflow는 어떻게 다르게 판단하는가?
개요
2026-06-30 GitHub API 확인 기준으로 LangGraph, AutoGen, CrewAI는 모두 수만 star와 활발한 업데이트를 가진다. agent framework는 multi-step 작업, tool orchestration, 역할 분담, 상태 기반 workflow를 표현하는 데 도움을 준다.
하지만 운영 서비스에서 agent는 강력한 만큼 위험하다. 특히 write tool을 연결하면 모델 판단이 실제 side effect로 이어진다.
장점
- 여러 단계 작업을 구조화할 수 있다.
- tool 호출과 상태 전이를 표현하기 쉽다.
- 사람 승인 단계를 넣을 수 있다.
- retry와 branch를 workflow로 표현할 수 있다.
- 복잡한 업무 자동화 프로토타입을 빠르게 만들 수 있다.
위험
- agent loop가 종료되지 않을 수 있다.
- 같은 tool을 반복 호출할 수 있다.
- write tool이 중복 실행될 수 있다.
- 모델이 잘못된 tool을 선택할 수 있다.
- 비용과 latency가 예측하기 어렵다.
- trace가 없으면 원인 분석이 어렵다.
Bounded Workflow 우선
운영에서는 완전 자율 agent보다 bounded workflow를 먼저 고려한다.
고객 문의 수신
분류
필요한 문서 검색
답변 초안 생성
confidence 낮으면 human review
승인 후 발송각 단계가 명확하면 테스트와 감사가 쉽다.
코드로 이해하기
agent 설정에도 제한값을 명시해야 한다.
agent:
name: support-assistant
max_steps: 6
max_tool_calls: 4
max_cost_usd: 0.20
write_tools:
require_approval: true
require_idempotency_key: true
timeout_seconds: 30이 설정은 제품 요구사항만큼 중요하다. agent는 실행 경계를 가져야 한다.
인프라 협업 포인트
agent는 호출 패턴이 예측하기 어렵다.
- tool call fan-out
- 긴 실행 시간
- queue 적체
- provider rate limit
- trace volume
- audit log 증가
인프라팀에는 max step, max tool call, expected QPS, worker concurrency를 숫자로 제공해야 한다.
실전 팁
- read-only agent부터 시작한다.
- write tool은 approval을 먼저 넣는다.
- agent의 최종 답변보다 중간 tool trace를 더 중요하게 본다.
- agent 실패를 재현할 수 있게 input, prompt version, tool result를 연결한다.
위험 신호!
- agent가 production write API를 직접 호출한다.
- max step과 max cost가 없다.
- tool 호출 audit log가 없다.
- human review 없이 고객에게 자동 발송한다.
- agent 실패가 자연어 로그만 남는다.
확인 질문
확인 질문
- agent framework를 운영에 붙일 때 가장 먼저 제한해야 할 것은 무엇인가?
- max steps, max tool calls, timeout, cost, write tool 권한이다.
- bounded workflow가 autonomous agent보다 운영에 유리한 이유는 무엇인가?
- 실행 경로가 명확해 테스트, 감사, 실패 처리가 쉽기 때문이다.