어느 월요일 아침, 경영자가 AI에게 말한다.
“다음 분기 미국 시장의 유료 고객 이탈률을 10퍼센트 줄여 줘.”
시장조사 에이전트가 원인을 찾고, 제품 에이전트가 개선안을 만들며, 마케팅 에이전트가 캠페인을 준비한다. 재무 에이전트는 예산을 계산하고 법무 에이전트는 위험을 검토한다. 오후가 되자 하나의 실행안이 올라온다.
이 장면은 공상과학일까. 절반은 이미 현실이고 절반은 아직 아니다. 한 가지 업무를 끝까지 수행하는 단일 에이전트는 상용화됐다. 여러 에이전트가 역할을 나누는 팀도 실제 서비스에서 일한다. 특정 부서의 반복 업무를 맡는 디지털 부서도 등장했다. 다만 회사 전체의 전략과 예산, 책임까지 AI 조직이 독립적으로 운영하는 단계에는 도달하지 못했다.
에이전트의 발전은 단순히 수가 늘어나는 일이 아니다. 업무 범위와 권한, 조정 능력의 확장이다. 우리는 AI 조직의 완성 단계가 아니라 첫 채용 단계에 들어섰다.
에이전트라는 말부터 정리하자
요즘은 질문에 답하는 챗봇도, 문서를 요약하는 도구도, 여러 시스템을 돌아다니며 일을 처리하는 프로그램도 모두 에이전트라고 불린다. 그래서 먼저 기준이 필요하다.
에이전트의 핵심은 말을 잘하는 것이 아니라 목표를 향해 여러 단계를 선택하고 도구를 사용해 행동하는 것이다. 기본 동작은 네 단계로 이해할 수 있다.
- 관찰한다 — 데이터와 현재 환경을 확인한다.
- 판단한다 — 목표까지 필요한 다음 행동을 선택한다.
- 행동한다 — 검색, 파일, API, 브라우저, 코드 실행 같은 도구를 사용한다.
- 검증한다 — 결과를 확인하고 수정하거나 사람에게 넘긴다.
챗봇이 답변을 만든다면 에이전트는 상태 변화를 만든다. 보고서를 설명하는 것과 보고서를 작성해 공유하는 것, 환불 정책을 알려 주는 것과 주문을 확인한 뒤 승인 기준에 따라 환불 절차를 시작하는 것은 전혀 다른 일이다.
다섯 단계로 보는 에이전트의 진화
Level 0 — AI Assistant
사람이 질문하면 답하고, 요약하고, 초안을 만든다. 최종 판단과 실행은 사람이 담당한다. 이미 널리 보급된 단계지만 AI가 장기 목표를 기억하거나 다음 일을 스스로 찾아서 수행하지는 않는다. “이 이메일을 요약해 줘”가 대표적인 요청이다.
Level 1 — Single Agent
하나의 에이전트가 하나의 목표를 받아 계획하고, 도구를 사용하며, 결과를 검토한다. “매주 경쟁사 사이트를 조사해 제품과 가격 변화를 보고서로 만들어 줘”라고 하면 검색, 비교, 작성, 저장까지 이어서 처리한다. 2026년 현재 가장 현실적으로 가치를 만들어 내는 핵심 단계다.
Level 2 — Agent Team
한 에이전트가 모든 일을 하지 않는다. 관리자 에이전트가 일을 나누고 전문 에이전트가 조사, 분석, 작성, 검증을 맡는다. OpenAI Agents SDK는 관리자 에이전트가 전문 에이전트를 호출하거나 업무를 넘기는 패턴을 지원한다. Anthropic Research도 리드 에이전트가 여러 조사 에이전트를 병렬로 움직이고 마지막에 인용 검증 에이전트가 출처를 붙이는 구조다.
Level 3 — Agent Department
여러 에이전트가 프로젝트 하나를 끝내는 수준을 넘어 마케팅, 고객지원, 회계, IT 같은 하나의 기능을 지속적으로 운영한다. 사람은 매번 작업을 지시하는 대신 목표, KPI, 예산, 승인 기준을 정한다. AI는 반복 실행과 모니터링을 담당하고 예외 상황을 사람에게 올린다.
Level 4 — Agentic Organization
여러 에이전트 부서가 공동 목표와 데이터를 공유하고 서로 업무를 위임한다. 중요한 차이는 에이전트 수가 아니라 조직 구조다. 공동 목표, 역할, 권한, 기억, 평가, 감사 기록, 갈등 해결 방식이 있어야 한다. 단순히 봇 백 개를 실행한다고 조직이 되지는 않는다.
Level 4는 다시 두 가지로 나눌 필요가 있다.
- Level 4A: 사람이 목표와 정책을 정하고 에이전트 조직이 실행한다. 여러 기업이 이미 이 방향을 시험하고 있다.
- Level 4B: AI가 전략과 자원 배분, 부서 조정까지 자율적으로 수행한다. 아직 연구와 실험에 가깝다.
2026년 현재 우리는 어디에 있는가
현재 위치를 숫자 하나로 말하면 오해가 생긴다. 일반 기업의 평균과 선도 기업의 실험 수준이 크게 다르기 때문이다. 가장 널리 사용되는 것은 Level 1이고, 실제 생산 환경의 최전선은 Level 2와 Level 3이다. Level 4는 조직 전체를 대상으로 한 초기 실험과 기반 구축이 시작됐다.
단계 | 현재 상태 | 현실적인 사용 | 핵심 한계 |
|---|---|---|---|
Level 0 | 성숙 | 요약, 초안, 질의응답 | 행동과 지속성 부족 |
Level 1 | 상용화 | 조사, 코딩, 분석 지원 | 범위가 좁고 감독 필요 |
Level 2 | 제한적 상용화 | 리서치, 개발, 콘텐츠 | 조정 비용과 오류 누적 |
Level 3 | 초기 생산 운영 | 지원, 영업, 회계, IT | 중요 결정은 사람이 담당 |
Level 4 | 실험과 기반 구축 | 조직 차원의 연결과 통제 | 전략, 책임, 자원 배분 미성숙 |
현재의 주류는 단일 에이전트다. 생산 현장의 최전선은 에이전트 팀과 부서이며, 실험의 최전선은 조직형 에이전트다.
Level 4는 이미 시작되고 있다
Level 4를 ‘사람이 없는 완전 자율회사’로 정의하면 아직 사례가 없다. 그러나 ‘여러 부서의 에이전트를 조직 목표와 권한 체계 아래 연결하는 시도’로 정의하면 이미 흥미로운 사례가 나타나고 있다. 아래 사례들은 완성된 Level 4가 아니라 서로 다른 방향에서 Level 4를 향해 놓은 다리다.
Circles가 만든 AI 기반 통신사 운영
싱가포르 통신 기술기업 Circles의 CareX는 중앙 오케스트레이션 에이전트와 결제, 구독, 네트워크, 계정관리 전문 에이전트를 연결한다. 고객이 결제 문제를 제기하면 중앙 에이전트가 고객의 앱 상황과 계정 기록을 파악하고 필요한 정보만 담당 전문 에이전트에게 보낸다. 해결이 어렵거나 위험이 크면 전체 맥락과 함께 사람에게 넘긴다.
공개 자료에 따르면 CareX는 지원되는 고객서비스 업무의 65퍼센트를 사람의 개입 없이 해결한다. 개인화 엔진 Xplore IQ를 적용한 싱가포르 시장에서는 ARPU가 22퍼센트 증가하고 이탈률이 9퍼센트 감소했다. 고객지원만이 아니라 결제, 구독, 네트워크, 개인화, 수익화를 연결한다는 점에서 Level 3을 넘어 Level 4의 일부 특성을 보여 준다.
OpenAI Workspace Agents가 만드는 공유 AI 직원
Workspace Agents의 중요한 변화는 AI를 개인 도구에서 조직의 공유 자산으로 바꾼다는 데 있다. 한 번 만든 에이전트를 팀이 ChatGPT나 Slack에서 함께 사용하고, 일정에 따라 실행하며, 연결된 업무 도구에서 행동하게 할 수 있다.
공개된 예에는 영업 리드 조사와 CRM 업데이트, 제품 피드백 수집과 티켓 생성, 주간 경영지표 보고, 소프트웨어 구매 요청 검토, 거래처 위험 조사, 월말 결산 자료 준비가 포함된다. 관리자는 어떤 데이터와 도구를 사용할지, 어떤 행동에 승인이 필요한지, 누가 에이전트를 만들고 공유할지를 통제한다. 여러 부서에 AI 직원이 배치되는 모습은 보이지만 이들이 하나의 조직처럼 서로 전략을 조정하는 단계는 아니다.
Microsoft가 먼저 만드는 AI 조직의 인사 시스템
사람이 회사에 입사하면 이름, 사번, 직무, 접근권한이 생긴다. AI 에이전트에도 같은 것이 필요하다. Microsoft Scout는 백그라운드에서 계속 작동하며 Teams, Outlook, OneDrive, SharePoint를 연결하고 일정 조정, 준비자료 생성, 마감일 추적, 정체된 의사결정 감지를 수행한다.
더 중요한 부분은 에이전트마다 고유한 Entra 신원을 부여한다는 점이다. 누구의 권한으로 무엇을 실행했는지 추적하고, 접근 가능한 자원과 행동을 제한하며, 민감한 작업에는 사람의 승인을 요구한다. 완성된 AI 조직은 아니지만 AI 직원이 일할 수 있는 신원, 권한, 감사 체계를 만든다는 점에서 Level 4의 기반에 해당한다.
Salesforce가 그리는 디지털 노동 플랫폼
Salesforce Agentforce는 서비스, 영업, 마케팅, 커머스 등 서로 다른 역할의 에이전트를 기업 데이터 위에 배치하려 한다. 고객지원 에이전트, 영업개발 에이전트, 세일즈 코치, 캠페인 최적화 에이전트, 구매 에이전트, 머천다이징 에이전트가 한 플랫폼에 놓인다.
전문 에이전트들이 복잡한 문제를 나누어 처리하는 멀티에이전트 오케스트레이션도 제공한다. 이는 Level 4를 만들 수 있는 플랫폼에 가깝다. 다만 플랫폼이 가능하다고 해서 고객 기업이 곧바로 조직형 에이전트가 되는 것은 아니다. 실제 도입은 대개 고객지원이나 영업처럼 경계가 분명한 업무에서 시작한다.
MetaGPT와 ChatDev가 실험하는 작은 AI 회사
MetaGPT와 ChatDev는 조직 구조를 가장 직관적으로 보여 주는 연구 및 오픈소스 사례다. 제품관리자, 아키텍트, 프로젝트관리자, 개발자, QA 엔지니어 역할을 에이전트에게 나누고 표준업무절차에 따라 소프트웨어를 만든다. 한 줄의 요구사항에서 사용자 스토리, 경쟁사 분석, 설계, API, 코드, 테스트 문서까지 이어지는 작은 가상 소프트웨어 회사다.
조직도를 흉내 낸다는 점에서는 Level 4와 닮았지만 실제 회사 운영과는 거리가 있다. 고객 관계, 법적 책임, 현금흐름, 인사, 규제, 장기전략을 함께 다루지 않기 때문이다. 그래도 에이전트 조직이 어떻게 역할을 나누고 표준 절차를 공유할 수 있는가를 시험하는 중요한 실험이다.
현재 현실적인 Level 4는 사람이 목표와 책임을 맡고 에이전트가 부서 간 실행을 조정하는 형태다.
에이전트가 많다고 조직이 되는 것은 아니다
열 명의 사람이 같은 문서에 각자 글을 쓴다고 팀이 되는 것은 아니다. 역할, 공통 목표, 의사결정 방식, 작업 인수인계가 있어야 한다. 에이전트도 같다. 멀티에이전트 데모는 화려해 보이지만 실무에서는 에이전트가 늘어날수록 조정 비용과 실패 지점도 늘어난다.
조정 비용이 성능 향상을 삼킬 수 있다
Anthropic은 자체 연구 평가에서 리드 에이전트와 하위 에이전트를 조합한 시스템이 단일 에이전트보다 크게 나은 결과를 냈다고 설명한다. 그러나 멀티에이전트 시스템은 일반 채팅보다 약 15배 많은 토큰을 사용했고, 에이전트끼리 실시간으로 협의하고 업무를 다시 배분하는 능력도 아직 제한적이라고 밝혔다.
여러 방향을 동시에 조사하는 문제에는 강하지만, 모든 작업이 같은 맥락을 공유해야 하거나 서로 강하게 의존하는 문제에는 오히려 불리할 수 있다.
작은 오류가 조직 전체로 전파된다
단일 에이전트의 잘못된 판단은 한 작업을 망친다. 조직형 시스템에서 잘못된 고객 분류가 마케팅 메시지, 영업 우선순위, 수익 예측, 재고 결정으로 전달되면 오류가 연쇄적으로 커진다. 그래서 결과만 보는 것이 아니라 무엇을 보고 어떤 판단을 거쳐 어떤 행동을 했는지 추적할 수 있어야 한다.
권한은 생산성이면서 동시에 위험이다
에이전트가 유용하려면 이메일, 파일, CRM, 결제, 코드 저장소 같은 실제 시스템에 접근해야 한다. 그러나 접근권한이 커질수록 데이터 유출, 프롬프트 인젝션, 무단 실행의 위험도 커진다.
Level 4의 핵심 기술은 더 똑똑한 모델만이 아니다. 신원, 최소 권한, 승인, 감사 기록, 중단 장치, 복구 절차가 같은 비중으로 중요하다.
전략과 책임은 자동화하기 가장 어렵다
매출을 높이라는 목표는 단순해 보이지만 가격을 올릴지, 고객층을 바꿀지, 제품을 개선할지, 비용을 줄일지는 가치 판단이다. 단기 수익과 장기 신뢰가 충돌할 수도 있다. AI가 실행안을 만들 수는 있어도 어떤 손실을 감수하고 누구의 이해관계를 우선할지에 대한 책임까지 대신 지기는 어렵다.
AI 조직은 경영을 없애지 않는다. 오히려 경영의 기준과 책임을 더 분명하게 요구한다.
Level 4를 구별하는 네 가지 질문
기업이 조직형 에이전트를 발표할 때 다음 질문을 던지면 실제 수준을 빠르게 판단할 수 있다.
질문 | Level 4에 가까운 신호 | 단순 자동화의 신호 |
|---|---|---|
공동 목표가 있는가 | 여러 부서가 같은 KPI와 우선순위를 공유 | 각 에이전트가 독립 작업만 수행 |
권한과 책임이 정의됐는가 | 역할별 접근권한, 승인, 감사, 이관 체계 | 공용 계정과 광범위한 권한 |
업무가 부서 사이를 이동하는가 | 상태와 맥락을 유지하며 인수인계 | 결과를 사람이 복사해 다음 도구에 입력 |
실패를 통제할 수 있는가 | 평가, 모니터링, 중단, 복구, 책임자 존재 | 성공 데모만 있고 운영 지표 없음 |
사람의 역할은 무엇으로 바뀌는가
에이전트가 실행을 더 많이 맡을수록 사람은 사라지는 것이 아니라 다른 일을 맡는다. 조직형 에이전트 시대의 핵심 역할은 일을 직접 처리하는 사람에서 일을 맡길 수 있도록 설계하고 책임지는 사람으로 이동한다.
- 목표 설계자: 무엇을 최적화하고 무엇을 희생하지 않을지 정한다.
- 권한 설계자: 에이전트가 볼 수 있는 데이터와 실행 가능한 행동을 제한한다.
- 예외 판단자: 규칙으로 처리하기 어려운 상황과 가치 충돌을 결정한다.
- 품질 감독자: 정확성, 비용, 속도, 신뢰, 안전을 함께 평가한다.
- 책임 주체: 고객, 직원, 사회에 미치는 결과를 설명하고 책임진다.
앞으로 좋은 관리자는 사람만 관리하지 않는다. 사람과 에이전트가 무엇을 나누어 맡고, 어디에서 만나며, 언제 사람이 개입해야 하는지를 설계한다. AI 시대의 관리 능력은 명령을 많이 내리는 능력이 아니라 올바르게 위임하고 검증하는 능력에 가까워진다.
한국 기업과 스타트업은 어디서 시작해야 하는가
Level 4라는 이름에 매료되어 처음부터 가상 조직도를 만드는 것은 좋은 출발이 아니다. 특히 인력과 자금이 제한된 스타트업에는 잘 설계된 단일 에이전트 하나가 이름만 다른 열 개의 에이전트보다 훨씬 가치 있다.
1. 반복적이고 가치가 분명한 업무 하나를 고른다
조사, 고객 문의 분류, 리드 평가, 보고서 작성처럼 결과와 성공 기준을 측정할 수 있는 업무가 좋다. 실패해도 복구할 수 있어야 한다.
2. 데이터와 도구의 경계를 먼저 그린다
에이전트가 어떤 파일과 시스템을 읽을 수 있는지, 무엇을 작성하거나 변경할 수 있는지, 어떤 정보는 절대 접근하지 못하는지 정한다.
3. 사람의 승인 지점을 명확하게 둔다
외부 이메일 발송, 비용 지출, 고객 데이터 수정, 공개 게시, 계약과 같은 행동은 위험도에 따라 승인 기준을 둔다.
4. 결과보다 전체 과정을 평가한다
정확성뿐 아니라 출처, 비용, 처리시간, 누락, 정책 위반, 사람이 수정한 양, 실패 후 복구 가능성을 함께 본다.
5. 한 에이전트가 검증된 뒤 역할을 나눈다
조사량이 많아지면 조사 에이전트를 나누고, 품질 문제가 생기면 검증 에이전트를 추가한다. 에이전트 수는 멋이 아니라 필요 때문에 늘어나야 한다.
6. 부서를 넘기기 전에 공통 운영체계를 만든다
공유 기억, 신원과 권한, 로그, 평가 기준, 승인과 이관 절차가 없는 상태에서 부서 간 연결부터 하면 오류와 책임 공백만 커진다.
미국 시장 진출 스타트업의 작은 에이전트 팀
예를 들어 미국 시장에 진출하려는 한국 스타트업이라면 처음부터 AI 회사를 만들 필요가 없다. 다음과 같은 작은 팀이면 충분하다.
- 시장정보 에이전트가 경쟁사 가격, 기능, 고객 반응을 수집한다.
- 전략 에이전트가 차별점과 콘텐츠 주제를 제안한다.
- 한영 현지화 에이전트가 단순 번역을 넘어 문화와 표현을 다듬는다.
- 게시 에이전트는 사람이 승인한 콘텐츠만 공개한다.
- 분석 에이전트가 유입, 문의, 전환을 보고 다음 실험을 제안한다.
이 구조가 반복적으로 성과를 내고 운영 규칙이 쌓이면 마케팅 부서형 에이전트로 발전할 수 있다. 그다음에야 제품, 영업, 고객지원과 연결하는 것이 현실적이다. Level 4는 한 번에 구축하는 제품이 아니라 검증된 업무들이 연결되며 생기는 운영 모델이다.
AI CEO보다 먼저 필요한 것
조직형 에이전트의 미래를 말하면 사람들은 AI CEO부터 떠올린다. 그러나 실제 변화는 훨씬 조용하게 시작된다. 매주 금요일 보고서를 만들던 사람이 보고서 에이전트를 관리하고, 고객 문의를 일일이 분류하던 팀이 예외 상황과 서비스 정책에 집중한다.
작은 성공이 쌓이면 에이전트끼리 일이 이동하고, 공통 기억과 권한 체계가 생기며, 마침내 조직의 일부가 디지털 노동으로 운영된다.
그래서 지금 가장 중요한 질문은 “AI가 회사를 운영할 수 있는가”가 아니다.
“우리 조직에서 어떤 업무를 AI에게 안전하게 맡길 수 있으며, 그 결과를 누가 확인하고 책임질 것인가?”
이 질문에 답할 수 있는 기업이 Level 1에서 Level 4로 이동한다. AI 조직 시대는 AI CEO의 등장보다 책임 있게 맡길 수 있는 업무 하나에서 시작된다.
참고 자료
- OpenAI Agents SDK — Agent orchestration
- Anthropic — How we built our multi-agent research system
- OpenAI — Circles powers telco personalization with OpenAI technology
- OpenAI — Introducing workspace agents in ChatGPT
- Microsoft — Introducing Microsoft Scout
- Salesforce — Agentforce
- MetaGPT — Software company as multi-agent system
- ChatDev — Communicative agents for software development