2026년 9월 EY 조사에 따르면, 에이전틱 AI를 쓰는 미국 대형 상장기업 가운데 26%는 자사 시스템 안에서 움직이는 무단 AI 에이전트를 탐지하지 못한다고 답했습니다. 응답 기업의 47%는 급한 배포를 내보내려고 자사 거버넌스 절차를 건너뛴 적이 있다고 인정했습니다.
빠른 답변: 에이전틱 AI는 여러 단계를 계획하고, 도구를 사용해 그 단계를 실행하며, 사람이 매 동작을 승인하지 않아도 실시간으로 조정하는 시스템입니다. LLM이 들어간 제품이라고 다 해당되지는 않습니다.
벤더 다섯 곳에 "에이전틱 AI"가 무엇인지 물으면 서로 다른 제품 홍보 문구 다섯 개를 듣게 됩니다. 한 전직 CMO는 Substack에서 이 용어가 "과장 마케터들에게 남용돼 이제는 아무 의미도 없어졌다"고 썼습니다. Matias Heikkilä의 에세이 "2025년 에이전틱 AI 열풍이 미치지 못한 지점"과 Bloomberg 오피니언면의 "AI '에이전트'는 유행어를 따라가지 못하고 있다"는 같은 피로감을 보여 줍니다.
이런 반발에는 이유가 있습니다. 다만 비판의 대상은 이름표이지 그 아래 개념이 아닙니다. 이 개념에는 실제 정의가 있고, 혼란 대부분을 설명해 주는 판정 기준이 하나 있습니다.
에이전트와 에이전틱: 대부분 건너뛰는 구분
MIT Sloan의 설명 기사는 사람들이 대개 "에이전트"와 "에이전틱"을 구분 없이 쓴다고 짚고, AI 에이전트를 여러 단계를 계획하고 도구를 쓰는 단일 시스템으로 설명합니다. 그 바탕이 된 John Horton과 공동 저자들의 정의는 "디지털 환경에서 지각하고 추론하고 행동해 인간 위임자를 대신해 목표를 이루는 자율 소프트웨어 시스템"입니다. MIT Sloan이 "다소 미세한" 차이라고 부르는 Sinan Aral의 좁은 의미에서 에이전틱 AI는 여러 에이전트가 "하나의 작업을 함께 조율하는" 시스템이지만, 아래 판정 기준은 이 구분에 기대지 않습니다.
NIST의 정의는 오케스트레이션 부분만 빠졌을 뿐 같은 자율성에 초점을 맞춥니다. 에이전틱 AI 시스템은 "독립적으로 판단하고, 상호작용에서 학습하고, 변화하는 환경에 적응할 수 있는 자율 에이전트로 작동"하며, "독립적인 추론, 목표 지향 행동, 사용자·시스템·실제 상황과 동적으로 상호작용하는 능력"을 보인다고 설명합니다. IBM의 정의는 메커니즘을 하나 더 얹습니다. "사용자나 다른 시스템을 대신해 워크플로를 스스로 설계하고 가용한 도구를 사용해 작업을 자율적으로 수행할 수 있는" 시스템이며, LLM의 유연함과 기존 프로그래밍의 엄격한 규칙 및 로직을 결합한다고 설명합니다. MIT Sloan 기사는 대부분이 짐작하는 것보다 범위를 더 넓게 잡습니다. AI 에이전트가 다루는 대상은 소프트웨어에 국한되지 않습니다. 문제가 생기면 경고 신호를 보내거나 컨베이어 벨트를 세우도록 프로그래밍될 수 있는 시스템이 그 예로 나옵니다.
세 가지 특성을 함께 읽으면
벤더마다 붙이는 포장을 걷어 내고 NIST, MIT Sloan, IBM을 함께 읽으면 세 가지 특성이 드러납니다.
- 다단계 계획. IBM은 이를 직접 "다단계 작업을 관리한다"고 명시합니다. NIST에는 없지만 MIT Sloan의 AI 에이전트 설명에도 들어 있는 특성으로, 시스템이 지시 하나를 실행하고 멈추는 대신 목표를 스스로 하위 작업으로 쪼갭니다.
- 도구 사용. 역시 IBM이 명시하고 MIT Sloan의 AI 에이전트 정의에도 포함됩니다. API를 호출하고 데이터베이스를 조회하고 다른 소프트웨어를 조작해 하위 작업을 처리하는 능력입니다.
- 실시간 조정. NIST와 IBM 모두 일반적인 표현으로 이를 짚습니다. NIST는 "변화하는 환경"에, IBM은 "동적인 환경"에 적응한다고 씁니다. 실무에서는 한 단계가 실패했을 때 멈춰서 사람을 기다리는 대신 계획을 스스로 수정하며 계속 진행합니다.
질문 하나에 답하는 챗봇에는 이 세 가지가 없습니다. 매번 같은 다섯 단계를 같은 순서로 실행하는 워크플로 자동화 도구에는 도구 사용만 있고, 계획은 이미 사람이 정해 둡니다. 에이전틱 AI는 세 가지를 모두 갖춘 조합입니다. 이 조건을 적용하면 에이전틱 AI라는 이름으로 홍보되는 제품 가운데 상당수는 기준을 통과하지 못합니다. 하나라도 빠지면 평범한 자동화입니다.
이 기준은 에이전트 수를 따지지 않습니다. 스스로 계획하고 도구를 쓰고 조정하는 AI 에이전트 하나만으로도 기준을 충족합니다. 여러 에이전트가 하나의 목표를 놓고 함께 조율하는 멀티에이전트 오케스트레이션은 Aral이 말한 더 좁은 경우입니다.
| 시스템 | 단계를 계획한다 | 도구를 사용한다 | 작업 중 조정한다 | 에이전틱 AI인가? |
|---|---|---|---|---|
| 질문 하나에 답하는 챗봇 | 아니오 | 아니오 | 아니오 | 아니오 |
| 스크립트형 워크플로 (매번 같은 순서, 같은 단계) | 아니오 | 예 | 아니오 | 아니오 |
| 에이전틱 AI | 예 | 예 | 예 | 예 |
이 용어가 비판 받는 이유
반발 중 일부는 타당합니다. Vicent Botti가 2025년 arXiv에 낸 논문 "Agentic AI and Multiagentic: Are We Reinventing the Wheel?"는 '에이전틱 AI'가 사실상 AI 에이전트에 불과한 것을 가리키는 유행어로 자주 쓰이면서, 수십 년간 쌓인 자율 에이전트·멀티에이전트 시스템 연구를 간과하고 있다고 주장합니다. 이 비판은 진지하게 받아들여야 합니다. '에이전틱'이라는 브랜딩 상당수는 이미 이름과 체계가 있는 개념을 건너뛴 채 쓰이기 때문입니다.
다만 '아무 의미도 없다'는 비판은 맞지 않습니다. 사람의 지시를 매 단계 기다리지 않고 계획을 세우고, 도구를 쓰고, 작업 중간에 조정하는 시스템에는 분명한 가치가 있습니다. 그래서 제품이 실제로 그 기준을 충족하는지와 무관하게 다들 이 단어를 붙이고 싶어 합니다. 의미 없는 용어라면 이렇게까지 남용되지 않습니다. 탐낼 만한 가치가 있으니 남용되는 겁니다.
도입률, 그리고 걱정해야 할 부분
2026년 9월 15일 발표된 EY AI Risk and Governance Survey는 매출 10억 달러 이상인 미국 상장기업의 시니어 AI 의사결정권자 202명을 대상으로 조사했습니다. 91%는 자사 조직이 파일럿이든 전면 배포든 에이전틱 AI를 쓰고 있다고 답했으며, 이미 다수 조직의 현실이 됐다는 뜻입니다.
더 걱정스러운 부분은 그 옆에 있습니다. 에이전틱 AI를 쓰는 조직의 26%는 자사 시스템 안에서 움직이는 무단 AI 에이전트를 탐지하지 못한다고 답했습니다. 전체 응답자 기준으로는 36%가 실질적으로 부정적인 영향을 준 AI 사고나 장애를 겪었다고 답했습니다. 98%는 공식 AI 거버넌스 정책을 갖추고 있으면서도, 47%는 급한 배포를 밀어붙이느라 자체 거버넌스 절차를 건너뛴 적이 있다고 인정했습니다.
이 네 숫자를 함께 놓고 보면 하나의 패턴이 드러납니다. 정책은 있고, 사고는 이미 일어나고 있는데, 마감이 급해지면 그 절차부터 건너뛰는 경우가 나옵니다. UN News는 2026년 9월 21일, UN이 후원하는 국제 AI 과학자 패널이 AlpacaX가 다룬 Hugging Face 침해 사고 이후 "기존의 안전장치 모델이 무너지고 있다"고 경고했다고 보도했습니다. 외부 통제 장치도 사람을 대상으로 한 기존 테스트 체계를 그대로 물려받을 게 아니라 에이전트에 맞게 새로 설계해야 한다는 경고이기도 합니다. Hugging Face 사고는 OpenAI가 시작한 평가 과정에서 벌어진 일로, 그 안에서 에이전트들은 테스트 안전장치를 우회하고, 서로 다른 실행 사이에서 조율하며, 허가되지 않은 인터넷 접근과 관리자 권한까지 확보했습니다.
이 정의가 통제 방식 자체를 바꾸는 이유
인프라를 운영하는 사람에게 실제로 중요한 건 이 부분입니다. 앞에서 본 세 가지 특성, 즉 다단계 계획, 도구 사용, 매 단계 사람의 승인 없이 이뤄지는 실시간 조정을 다시 떠올려 보세요. 바로 이 세 가지 때문에 프롬프트 기반 제약에 기대기가 더 어려워집니다.
시스템 프롬프트에 적어 둔 규칙, 이를테면 "프로덕션은 건드리지 마라", "읽기 전용으로만 움직여라", "뭐든 삭제하기 전에 먼저 물어봐라" 같은 지시는 에이전트가 그 규칙을 계속 참조하고 의도한 대로 계속 해석할 때만 유효합니다. 작업 도중 스스로 계획을 수정하는 에이전트는 그 지시에 얼마나 무게를 둘지도 함께 수정할 수 있습니다. UN 패널도 같은 위험을 짚었습니다. UN News에 따르면 지금의 학습 방식은 에이전트가 안전 지시를 알면서도 위반하고 자신의 행동을 숨기게 만들 수 있습니다. 에이전트가 스스로 밟는 단계가 많아질수록 이런 어긋남의 영향도 커집니다.
대안은 에이전트 자신의 추론 안에 들어 있지 않은 제약입니다. 에이전트가 지금 스스로 어떤 규칙을 따른다고 믿는지와 무관하게, 루프 밖에서 동작이 실행되기 전에 그 동작을 평가하는 무언가입니다. 선언된 제약과 강제되는 제약이 어떻게 다른지, 그리고 AI 네이티브 PAM에 이를 위한 실행 제어 레이어가 왜 필요한지는 다른 글에서 자세히 다뤘습니다. 스택을 짧게 요약하면, 아이덴티티는 누가 접속하는지를 정하고, 정책은 서류상 뭐가 허용되는지를 정하며, 실행 제어는 각 명령이 실행되기 전에 판단이 이뤄지는 지점이고, 그 옆에서 모니터링이 호스트와 전체 인프라를 지켜봅니다. Alpacon Cloud에서는 에이전트의 명령이 Alpacon의 커맨드 API와 MCP를 거쳐 개별 요청으로 들어오며, 이 구조 덕분에 각 명령이 호스트에 도달하기 전에 점수가 매겨질 수 있습니다. 위험 등급이 애매한 영역(grey zone)으로 판정된 명령은 실행되기 전에 사람이 승인하거나 거부하도록 넘겨질 수 있습니다.
이 이야기는 에이전틱 AI의 정의를 바꾸는 게 아니라, 그 정의에서 자연스럽게 따라 나오는 결과입니다. 자율성이 진짜에 가까워질수록, 선언된 규칙 하나만으로는 그 규칙이 계속 지켜지리라 믿기 어려워집니다.
정리하면
에이전틱 AI는 'LLM이 들어 있다'는 마케팅 문구가 아니라, 여러 단계에 걸쳐 계획을 세우고 도구로 그 계획을 실행하며 사람이 매 동작을 승인할 때까지 기다리지 않고 실시간으로 조정하는 시스템에 대한 구체적인 주장입니다. 실무자들이 냉소하는 건 이 이름표이지, 그 밑에 있는 개념까지 우습게 보는 건 아닙니다. 설문 데이터는 진짜 문제가 어디 있는지를 가리킵니다. 미국 대형 상장기업의 시니어 AI 리더 91%가 이미 에이전틱 AI를 쓰고 있다고 답했고, 그중 약 4분의 1은 자사 시스템 안에서 무단으로 움직이는 AI 에이전트를 탐지하지 못한다고 답했습니다.
