SRE나 플랫폼 팀이 Claude Code나 Cursor를 도입할 때 흔히 묻는 질문이 있습니다. 이 도구를 쓰면 EU AI Act상 책임이 우리에게 생길까요? 코드 작성은 고위험 용도가 아닙니다. AI Act는 도구가 아니라 용도로 분류하며, 소프트웨어 개발은 고위험 목록에 없습니다. AI 도구를 다른 업무에 쓰기 시작하면 판단이 달라집니다.
먼저 적용 범위를 확인합니다. AI Act는 EU에 설립되었거나 소재한 배포자와, EU 밖에 있더라도 AI 산출물이 EU에서 사용되는 배포자에게 적용됩니다(Article 2). EU에 있는 엔지니어의 성과에 점수를 매기는 미국 팀은 적용 대상이고, 미국에서만 운영하는 팀은 아닐 수 있습니다. 적용 대상이라면 두 가지를 확인합니다. 용도가 Annex III 목록에 있는지, 도구의 용도를 바꿨는지입니다. Annex III 고위험 시스템에 해당할 때의 시한과 주요 의무는 이전 글에서 정리했습니다. 여기서는 시한을 따지기 전에 거치는 분류 단계를 다룹니다.
질문 1. 그 용도가 Annex III 목록에 있는가
독립형 시스템의 고위험 여부는 Annex III가 정합니다. 생체 인식, 핵심 기반시설, 교육, 고용, 필수 서비스, 법 집행, 이주, 사법 및 민주적 절차 운영의 여덟 영역이 올라 있고(Annex III), 코드 작성은 여기에 없습니다.
도구의 용도는 제3조 12호가 정의합니다. 제공자가 의도한 용도로, "구체적인 사용 맥락과 조건"까지 포함합니다(Article 3). 코딩 에이전트의 의도된 용도는 소프트웨어 개발입니다. 독립형 고위험 시스템에 대한 Annex III 의무는 2027년 12월 2일부터 적용되지만(Regulation (EU) 2026/1744), 코드를 쓰는 코딩 에이전트는 애초에 이 범주에 들어가지 않으므로 그 날짜가 적용되지 않습니다.
유럽연합 집행위원회는 "에이전트"가 정의된 용어는 아니지만 AI Act가 AI 에이전트에도 적용된다고 밝혔습니다(AI Act Service Desk FAQ). 적용 대상이라고 해서 고위험은 아닙니다. 위험 등급 체계 안에 들어갈 뿐이고, 이 용도는 고위험 등급 밖에 있습니다.
질문 2. 제공자인가, 배포자인가
제3조 4호는 배포자(deployer)를 "자신의 권한 아래 AI 시스템을 사용하는 자연인, 법인, 공공기관, 기관 또는 기타 단체"로 정의합니다. Cursor 라이선스를 쓰는 팀이 여기에 해당하므로 배포자입니다. 제3조 3호는 제공자(provider)를 "AI 시스템 또는 범용 AI 모델을 개발"해 자기 이름이나 상표로 시장에 출시하거나 서비스에 투입하는 자로 정의합니다(Article 3). 도구를 만들어 내놓는 회사가 그 도구의 제공자입니다.
고위험이 아닌 시스템의 배포자가 지는 부담은 가볍습니다. 컴플라이언스 팀이 걱정하는 의무, 예컨대 제26조의 인간 감독과 로그 보관 의무는 고위험 시스템의 배포자에게 붙습니다. 자세한 내용은 이전 글에 있습니다.
제25조에 따른 역할 변경은 고위험 시스템에 한합니다. 제25조 1항에 따르면 배포자가 고위험 AI 시스템에 자기 이름이나 상표를 붙이거나, 고위험 상태가 유지되는 방식으로 실질적으로 수정하거나, 시스템의 의도된 용도를 고위험으로 바꾸면 그 배포자는 제공자로 "간주"됩니다. 제25조 2항에 따라 최초 제공자는 해당 시스템의 제공자로 더는 간주되지 않으며, 고위험 시스템으로의 전환을 금지한다고 명시하지 않았다면 새 제공자에게 협조해야 합니다(Article 25).
코딩 에이전트에 사내 브랜드를 입히거나 맞춤 설정하는 것만으로는 역할이 바뀌지 않습니다. 코드 작성용 에이전트를 입사 지원자 선별에 쓰는 식으로 새 용도를 고위험으로 바꾸면 달라집니다. 이때 도구 선택이 제공자 문제가 되며, Annex III와 제25조 규정은 2027년 12월 2일부터 적용됩니다. 자체 에이전트를 개발해 사내 용도로 서비스에 투입한 팀은 제3조 3호와 11호에 따라 고위험 여부와 관계없이 제공자이기도 합니다.
책임이 실제로 생기는 용도
엔지니어링 조직에서 책임이 생길 가능성이 더 큰 용도는 채용보다 엔지니어링 관리입니다. Annex III 4(b)호는 근로 관계에서 AI 시스템을 "개인의 행동이나 개인적 특성 또는 특징에 따라 업무를 배분하거나, 사람의 성과와 행동을 모니터링하고 평가"하는 데 쓰는 경우를 다룹니다(Annex III). AI 도구로 엔지니어 개인의 성과를 평가하거나 순위를 매기거나, 각자의 행동이나 특성을 기준으로 티켓을 배분하면 여기에 해당하고, 의무는 2027년 12월 2일부터 적용됩니다. 4(b)호의 대상은 개인입니다. 팀 단위 지표나 컴포넌트별 티켓 라우팅은 해당하지 않습니다.
구체적인 경우를 들어 보겠습니다. 한 팀이 코딩 에이전트가 남긴 풀 리퀘스트와 커밋 데이터를 모델에 넣어 분기마다 엔지니어별 성과에 점수를 매기고, 그 결과로 티켓을 배정합니다. "고위험 AI 시스템"을 구매한 사람은 없지만, 이 평가 레이어는 고위험 시스템일 가능성이 큽니다. 이 레이어를 직접 만들어 사내에서 운영하는 팀은 배포자인 동시에 제공자일 수 있습니다(제3조 11호는 Article 3, 제25조는 이전 글 참고).
제6조 3항은 "자연인의 건강, 안전 또는 기본권에 중대한 위해를 끼칠 위험이 없는" 일부 Annex III 시스템을 고위험에서 제외합니다(Article 6). 그러나 이 성과 평가 사례에는 예외를 적용할 수 없습니다. Annex III 시스템이 "자연인에 대한 프로파일링을 수행하는 경우에는 항상 고위험으로 간주"되기 때문입니다. 엔지니어 개인의 업무에 점수를 매기는 일은 프로파일링에 해당합니다. 제3조 52호는 업무 성과를 포함하는 GDPR의 프로파일링 정의를 그대로 가져옵니다(Article 3(52)).
코딩 에이전트를 쓰는 팀에 남는 의무
코딩 에이전트 사용자에게 적용되는 의무는 제4조의 AI 리터러시입니다. AI Act 개정법인 디지털 옴니버스(Digital Omnibus)가 개정한 조문은 제공자와 배포자가 자신을 대신해 AI를 사용하는 직원의 "AI 리터러시 함양을 지원하는 조치를 취할 것"을 요구하며, 특정 수준을 보장하라고 요구하지는 않습니다(Article 4). 제4조는 2025년 2월 2일부터 적용됐고(Article 113), 옴니버스가 2026년에 이를 완화했습니다.
제50조는 역할별로 나뉩니다. 제공자는 AI와 상호작용 중임을 알리는 고지(제50조 1항)와 합성 콘텐츠의 기계 판독 가능한 표시(제50조 2항)를 담당합니다. 배포자는 감정 인식이나 생체 분류 시스템 사용 고지(제50조 3항), 딥페이크 표시, 그리고 공익 사안에 관해 대중에게 알릴 목적으로 게시하는 AI 생성 텍스트의 고지(제50조 4항)를 담당합니다(Article 50). 에이전트로 코드를 쓰는 것만으로는 이 중 어느 의무도 생기지 않습니다. 자사 AI 기능을 사용자에게 제공하면 그 기능의 제공자가 되며, 사람과 직접 상호작용하는 기능이면 제50조 1항, 콘텐츠를 생성하는 기능이면 제50조 2항이 적용됩니다. 제50조는 2026년 8월 2일부터 적용 중이며, 이미 시장에 나온 시스템의 제50조 2항 표시 의무만 2026년 12월 2일까지 유예됩니다(Article 111).
아직 비어 있는 부분이 두 가지 있습니다. 집행위원회는 2026년 5월 19일 제6조 고위험 분류 가이드라인 초안을 공개 의견 수렴용으로 냈습니다(IAPP). 2026년 10월 9일 현재 최종본은 찾지 못했습니다. 같은 날짜 기준으로 코딩 에이전트나 개발자 도구를 직접 다룬 집행위원회 지침도 찾지 못했습니다.
다음 도입 전에 확인할 한 장짜리 점검
- AI 도구마다 의도된 용도를 제공자가 밝힌 표현대로 한 줄씩 적습니다.
- 각 용도를 Annex III 영역과 대조합니다. 개인별 성과에 점수를 매기거나 순위를 정하는 용도, 개인의 행동이나 특성을 기준으로 업무를 배분하는 용도, 또는 핵심 디지털 인프라 운영에서 안전 구성요소로 쓰이는 용도(Annex III 2호)에 표시합니다.
- 도구를 Annex III 용도로 돌려 고위험이 되면(예: 코딩 에이전트를 지원자 선별에 사용) 제25조 1항 (c)호에 따른 역할 변경으로 취급합니다.
- 집행위원회의 분류 가이드라인이 확정되면 다시 읽습니다.
분류는 어떤 의무가 용도에 붙는지를 정합니다. 에이전트가 프로덕션 호스트에서 무엇을 실행하는지는 분류가 정하지 않으며, 그 영역은 실행 제어가 다룹니다.
