AlpacaX

AlpacaX 블로그: 보안과 제품 이야기, 그리고 AI 에이전트 실행 제어를 만들며 쌓아가는 생각들.

루프재킹: 승인한 동작과 실행된 동작의 불일치

Insights

루프재킹: 승인한 동작과 실행된 동작의 불일치

한 연구자가 에이전트 프레임워크 세 곳의 테스트 환경에서 승인 내용과 다른 동작이 실행되는 문제를 재현했습니다.

Marco Kwak
Marco KwakHead of GTM · 2026년 10월 14일
Product update: 요청이 들어온 경로와 알림 설정

Product

Product update: 요청이 들어온 경로와 알림 설정

승인 카드에는 요청 경로와 검증 여부가 표시되고, 서버별로 알림 발송을 멈출 수 있으며, 세션 연장에는 사유가 필요합니다.

Taeyeong Baek
Taeyeong BaekGTM Associate · 2026년 10월 13일
Supabase와 Vercel에서 직접 운영으로, 실제로 달라지는 것들

Insights

Supabase와 Vercel에서 직접 운영으로, 실제로 달라지는 것들

전담 인프라 엔지니어 없이도 작은 팀이 직접 서버를 운영할 수 있는 조건이 지금 만들어지고 있습니다.

Taeyeong Baek
Taeyeong BaekGTM Associate · 2026년 10월 6일
사람이 막아 낸 AI 에이전트, 통제는 아니었습니다

Incident

사람이 막아 낸 AI 에이전트, 통제는 아니었습니다

UK AISI 보고서는 사람이 이번 시도를 막았지만, 이를 반복 가능한 기술적 통제로 볼 수 없다고 지적합니다.

Marco Kwak
Marco KwakHead of GTM · 2026년 9월 24일
Product update: 명령이 실행되기 전에 정해두는 것들

Product

Product update: 명령이 실행되기 전에 정해두는 것들

명령을 어디까지 통제할지 직접 정하고, 세션이 어떤 계정으로 접속할지 승인 단계에서 확정하고, 자동화에는 별도의 자격 증명을 발급할 수 있습니다.

Taeyeong Baek
Taeyeong BaekGTM Associate · 2026년 9월 8일
별도 채널 승인: 에이전트 실행 채널은 승인 채널이 될 수 없습니다

Insights

별도 채널 승인: 에이전트 실행 채널은 승인 채널이 될 수 없습니다

AI 에이전트가 실행 채널에서 검토를 직접 승인할 수 있다면 승인 게이트는 무력해집니다. 별도 채널 승인이 요청자와 승인자를 무조건 다른 사람으로 두는 방식이 아니라, 승인 경로를 분리하는 이유를 설명합니다.

Marco Kwak
Marco KwakHead of GTM · 2026년 8월 28일
Product update: 감사 로그에서 비밀 값은 빼고, 접속 사각지대는 채웠습니다

Product

Product update: 감사 로그에서 비밀 값은 빼고, 접속 사각지대는 채웠습니다

감사 기록은 더 안전해지고, 서버 접속과 승인 요청을 더 세밀하게 관리할 수 있습니다.

Taeyeong Baek
Taeyeong BaekGTM Associate · 2026년 8월 25일
문서 속 AI 거버넌스와 실행 중의 거버넌스

Insights

문서 속 AI 거버넌스와 실행 중의 거버넌스

보안 사고가 더 나은 보안 정책을 보장하지 않습니다. 대신 경영진이 정책에 던지는 질문을 바꿉니다.

Eunyoung Jeong
Eunyoung JeongFounder & CEO · 2026년 8월 11일
Product update: 승인에 판단 근거를 더했습니다

Product

Product update: 승인에 판단 근거를 더했습니다

승인 요청의 판단 근거를 바로 확인하고, 결정을 기다리는 동안에도 에이전트 작업을 이어갈 수 있습니다.

Taeyeong Baek
Taeyeong BaekGTM Associate · 2026년 8월 11일
JIT 접근 제어는 사람을 위한 것입니다. AI 에이전트에겐 무엇이 필요할까요?

Insights

JIT 접근 제어는 사람을 위한 것입니다. AI 에이전트에겐 무엇이 필요할까요?

JIT는 에이전트가 들어오는지, 그리고 언제인지를 정합니다. 일단 들어온 뒤 무엇을 하는지는 다루지 못합니다.

Eunyoung Jeong
Eunyoung JeongFounder & CEO · 2026년 7월 14일
Blog | AlpacaX Blog