AI 에이전트의 다음 경쟁력은 ‘권한’입니다

기준: 2026년 10월 5일 오전, 한국시간. 10월 3일 이후 보도를 우선 살피고, 이전 발표는 배경 자료로 구분했습니다. 보도된 사실과 아래의 AXC 해석·설계 제안은 구분해서 읽어주세요.

AI 도입을 논의할 때 첫 질문은 대개 성능입니다. 문서를 얼마나 정확히 읽는지, 답변을 얼마나 빨리 만드는지, 어떤 모델을 쓰는지 묻습니다. 그런데 AI가 고객 정보를 조회하고 견적을 만들고 외부로 메일을 보내기 시작하면, 질문 하나가 더 필요해집니다. 이 시스템은 누구의 권한으로 어디까지 행동할 수 있을까요?

이번에 확인한 한국 금융권 대응과 미국의 AI 정책 조직 구성은 이 질문을 다시 꺼내게 합니다. AXC는 앞으로 기업용 자동화 제안에서 모델 이름만큼 권한 범위, 실행 이력, 사고 시 중단 절차가 중요한 검토 항목이 될 것으로 봅니다.

각 항목의 출처와 발표 시점은 해당 본문과 마지막 참고 자료에 연결했습니다. 오픈웨이트 모델 소식은 Private AI를 검토할 때 함께 보되, 출시 전 성능을 도입 근거로 확정하지 않습니다.

10월 4일 연합뉴스 보도에 따르면 이재명 대통령은 금융기관과 공공기관의 개인정보 유출에 대해 철저한 조사와 대책 마련을 지시했습니다. 같은 날 금융당국은 전 금융권 보안 점검, 접근통제 강화, 외부 시스템 접점 최소화 등을 요구했습니다. AI 도구가 공격에 활용됐을 가능성도 언급됐지만, 이를 자율 AI가 공격 주체였다는 확정 결론으로 읽어서는 안 됩니다. 연합뉴스 보도, Reuters 보도·재게시

금융회사와 일반 기업이 지켜야 하는 구체적 요건은 같지 않습니다. 다만 자동화 설계에 가져올 질문은 분명합니다. 고객 시스템과 연결된 AI가 잘못된 요청을 받거나 외부 문서 속 지시를 업무 명령으로 오해했을 때, 피해가 어디까지 번질 수 있는가입니다.

‘견적 초안 작성’에 고객관리 관리자 계정이 필요할까요?

예를 들어 견적 에이전트는 상품 단가, 고객이 요청한 수량, 할인 기준을 읽어 초안을 만들면 됩니다. 여기에 전체 고객 명단 다운로드, 계정 권한 변경, 발송 기능까지 함께 열어두면 업무와 무관한 행동 경로가 생깁니다. 좋은 결과를 내는 능력과 행동을 허용하는 범위를 따로 설계해야 하는 이유입니다.

AXC가 제안하는 방식은 견적 조회, 초안 저장, 외부 발송을 별도의 도구와 권한으로 나누는 것입니다. 에이전트는 초안을 만들고, 담당자는 수신자·금액·유효기간을 확인합니다. 승인된 버전이 확정된 뒤에만 발송 기능이 열리도록 구성할 수 있습니다.

이 원칙은 특정 사건이 AI 때문에 발생했는지와 별개로 유효합니다. OWASP도 과도한 기능, 권한, 자율성을 에이전트 위험의 원인으로 설명하며 최소권한과 고영향 행동에 대한 사람의 승인을 권고합니다. OWASP: Excessive Agency

SailPoint는 2026년 8월 4일 공개한 자료에서 배포된 에이전트의 97%가 민감한 데이터에 접근하고, AI 위험을 관리할 능력에 높은 자신감을 보인 보안 리더는 21%라고 설명했습니다. 이는 공급업체 자체 조사이며 모든 기업의 상태를 대표하는 확정 통계로 일반화하기는 어렵습니다. 두 수치는 각각 접근과 자신감을 측정하므로 76%포인트를 곧바로 ‘보안 취약 비율’로 계산해서도 안 됩니다. SailPoint 공식 자료

10월 5~8일 미국 오스틴에서 열리는 Navigate 2026도 AI 에이전트와 비인간 신원의 보안을 주요 주제로 제시합니다. 한국시간 10월 5일 오전 시점에는 행사 이후 성과나 제품 발표를 이미 확인한 것처럼 해석하지 않습니다. Navigate 공식 일정

실무에서는 에이전트 수를 세는 일부터 시작할 수 있습니다. 누가 만들었고, 어떤 업무를 맡고, 어떤 계정을 쓰는지 모르면 관리 대상조차 정할 수 없습니다. 특히 담당자가 퇴사하거나 프로젝트가 끝났는데 자동 실행과 API 키가 남아 있으면 책임자 없는 자동화가 됩니다.

첫 등록 시 남겨야 할 다섯 가지

• 고유 ID와 업무 목적: 화면 이름이 바뀌어도 같은 실행 주체를 추적합니다.
• 업무 소유자와 기술 담당자: 결과를 책임지는 사람과 장애를 처리하는 사람을 구분합니다.
• 데이터·도구 범위: 접근할 고객, 문서 집합, API 동작을 구체적으로 적습니다.
• 권한 만료일과 재검토일: 프로젝트 종료와 담당자 변경에 맞춰 회수합니다.
• 실행 환경과 버전: 어떤 모델·설정·도구 조합이 실제 운영 중인지 남깁니다.

공유 관리자 계정 하나에 여러 에이전트를 연결하면 사고가 났을 때 범인을 찾기 어렵고, 하나를 멈추기 위해 전체 업무를 끊어야 할 수 있습니다. 에이전트별로 실행 주체를 구분하는 작업은 추적과 선택적 중단을 가능하게 하는 출발점입니다.

아래는 AXC가 제안하는 기업용 에이전트의 기본 설계입니다. OWASP의 최소권한·승인·감사 원칙을 업무 흐름으로 구체화한 예시이며, 현재 AXC의 모든 제품에 구현돼 있다는 뜻은 아닙니다. OWASP AI Agent Security

AXC 제작 도해. 승인 여부는 행동의 영향도에 따라 결정하며, 실제 실행 허용 여부는 서버가 검증합니다.

1. Agent ID — 누가 실행했는지 남깁니다. 고객 구분, 에이전트 ID, 실행 ID를 연결합니다. 여러 에이전트가 협업해도 마지막 동작의 주체와 최초 요청을 찾을 수 있어야 합니다.

2. 최소권한 — 맡긴 일에 필요한 범위만 엽니다. ‘CRM 접근 가능’보다 ‘담당 고객의 연락처 조회 가능, 삭제 불가’처럼 동작과 데이터 범위를 함께 정의합니다. 사용자의 접근권한을 넘어 자료를 검색하지 않도록 조회 단계에서도 확인합니다.

3. Human Approval — 승인 대상을 정확히 고정합니다. ‘진행’ 버튼만 두지 않고 변경 대상, 수신자, 금액, 외부 전송 내용을 보여줍니다. 승인 이후 중요한 입력이 달라지면 다시 승인받아야 합니다. 모든 클릭에 승인을 붙이기보다 되돌리기 어렵거나 영향이 큰 행동에 집중합니다.

4. Audit Log — 결과를 재구성할 단서를 남깁니다. 실행 시각, 호출 도구, 정책 판단, 승인자, 결과 상태를 기록합니다. API 키와 민감한 원문을 통째로 로그에 남기지 않으며, 보관기간과 로그 열람 권한도 정합니다.

5. Kill Switch — 실제 동작을 끊을 수 있어야 합니다. 화면에 중지 표시를 띄우는 것만으로는 부족합니다. 새 작업 접수, 대기열, 재시도, 실행기 호출을 차단하고 필요한 경우 자격증명을 폐기합니다. 이미 외부에 반영된 작업은 별도의 취소·복구 절차가 필요합니다.

6. Credential Vault — 비밀키를 모델의 문맥에서 분리합니다. 모델에는 ‘고객 조회 도구’ 같은 이름만 제공하고, 인증 정보는 통제된 실행기가 보관소에서 읽어 사용합니다. Registry에는 실제 키 대신 보관 위치의 참조값과 갱신 상태를 둡니다.

7. Egress Allowlist — 나가는 통신을 제한합니다. 외부 접속은 승인된 대상과 용도로 좁힙니다. 도메인 허용만으로 끝내지 말고 실행 환경에서 목적지·경로·동작을 제한해야 합니다. 허용된 협업 서비스로도 자료가 유출될 수 있으므로 전송 내용 검증을 함께 둡니다.

8. 권한 자동 만료 — 오래 남는 접근을 줄입니다. 가능한 시스템에서는 필요한 작업 동안만 짧은 수명의 권한을 발급합니다. 장기 키만 지원하는 서비스는 범위를 줄이고, 교체 주기와 즉시 폐기 절차를 정합니다. 연결 대상이 지원하지 않는 임시 권한을 가능한 것처럼 약속하지 않습니다.

이 여덟 가지를 프롬프트에 적는 것만으로 통제가 구현되지는 않습니다. 모델이 행동을 제안하고, 실행 계층이 정책을 확인하며, 허용된 요청만 시스템으로 보내는 구조여야 합니다. OWASP의 개발 가이드 역시 필요한 도구·접근·시간으로 자율성을 제한하는 원칙을 강조합니다. OWASP Agent·MCP 보안 가이드

10월 4일 Reuters는 트럼프 대통령이 국가정보국장 Jay Clayton을 AI 정책 조정 책임자로 지명하고 Super Intelligence Force(SIF)를 구성했다고 보도했습니다. 보도에 따르면 이 조직은 120일 안에 AI의 위험·기회와 연방정부의 역할을 검토하는 보고서를 마련할 계획입니다. Reuters 보도·MarketScreener 재게시

이 발표 자체를 새 규제의 시행일이나 기업의 준수 기한으로 해석할 근거는 없습니다. 120일은 보도된 보고서 일정입니다. AXC의 관찰 포인트는 후속 문서가 어떤 대상과 행동을 다루는지, 권고인지 의무인지, 기존 제도와 어떻게 연결되는지입니다.

미국 고객을 포함한 외부 고객과 자동화를 운영할 때는 제안서와 운영 합의에 다음 내용을 구체화하는 편이 좋습니다. 아래는 운영상 확인 목록이며 개별 국가의 법적 요건을 대신하는 목록은 아닙니다.

• 에이전트가 조회·수정·발송할 수 있는 대상과 금지 동작
• 사람이 승인할 행동, 승인 담당자와 부재 시 처리 방식
• 데이터와 로그의 저장 위치, 외부 모델 전송 항목
• 보관·삭제 기준과 외부 서비스 이용 범위
• 이상행동 발견 시 중단 담당자, 연락 순서, 복구 확인 절차

정책이 바뀔 때 대응하기 쉬운 시스템은 이런 정보가 이미 정리된 시스템입니다. 실제 데이터가 어디로 흐르는지조차 모르면 계약 문구만 수정해서 운영을 바꾸기 어렵습니다.

Axios는 10월 4일 Nvidia가 지원하는 Reflection의 오픈웨이트 모델 출시 준비를 보도했습니다. 아직 공개 전인 모델의 성능을 확정할 단계는 아닙니다. Axios 보도

AXC가 이 흐름에서 보는 기회는 고객 요구에 따라 실행 환경을 선택하는 것입니다. 오픈웨이트는 모델의 가중치를 이용할 수 있다는 뜻이며, 모든 코드·학습 데이터의 공개나 무제한 상업 이용을 자동으로 의미하지 않습니다. 실제 채택 단계에서는 해당 모델의 라이선스와 배포 조건을 따로 확인해야 합니다.

AXC 제작 개념도. Cloud·Private는 검토 가능한 구성 방식이며, 특정 상품의 확정 사양이나 외부 전송이 없다는 보증을 뜻하지 않습니다.

Cloud Agent를 검토할 때

외부 모델 API를 활용하면 초기 인프라 준비를 줄이고 업무 검증을 빠르게 시작할 수 있습니다. 다만 실제 데이터 처리 조건은 제품·계약·설정마다 다릅니다. 입력·출력의 보관 여부, 처리 위치, 재사용 조건을 확인한 뒤 전송 가능한 데이터를 정해야 합니다.

Private Agent를 검토할 때

고객 서버나 전용 클라우드에서 모델을 운영하면 데이터와 실행 환경을 직접 통제할 여지가 커집니다. 대신 모델 업데이트, 서버 용량, 접근통제, 장애 대응, 복구까지 운영 책임이 늘어납니다. 전용 클라우드가 곧 사내 설치나 인터넷 완전 차단을 의미하는 것도 아닙니다.

특히 ‘회사 자료가 외부 AI 업체로 나가면 안 된다’는 요구는 모델 하나의 위치로 해결되지 않습니다. 문서 인식, 임베딩 생성, 검색, 로그 수집, 오류 분석이 각각 외부 서비스를 쓰는지도 확인해야 합니다. 모델은 내부에 있어도 주변 도구가 원문을 외부로 보내면 고객이 기대한 Private 구조가 아닐 수 있습니다.

Hybrid라면 전송 규칙부터 정합니다

공개 정보 요약은 외부 API로, 민감한 계약서 분석은 내부 모델로 처리하는 식으로 나눌 수 있습니다. 이때 먼저 통과해야 할 기준은 데이터 전송 허용 여부입니다. 그다음 각 경계 안에서 품질·지연·비용에 맞는 모델을 선택합니다. 내부 모델이 실패했다고 민감한 원문을 자동으로 외부 모델에 넘기면 설계한 경계가 무너집니다.

오픈 모델과 회사 자료를 잘 결합하는 전략은 검토할 가치가 있습니다. 다만 회사 자료가 많다고 자동으로 정확해지지는 않습니다. 최신 문서를 찾는 검색 품질, 문서별 열람 권한, 근거를 붙이는 방식, 답할 수 없을 때 멈추는 기준이 함께 필요합니다. 실제 업무 표본으로 비교해야 모델 선택의 의미가 생깁니다.

AXC가 권하는 비용 단위는 토큰 단가 하나가 아니라 사람의 검토를 포함해 업무를 한 건 끝내는 데 드는 비용입니다. 다음 식은 견적을 비교하기 위한 설계 예시입니다.

완료 건당 비용 = (모델·인프라 비용 + 검색·도구 비용 + 검수 인건비 + 운영·재처리 비용) ÷ 검수를 통과한 완료 건수

저렴한 모델로 초안을 만들더라도 수정과 재실행이 많으면 전체 비용이 올라갑니다. 반대로 처음부터 모든 작업에 가장 비싼 모델을 쓰면 규칙 기반으로 처리할 수 있는 업무에도 불필요한 비용이 생깁니다.

실제 업무로 비교할 네 가지 지표

자체 호스팅의 경제성은 처리량과 가동률에 민감합니다. 요청이 드문 시스템이라면 서버를 유지하는 비용이 부담이 될 수 있고, 일정한 물량을 안정적으로 처리한다면 다른 결과가 나올 수 있습니다. 라이선스, 운영 인력, 보안 업데이트까지 비교 범위에 넣습니다.

이번 글에서는 같은 조건의 과거 가격표를 확보하지 못했으므로 ‘최근 48시간 주요 API 가격 변화 없음’을 검증된 결론으로 제시하지 않습니다. 견적은 작성 시점의 가격과 예상 사용량을 적고, 구축비·운영비·외부 서비스 실비를 구분하며, 사용량 한도와 단가 변경 시 재산정 조건을 명시하는 방식이 명확합니다.

Tata Steel은 2026년 4월 22일 공식 발표에서 9개월 동안 300개 이상의 전문 AI 에이전트를 배포했다고 밝혔습니다. 회사는 내부 HR의 반복 문의 70% 이상을 자율적으로 처리하고, 고객 불만 분석·분류를 통해 평균 처리시간을 50% 줄였다고 설명했습니다. 이는 회사가 발표한 성과로, 독립 검증된 수치나 다른 조직에 그대로 적용할 수 있는 예상치가 아닙니다. Tata Steel 공식 발표, 동일 보도자료 재게시

이 사례를 10월 5일에 처음 공개된 도입 성과로 소개하면 시점이 왜곡됩니다. 이번 시장을 이해하는 배경 사례로 보는 것이 맞습니다. AXC가 여기서 가져오는 설계 관점은 큰 숫자보다 업무별 역할 분리와 공통 관리입니다.

작은 팀이라면 세 가지 역할만으로도 시작할 수 있습니다. 문의 에이전트는 질문을 분류하고 자료를 찾습니다. 견적 에이전트는 단가와 조건을 읽어 초안을 만듭니다. 보고 에이전트는 승인된 결과를 집계합니다. 누구에게나 모든 데이터와 모든 도구를 줄 필요가 없습니다.

다만 에이전트를 나누는 것만으로 안전해지지는 않습니다. 전부 같은 관리자 키를 사용하거나, 다른 에이전트의 요청을 검증 없이 받아들이면 권한은 여전히 연결됩니다. 역할을 나눈 만큼 호출 규칙, 고객별 데이터 격리, 공통 실행 ID를 함께 설계해야 합니다. 간단한 업무는 하나의 제한된 워크플로만으로도 충분합니다. 에이전트 수를 늘리는 일을 목표로 삼을 이유는 없습니다.

새 자동화를 추가하기 전에 현재 자동화를 설명할 수 있어야 합니다. AXC가 제안하는 Agent Registry는 운영 중인 에이전트의 책임자, 권한, 비용, 상태를 연결하는 관리대장입니다. 초기에는 공유 문서나 기존 관리 도구로 시작해도 됩니다. 여러 고객과 실행 환경으로 확장할 때 등록·변경·중단을 공통 시스템에 연결합니다.

여기서 중요한 차이는 대장에 적힌 권한과 실제 시스템의 권한이 일치하는가입니다. 대장에는 읽기 전용이라고 적혀 있어도 연결된 서비스 계정이 수정 권한을 갖고 있다면 통제는 작동하지 않습니다. 배포 시 실제 권한을 확인하고, 변경과 만료를 관리대장에 반영하는 절차가 필요합니다.

운영 화면에는 계정 비밀번호나 API 키 원문을 모아두지 않습니다. 비밀값은 별도 보관소에 두고, 대장은 참조와 상태만 보여줘야 합니다. 고객별 화면과 로그 접근도 분리합니다.

한 달 뒤 성과를 평가할 때도 ‘만든 에이전트 수’ 대신 소유자 미지정 수, 만료된 권한의 잔존 수, 중단 시험 결과, 검수 후 완료율을 볼 수 있습니다. 운영대장이 실제 통제와 연결될수록 새 자동화를 추가하는 과정도 일관되게 만들 수 있습니다.

다음은 한 가지 업무를 대상으로 시작하는 예시 일정입니다. 기존 시스템의 연동 방식과 보안 검토 범위에 따라 기간은 달라질 수 있습니다.

1주 차 — 현재 연결부터 파악합니다. 사용 중인 AI·자동화·서비스 계정을 목록으로 만들고 각 소유자를 확인합니다. 데이터 조회와 수정·발송 권한을 구분합니다. 운영 중인 업무의 의존성을 확인한 뒤 불필요한 접근을 줄입니다.

2주 차 — 한 업무의 경계를 만듭니다. 견적 초안이나 내부 문의처럼 범위가 분명한 업무를 고릅니다. 어떤 자료를 읽고 어떤 결과를 만들며, 어느 지점에서 사람에게 넘길지 합의합니다. ID·로그·승인·중단 경로를 함께 연결합니다.

3주 차 — 정상 동작과 멈추는 동작을 확인합니다. 자료가 없을 때, 도구가 실패할 때, 다른 고객 자료를 요청할 때, 승인 후 수신자가 바뀔 때를 확인합니다. 중지 후 재시도나 대기열에서 작업이 다시 살아나지 않는지도 시험합니다. 실제 고객 데이터 대신 통제된 시험 자료를 사용합니다.

4주 차 — 비용과 책임을 점검합니다. 처리량, 검수 시간, 재처리, 총비용을 기록합니다. 담당자의 인수인계와 복구 절차를 확인한 뒤 확대 여부를 결정합니다. Private AI가 필요하다면 같은 업무 표본과 품질 기준으로 비교합니다.

도입 검토 회의에서 바로 물을 다섯 가지

1. 이 에이전트가 꼭 해야 하는 행동과 절대 하면 안 되는 행동은 무엇인가요?
2. 고객 자료는 모델뿐 아니라 검색·로그·오류 분석 과정에서 어디로 이동하나요?
3. 승인자는 실제 수신자·금액·변경 내용을 보고 승인하나요?
4. 지금 중지했을 때 이미 실행한 작업과 아직 대기 중인 작업을 구분할 수 있나요?
5. 에이전트 한 개가 늘어날 때 책임자·권한·비용 관리도 같은 방식으로 따라오나요?

AXC는 업무자동화의 다음 경쟁력이 이런 질문에 구체적으로 답하는 데 있다고 봅니다. 모델을 교체해도 유지되는 권한 구조, 도구가 늘어도 따라갈 수 있는 실행 기록, 문제가 생기면 사람이 개입할 수 있는 절차가 장기적인 운영 자산이 됩니다.

첫 프로젝트를 준비한다면 작은 AI 프로젝트의 범위 정하기와 사람의 검수 기준 만들기를 함께 읽어보세요.

시장 변화: 2026년 10월 3~5일 공개 보도를 우선 확인했습니다. 아래 기존 조사와 기업 사례는 새 발표와 구분했습니다. 정책 전망, 제품 구성, 운영대장과 30일 일정은 AXC의 분석·제안이며 특정 성과를 보장하지 않습니다.

1. 연합뉴스 — 한국 금융기관 개인정보 유출 조사 지시, 2026.10.04.
2. Reuters / StreetInsider — 국내 금융권 보안 점검과 대응, 2026.10.04.
3. Reuters / MarketScreener — Clayton 지명과 SIF 구성, 2026.10.04.
4. SailPoint — Discover, govern, protect, 2026.08.04. 공급업체 자체 조사.
5. SailPoint Navigate 공식 일정, 행사 기간 2026.10.05~08, 미국 현지시간.
6. Axios — Reflection 오픈웨이트 모델 출시 준비, 2026.10.04. 출시 전 보도.
7. Tata Steel — Google Cloud와의 에이전트 운영 확대, 2026.04.22. 회사 자체 발표.
8. OWASP — Excessive Agency, AI Agent Security Cheat Sheet, Agent·MCP 보안 개발 가이드. 설계 원칙 참고.

이미지: 표지는 AXC가 AI로 생성한 콘셉트 일러스트이며 실제 제품 화면이나 사건 현장 사진이 아닙니다. 본문 도해 2종은 이 글의 설명을 위해 AXC가 직접 제작했습니다.