글로벌AI

임계점 넘은 AI, 신뢰가 답이다

오픈AI 아스트라의 임계 보안 돌파부터 앤트로픽 EFS·Okta Agent SSO까지: 2026 자율 AI 거버넌스의 분수령

1. 지능이 임계점을 넘다 — 오픈AI 아스트라, 사상 최초 'Critical' 판정

2026년 9월 첫째 주, 오픈AI가 발표한 '아스트라(Astra)' 보안 평가 보고서가 AI 연구계와 보안 업계를 뒤흔들었다. 오픈AI의 내부 위험 관리 기준인 준비도 프레임워크(Preparedness Framework)에서 아스트라가 사이버 보안 자율 공격·취약점 악용 부문 사상 최초로 최고 위험 등급인 '임계(Critical)' 판정을 받았기 때문이다. 인간 연구자의 지시나 정교한 개입 없이도 대상 시스템의 제로데이 취약점을 스스로 찾아내고, 복합적인 침투 경로를 다단계로 이어갈 수 있는 공격 지능을 갖췄다는 뜻이다.

오픈AI는 모델을 제한 없이 풀어놓는 대신, 국가 핵심 인프라 방어 기관과 보안 운영센터(SOC)의 탐지 역량을 끌어올리는 데 10억 달러를 투입하는 '데이브레이크(Daybreak)' 프로그램을 서둘러 가동했다. 기술의 발전 속도가 안전장치를 설계하는 속도를 앞질러버린 지금, 공격형 AI의 상용화는 더 이상 소프트웨어 릴리스 문제가 아니라 국가 안보와 엔터프라이즈 인프라를 지키는 문제가 됐다.

2. 기업 내부의 시한폭탄 — Okta가 짚은 '익명 에이전트' 문제

모델의 공격 능력은 이렇게 치솟는데, 정작 기업 현장의 방어 체계는 허술하기 짝이 없다. 신원 보안 기업 옥타(Okta)가 내놓은 2026 에이전틱 엔터프라이즈 보안 보고서를 보면, AI 에이전트에게 사람 직원과 동등한 수준의 보안 통제를 적용하는 기업은 34%에 불과하다. 대부분의 기업은 단일 API 키나 고정된 OAuth 권한으로 에이전트를 핵심 데이터베이스와 결제 시스템에 그대로 연결해두고 있고, 그 결과 로그만 봐서는 누가 실행했는지조차 알 수 없는 '익명 트래픽의 바다'가 만들어지고 있다.

문제는 여기서 끝나지 않는다. IT 부서가 공식적으로 도입한 에이전트 말고도, SaaS 안에 숨어 있는 서드파티 에이전트와 현업 직원이 개인적으로 들여온 섀도우 에이전트까지 뒤섞이면서 권한 탈취의 새로운 통로가 되고 있다. 에이전트의 업무 확장이 생산성 혁신처럼 보이지만, 그 이면에서는 신원 거버넌스가 조용히 무너지고 있는 셈이다.

3. 기능 경쟁에서 '수탁 권한'으로 — 앤트로픽 EFS의 제로 리텐션

이 거버넌스 위기 속에서 앤트로픽이 내놓은 엔터프라이즈 프론티어 가드레일(EFS)과 클로드 파블 5.1(Claude Fable 5.1)은 시장의 무게중심을 바꾸고 있다. 금융, 의료, 국방처럼 규제가 엄격한 산업에서 자율 코딩·운영 에이전트 도입을 막아온 건 모델의 성능이 아니라, 사내 민감 코드와 고객 데이터가 외부 클라우드에 남을 수 있다는 법적·보안적 리스크였다.

앤트로픽은 고객이 직접 통제하는 인프라 위에서 모델을 구동하고, 공급자 서버에는 어떤 데이터도 남기지 않는 '제로 리텐션(Zero Data Retention)' 구조를 제시했다. AI 비즈니스의 승부처가 벤치마크 점수 경쟁에서 데이터 수탁 권한(Custody)의 보장으로 옮겨갔다는 걸 보여주는 대목이다. EFS 환경에서는 사이버 보안 업무의 오탐률이 기존보다 60% 이상 줄었고, 프롬프트 인젝션 방어율도 최고 수준을 유지하면서 실무 현장에서 부딪히는 마찰을 크게 낮췄다.

4. 에이전트 SSO의 등장 — 1급 디지털 신원과 동적 최소 권한

익명 API로 방치되던 통제권을 되찾기 위해 업계가 내놓은 해법이 '에이전트 싱글 사인온(Agent SSO)'을 축으로 한 1급 디지털 신원 체계다. 사람 직원에게 사원 번호와 역할 기반 접근 제어(RBAC)를 부여하듯, AI 에이전트에게도 명확한 신원 식별자를 발급하고 모든 행동에 책임을 물을 수 있게 하자는 원칙이다.

정적 API 키를 영구히 뿌려두던 방식에서 벗어나, 에이전트가 작업할 때마다 목적에 맞는 단기 토큰을 그때그때 발급하고 작업이 끝나면 바로 파기하는 최소 권한 원칙이 표준으로 자리 잡고 있다. 에이전트 간 거래를 실시간으로 감시하는 상위 거버넌스 계층은 비정상적인 권한 상승이나 대량 데이터 반출 시도가 보이면 즉시 연결을 끊어, 기계 속도로 움직이는 에이전트를 안전한 범위 안에 묶어둔다.

5. 자율성보다 앞서는 신뢰의 가드레일

2026년 하반기 기업 AI 전략의 성패는 에이전트가 얼마나 화려한 결과물을 내느냐가 아니라, 그 행동과 데이터 흐름을 전사적 통제선 안에서 얼마나 투명하게 증명해내느냐에 달려 있다. 오픈AI 아스트라가 보여준 임계 수준의 파괴력과 옥타의 경고는, 보이지 않는 신원 통제망 없이는 어떤 자율 지능도 비즈니스 자산이 될 수 없다는 사실을 역설적으로 보여준다.

이런 맥락에서 브라우저 안의 하드웨어 자원만으로 동작하는 독해닷컴(dokhe.com)의 WebGPU 기반 온디바이스 AI 구조는, 엔터프라이즈 데이터 주권과 보안이 나아갈 방향을 보여주는 실질적인 사례다. 막연한 기술 낙관에 기대지 않고 제로 리텐션 프라이버시와 실시간 신원 거버넌스라는 단단한 토대 위에 에이전트를 세우는 기업만이, 기계 지능 시대에도 지속 가능성을 지킬 수 있을 것이다.