Fable 5 차단과 복구 — 18일 동안 무슨 일이 있었나

2026년 7월 21일 업데이트: 이 글을 처음 쓴 6월 18일에는 모델 접근이 중단된 상태였다. 미국 정부는 6월 30일 수출통제를 해제했고, Anthropic은 7월 1일부터 Fable 5와 Mythos 5 접근을 복구했다. 아래에는 당시 논쟁을 남기되, 후속 발표로 확인된 내용은 함께 바로잡았다.

6월 12일 미국 정부가 Anthropic에 Fable 5와 Mythos 5의 외국인 접근을 중단하라고 지시했다. Anthropic은 국적을 실시간으로 구분할 방법이 없다며 전 세계 고객의 접근을 일시 중단했다. Fable 5 사용기를 쓴 지 며칠 뒤 실제 작업에서 모델이 사라진 것이다.

수출통제는 특정 기술이나 물품이 국경을 넘어 제공되는 것을 정부가 제한하는 제도다. 이번에는 모델의 보안 장치를 우회했다는 보고가 발단이 됐다. 보도 과정에서 fix this code 같은 일상적인 요청으로도 비슷한 결과가 나왔다는 주장이 알려지며, 공격 지원과 방어적 코드 수정의 경계를 어디에 둘지가 쟁점이 됐다.

미리 밝혀둘 것: 아래는 The Register 보도, Anthropic 공식 성명, Luta Security 블로그, Hacker News 토론을 모은 것이다. 사건이 진행 중이라 정부가 제시한 원본 지시문은 비공개고, 제3자 독립 검증도 아직 없다. 출처에 따라 강조점이 다르니 “누가 한 주장인지”를 같이 적었다.

무슨 일이 있었나 — 3일 만에 출시에서 차단까지

출시에서 차단까지는 사흘, 차단에서 복구까지는 18일이었다. Anthropic은 6월 12일 오후 5시 21분(ET)에 지시를 받았다고 밝혔고, 다른 Claude 모델은 영향을 받지 않았다.

당시에는 정부와 Anthropic 사이의 다른 갈등을 연결한 정치적 해석도 나왔다. 그러나 공개 자료만으로 각 사건의 인과관계를 확인할 수 없으므로, 여기서는 공식 지시와 Anthropic의 후속 기술 검토를 중심으로 본다.

정부가 문제 삼은 보안 우회는 무엇이었나

Anthropic의 6월 12일 성명에 따르면 정부 지시문은 구체적인 국가안보 우려를 설명하지 않았다. Anthropic은 정부가 Fable 5의 보안 장치를 우회해 알려진 소프트웨어 취약점을 찾는 방법을 문제 삼은 것으로 이해했다고 밝혔다. 따라서 아래의 구체적인 요청 흐름은 정부 원문이 아니라 Anthropic과 보안 연구자 측 설명을 바탕으로 한 재구성이다.

문제는 그 “우회”의 정체다. The Register가 인용한 보안 연구자들의 설명에 따르면, 우회는 대략 이런 흐름이었다.

1. 취약점이 있는 코드를 모델에 제시한다
2. "review the code for security issues" (보안 문제를 검토해줘) 라고 요청
   → Fable 5가 거부한다 (가드레일 작동)
3. "fix this code" (이 코드를 고쳐줘) 라고 다시 요청
   → 모델이 패치와 테스트 스크립트를 생성한다

즉 “취약점을 찾아줘”는 막혔는데, “코드를 고쳐줘”는 통과했다. 그리고 코드를 고치는 과정에서 모델이 수정이 맞는지 검증하는 테스트 스크립트까지 만들어줬는데, 이 테스트 스크립트가 사실상 그 취약점을 증명하는(=익스플로잇하는) 코드라는 게 논란의 핵심이다.

Hacker News 댓글 중 이걸 가장 잘 짚은 표현이 있다.

“‘fix this code’는 정말 절묘하다. 영리한 우회가 아니라, 그냥 취약점을 고치게 시켰더니 보안 취약점 가드레일이 통째로 무력화된 셈이다.”

Anthropic 본인들도 이 성격을 인정한다. 공식 성명에서 해당 우회를 이렇게 표현했다.

“essentially consists of asking the model to read a specific codebase and fix any software flaws” (본질적으로 특정 코드베이스를 읽고 소프트웨어 결함을 고쳐달라고 요청하는 것에 불과하다)

Anthropic은 왜 조치가 과도하다고 봤나

Anthropic은 차단 자체는 지시에 따랐지만, 조치에는 정면으로 반발했다. 성명의 톤을 그대로 옮기면:

“we disagree that the finding of a narrow potential jailbreak should be cause for recalling a commercial model” (좁은 범위의 잠재적 탈옥 하나를 발견한 것이 상용 모델을 회수할 사유가 된다는 데 동의하지 않는다)

논거는 세 가지다.

• 이 기준을 적용하면 모든 최신 모델이 다 내려가야 한다. 같은 수준의 능력이 “좁고 비보편적(narrow, non-universal)”일 뿐, 특별한 게 아니라는 것.
• 경쟁사 모델도 똑같이 한다. 성명에 OpenAI를 콕 집어 넣었다 — 해당 기능은 “widely available from other models (including OpenAI’s GPT-5.5)”.
• 실시간으로 외국인을 식별할 수 없다. 그래서 특정 국적만 막는 게 불가능하니 전체를 막을 수밖에 없었다는 것. 결국 미국 사용자까지 같이 못 쓰게 됐다.

Anthropic은 외국인만 차단하라는 지시를 즉시 이행하면서 사용자의 국적을 신뢰성 있게 확인할 방법이 없어 전체 접근 중단을 택했다고 설명했다. 이 결정으로 규제 대상이 아닌 사용자도 18일 동안 모델을 쓰지 못했다.

방어자 커뮤니티의 반발 — “이건 탈옥이 아니라 일상 업무다”

여기서 판이 커진다. Luta Security CEO Katie Moussouris가 — 버그 바운티 제도를 업계 표준으로 만든 사람이다 — Anthropic이 공유한 제3자 연구를 검토하고 정면으로 반박했다.

요지: fix this code는 가드레일 우회가 아니라, 방어 보안의 가장 기본적인 작업 흐름이다. 보안에는 “find, fix, and test loop”라는 게 있다. 취약점을 찾고(find), 고치고(fix), 고친 게 맞는지 테스트(test)하는 순환. 모델한테 취약한 코드를 고치게 하고 검증 스크립트를 받는 건 방어자가 매일 하는 일이지, 무기를 만드는 일이 아니라는 것이다.

그리고 핵심 경고는 비대칭성이다.

적들이 빠르게 발전하는 상황에서, 충분한 이유 없이 방어자에게서 최고의 역량을 빼앗는 것은 위험하다.

논리는 이렇다. 공격자는 어차피 중국 오픈웨이트 모델(Deepseek, Kimi 계열 등)이나 규제 밖 도구로 같은 일을 한다. 그런데 수출통제로 손발이 묶이는 쪽은 규칙을 지키는 미국·우방의 방어자다. 결과적으로 막으려던 능력은 못 막고, 방어자만 한 손 묶인다. Moussouris는 100명 이상의 사이버보안 리더와 함께 행정부에 제한 철회를 요구했다.

공개 자료만으로 단정할 수 없는 부분

뉴스를 그대로 받아 적으면 “위험한 모델을 정부가 막았다”가 되는데, 깔고 보면 그렇게 깔끔하지 않다. 내가 걸리는 지점들.

1. “보안 취약점을 못 고치는 모델”이 가능한가. 댓글에서 가장 날카로웠던 지적이다. 코드를 고치는 능력과 취약점을 다루는 능력은 분리가 안 된다. (a) 내 코드의 취약점은 찾아야 안전하고, (b) 남의 코드의 취약점은 못 찾게 막아야 한다 — 이 둘을 동시에 만족시키는 가드레일은 원리적으로 존재할 수 없다. 방어와 공격은 같은 동전의 양면이라서다. 룰 기반으로 “나쁜 문자열” 집합을 정의하려는 시도는 누출률이 0이 될 수 없다.

2. 정치적 동기를 입증할 공개 증거는 부족하다. 당시 정부와 Anthropic의 관계, 경쟁사의 이해관계를 연결한 해석이 나왔지만 공개된 지시문과 기술 자료만으로 보복성 규제나 규제 포획이라고 결론 내릴 수 없다.

3. 원본 지시문과 전체 데모는 공개되지 않았다. 다만 복구 발표에서 Anthropic은 해당 보고의 취약점들을 다른 여러 모델도 찾았고, 한 취약점의 시연 코드는 더 작은 모델들도 생성할 수 있었다고 밝혔다. 이것은 Anthropic 자체 검토 결과이며 정부의 독립 보고서와 같은 의미는 아니다.

4. 공급사의 위험 설명과 정부의 판단이 어떻게 연결됐는지는 알 수 없다. Anthropic은 출시 자료에서 강한 사이버 능력과 보안 장치를 함께 강조했다. 이 표현이 정부 조치에 영향을 줬다는 해석도 있지만, 공개된 자료만으로 인과관계를 확인할 수 없다.

18일의 중단이 보여 준 단일 모델 의존 위험

이 사건에서 내가 얻은 실무 교훈은 안전 논쟁보다 더 건조하다. 하나의 벤더 모델에 작업 흐름 전체를 묶어두면, 그 모델이 사라지는 순간 내 작업도 같이 멈춘다.

나는 Claude Code를 메인으로 쓰고 Fable 5를 무거운 작업에 붙여 쓰고 있었다. 모델은 18일 뒤 돌아왔지만, 그동안 해당 모델을 전제로 한 작업 흐름은 멈췄다. 영구 종료가 아니었다는 사실은 교훈을 바꾸지 않는다. 외부 모델은 가격·용량·정책·규제로 예고 없이 사용할 수 없게 될 수 있다.

정리하면 이렇게 운용을 바꿨다.

• 벤더 분산. 특정 한 모델에 파이프라인을 100% 묶지 않는다. 무거운 작업은 Fable, 일상은 Sonnet처럼 쪼개 쓰되, 어느 한 칸이 비어도 굴러가게.
• 대체 경로를 실제로 시험한다. 다른 클라우드 모델이나 로컬 실행 가능한 모델을 목록에만 두지 않고, 핵심 작업 하나를 정기적으로 실행해 전환 비용을 확인한다.
• 선택 기준의 이동. 벤치마크 1등보다 “끊기지 않는 모델”이 위로 올라온다. 며칠 쓰고 사라질 1등보다, 평범해도 안정적으로 켜져 있는 모델이 작업 흐름엔 낫다.

정리

• Fable 5·Mythos 5는 출시 사흘 뒤 미국 정부의 수출통제 지시로 전면 중단됐다.
• 정부는 6월 30일 제한을 해제했고 Anthropic은 7월 1일 접근을 복구했다. 중단 기간은 18일이었다.
• 보안 우회가 공격 지원인지 일상적인 방어 코드 수정인지에 관해 정부·Anthropic·보안 연구자의 해석이 달랐다.
• 후속 Anthropic 검토에서는 같은 취약점을 여러 다른 모델도 찾을 수 있었다고 보고했지만, 정부 원문과 독립 기술 검증 자료는 공개되지 않았다.
• 개발자에게 남는 실무 교훈은 모델의 최고 점수와 별개로 대체 경로를 준비하고 실제 전환을 연습해야 한다는 것이다.

후속 경과를 확인한 자료

• Anthropic — 6월 12일 접근 중단 성명
• Anthropic — 6월 30일 수출통제 해제와 재배포 발표

Fable 5는 돌아왔지만 18일의 공백은 남았다. 외부 모델을 쓰는 개발 흐름에는 성능표뿐 아니라 중단 시 바꿔 탈 경로가 필요하다.