OpenClaw, Claude Code , AI Agent 등을 이용하여 AI 비서 자동화 모임 정보 공유 카페입니다.
서울시 금천구
IT/모바일
미국 정부가 인류의 가장 강력한 인공지능을 제거한 날-Fable 5는 출시 72시간 만에 | 당근 카페
Ritz
1일 전
미국 정부가 인류의 가장 강력한 인공지능을 제거한 날-Fable 5는 출시 72시간 만에
전 세계적으로 서비스가 중단
Fable 5는 출시 72시간 만에 정부의 공문으로 전 세계에서 서비스가 중단되었다. 이번 주말을 기점으로 개발자들이 수년간 져오던 논쟁이 종지부를 찍었다. 진정으로 소유할 수 있는 모델은 손에 쥘 수 있는 모델뿐이라는 사실 말이다.
6월 어느 금요일 저녁 5시 21분, 일반에 공개된 가장 뛰어난 AI 모델이 더 이상 이용 불가능해졌다. 성능이 제한된 것도, 6개월의 여유로운 이전 기간을 두고 단계적으로 중단된 것도 아니었다. 사라졌다. 미국 상무부의 서한은 앤트로픽(Anthropic)에 지구상의 모든 외국인을 대상으로 클로드 페이블 5(Claude Fable 5)의 서비스를 중단하라고 명령했고, 어떤 기업도 모든 사용자의 여권을 실시간으로 확인할 수 없기 때문에 실제로 작동한 스위치는 오직 '모든 사용자'를 대상으로 한 것뿐이었다. 출시 3일 만에, 세계에서 가장 안전한 모델은 기술적으로 서비스를 제공할 수 있었던 미국인을 포함해 전 세계에 대해 서비스를 중단했다.
많은 사람들이 이 일이 정부나 앤트로픽(Anthropic)에 대해 무엇을 시사하는지, 혹은 결함이 있는 에어백처럼 리콜되는 스타트업이라는 기묘한 새로운 현상에 대해 글을 쓸 것입니다. 저는 이 일이 여러분의 기술 스택에 대해 무엇을 시사하는지에 대해 쓰고 싶습니다.
그 주말 개발자 커뮤니티를 강타한 네 단어로 된 문장이 있는데, 이는 지난 10년 동안 거래소와 수탁업체에 속아온 사람들이 직접 빌려온 말입니다. 바로 "가중치는 네 것이 아니며, 모델도 네 것이 아니다(not your weights, not your model)"라는 문구입니다. 암호화폐 신세대들의 말이 맞았습니다. 단지 그들이 너무 일렀을 뿐이고, 잘못된 자산에 대해 이야기하고 있었을 뿐입니다.
이것이 한 줄로 요약된 전체 논지이며, 이 글의 나머지 부분은 제가 이를 옹호하는 내용입니다. API를 통해 빌려 쓰는 모든 것은 누군가가 당신 밑에서 빼앗아 갈 수 있는 토대 위에 놓여 있습니다. 그리고 지난 주말, 그 '누군가'는 더 이상 가상의 악당이 아니라 미국 정부가 되었습니다. 그들은 금요일 밤, 아무런 경고나 항소 기회도 주지 않은 채 행동에 나섰습니다. 만약 당신의 제품이 당신이 소유하지 않은 모델에 의존한다면, 당신은 그 제품을 소유한 것이 아닙니다. 당신은 그것을 빌려 쓰고 있을 뿐이며, 그 임대 계약은 당신에 대해 들어본 적도 없는 사람들이 취소할 수 있습니다.
서비스 중단은 단순한 장애가 아닙니다
무슨 일이 일어났는지 정확히 파악해야 합니다. 정확성이 핵심이기 때문입니다. 이번 사태는 단순히 서비스 제공업체가 한밤중에 문제를 겪은 것이 아닙니다. 이는 적국에 무기 기술을 판매하는 것을 규제하는 것과 동일한 법적 절차인 수출 통제 권한에 따라 내려진 명령이었으며, 미국 내를 포함해 모든 국경을 넘어 적용되었습니다. 아마존은 자사의 베드록(Bedrock) 모델 서비스 전 지역에서 접근 권한을 취소하라는 요청을 받았습니다. 소비자용 앱들은 일률적인 '이용 불가' 알림을 반환하기 시작했습니다. 아침까지 해결될 것이라는 약속을 담은 상태 페이지는 없었습니다. 아침이 언제 올지, 혹은 과연 올지조차 아무도 장담할 수 없었기 때문입니다.
그리고 여러분이 이 모든 상황을 바라보는 관점을 재구성해야 할 세부 사항은 바로 이것입니다. 다른 모든 클로드(Claude) 모델은 정상 가동되었습니다. 오푸스(Opus) 4.8은 눈 깜짝할 사이도 없이 작동했습니다. 파급 효과는 단 하나의 모델, 즉 일부 팀은 코드에 직접 입력했고 다른 팀은 설정 파일 뒤에 숨겨두었던 단 한 줄의 텍스트에 국한되었습니다. 직접 입력했던 팀들은 주말 내내 코드를 다시 작성하느라 바빴습니다. 실제로 통제할 수 있는 대체 수단을 보유한 팀들은 주말 내내 지켜보기만 했습니다.
이것이 바로 연방 정부가 무료로 극적으로 보여준 교훈의 전부다. 특정 모델은 아키텍처에서 가장 취약한 요소이며, 그 모델을 직접 관리할 수 있는 위치에서 멀어질수록 시스템은 더 취약해진다.
모두가 잘못된 질문을 놓고 논쟁하고 있다
왜 이런 일이 일어났는지에 대해 논쟁할 수는 있지만, 나보다 훨씬 더 뛰어난 정책 전문성을 가진 사람들조차 의견이 엇갈린다. 한 진영은 국가 안보 문제라고 주장하며, 마침내 정부의 경고를 진지하게 받아들인 정부가 진정으로 위험한 능력을 제거한 것이라고 말한다. 또 다른 쪽은 '법적 전쟁(lawfare)'이라고 주장한다. 펜타곤 계약을 거부했고 대통령에게 "좌파 미치광이들"이라 불렸던 한 기업이, 같은 능력을 가진 경쟁사들은 건드리지 않은 채 편리한 구실을 빌미로 처벌받았다는 것이다. 세 번째 해석은, 그 시적인 표현 때문에 내가 가장 좋아하는 것인데, 그 회사가 단순히 자사의 마케팅을 믿었을 뿐이라고 말한다. 2년 동안 모든 보도자료에서 자사 제품을 군수품이라고 묘사해 왔다면, 정부가 결국 그 말을 받아들여 군수품처럼 취급하더라도 놀라지 말아야 한다.
개발자에게 있어 이러한 논쟁은 주의를 분산시키는 요소이자, 동시에 위안이 되기도 한다. 어떤 해석을 하든 결론은 항상 똑같다. 안전 문제든, 악의든, 자기 충족적 예언이든, 실제 운영 시스템에 영향을 미친 메커니즘은 동일했다. 즉, 임대해 사용하는 모델은 예측할 수 없는 힘에 의해, 통제할 수 없는 시점에, 결코 반박할 기회조차 얻지 못한 이유로 제거될 수 있다는 것이다. 동기가 달라지면 헤드라인만 바뀔 뿐이다. 사고 보고서의 내용은 변하지 않는다.
