요즘 AI로 수익화 내는게 큰 관심사입니다. 저도 조금씩 공부 하면서 미래를 상상하곤 합니다. 함께 정보 나누고 즐거운 AI 활용합시다.
성별 나이 직업은 상관없이 매너 참여 해주시면 환영합니다. 단, 홍보글이나 정치,종교 관련글은 금지합니다.
경기도 화성시 동탄구
교육/자기계발
게시판
미국 정부, Fable 5 및 Mythos 5 접속 중단 지시 | 당근 카페
따남
인증 30회 · 1일 전
미국 정부, Fable 5 및 Mythos 5 접속 중단 지시
미국 정부는 국가 안보를 이유로 수출 통제 지침을 발표하여 미국 내외를 막론하고 모든 외국인(Anthropic의 외국인 직원 포함)의 Fable 5 및 Mythos 5 접근을 전면 중단하도록 했습니다. 이 지침에 따라 당사는 규정 준수를 위해 모든 고객에게 Fable 5 및 Mythos 5 서비스를 일시적으로 중단해야 합니다. 다른 Anthropic 제품에 대한 접근은 영향을 받지 않습니다.
저희는 오늘 오후 5시 21분(미국 동부시간)에 정부로부터 지시를 받았습니다. 해당 서한에는 국가 안보에 대한 구체적인 우려 사항은 명시되어 있지 않았습니다. 저희가 파악한 바로는 정부는 Fable 5를 우회하거나 "탈옥"하는 방법을 알게 된 것 같습니다. 저희는 이 특정 기법을 사용하여 이전에 알려진 몇 가지 사소한 취약점을 발견한 사례를 검토했습니다. 이러한 취약점들은 모두 비교적 간단해 보이며, 공개적으로 사용 가능한 다른 모델들도 우회 없이 이러한 취약점들을 발견할 수 있다는 것을 확인했습니다.
앤스로픽은 출시 블로그 게시물 에 명시된 바와 같이, 페이블의 안전장치와 관련하여 다음과 같은 입장을 취하고 있습니다.
저희는 Fable이 사이버 보안 관련 작업(및 기타 용도)에 악용될 가능성을 크게 줄이는 강력한 안전장치를 마련했습니다. 실제로 저희의 안전장치는 너무 강력해서 많은 사용자들이 지나치게 광범위하다고 불평하기도 합니다.
Fable 출시를 앞둔 몇 주 동안 Anthropic은 미국 정부, 영국 AISI, 여러 민간 외부 기관 및 내부 팀과 협력하여 Fable의 안전 장치를 수천 시간에 걸쳐 철저하게 검증했습니다.
이러한 테스트 결과는 Fable의 안전장치가 이전에 배포된 어떤 모델보다 훨씬 더 효과적이라는 것을 보여주었습니다.
아직까지 어떤 테스터 도 광범위한 사이버 기능을 차단 해제하고 모델의 보안 조치를 완전히 우회할 수 있는 범용 탈옥 방법을 찾아 내지 못했습니다 .
현재로서는 어떤 플랫폼 제공업체도 완벽한 탈옥 방지를 구현하는 것은 불가능하다고 생각합니다. 업계에서 사용되는 모든 보안 조치는 보편적이지 않은 탈옥 (특정 상황에서 일부 사이버 정보를 탈취할 수 있음 )에 취약하며, 미래에는 보편적인 탈옥 방법이 발견될 가능성이 높습니다. 저희는 Fable 5를 출시할 당시 이 점을 분명히 밝혔습니다 .
현재 완벽한 탈옥 방어가 불가능하다는 점을 고려하여, Anthropic은 Fable 5에서 심층 방어 전략을 채택했습니다. 탈옥 시도를 특정 기기에만 국한시키거나(비범용 탈옥의 경우) 탈옥에 필요한 비용을 매우 높게 책정하는 것을 목표로 삼았으며, 이를 통해 철저한 모니터링을 실시하여 성공적인 공격을 신속하게 탐지하고 차단했습니다. Anthropic이 Fable에서 고객 데이터를 30일 동안 보존하도록 한 것도 이러한 이유 때문입니다. 이는 고객에게 실질적인 불이익을 주는 정책 변경 이지만, 탈옥 시도를 연구하고 완화하기 위한 시간적 여유를 제공합니다.
우리는 이러한 심층 방어 전략을 고수합니다. 이 전략은 Fable이 제기하는 위험을 줄여 업계 전반에 이미 배포된 기존 모델의 위험 수준과 유사하게 만듭니다.
우리는 심각한 결과를 초래한, 우려스러운 비보편적 잠재적 탈옥 사례에 대한 제보조차 받지 못했습니다. 제보된 잠재적 탈옥 사례들은 모두 무해한 반응이거나, 신화와 관련된 특별한 이점을 제공하지 않는 사소한 발견 사항들입니다.
