[📰 앤트로픽 블로그 번역] AI가 해킹에 쓰인다고? 1년치 위협 추적 리포트

클로드를 만든 앤트로픽이 조금 묵직한 주제의 리포트를 냈어요. "AI가 사이버 공격(해킹)에 어떻게 악용되는지"를 1년간 추적한 내용인데, 무섭게만 볼 게 아니라 '그래서 AI를 어떻게 더 안전하게 만드느냐'가 진짜 핵심이에요. 입문자 눈높이로 풀어드릴게요.

🔍 무엇을 조사했나요?

앤트로픽은 2025년 3월~2026년 3월 사이 '악의적 사이버 활동'으로 차단된 계정 832개를 분석했어요. 그리고 이걸 'MITRE ATT&CK'(공격자들이 쓰는 수법을 정리해 둔 보안 업계 표준 사전)에 하나하나 대조했죠.

📌 3가지 핵심 발견

1️⃣ AI 때문에 공격자가 더 위험해졌어요. 가장 흔한 악용은 악성코드 작성(832개 중 67%). 특히 시스템에 침투한 '후반부'처럼 어려운 단계에 AI를 점점 더 쓰고 있어요.

2️⃣ 공격이 '자동화'되고 있어요. AI가 여러 단계를 스스로 이어 붙이니, 실력이 낮은 사람도 고급 공격을 해낼 수 있게 됐어요. 실제로 '중간 위험 이상'으로 분류된 공격자 비율이 6개월 만에 33% → 56%로 약 1.7배 늘었어요.

3️⃣ 기존 보안 분류 틀로는 부족해요. "수법을 몇 개나 썼나"로 위험도를 재던 방식이, AI가 사람 대신 어려운 작업을 해주는 시대엔 잘 안 맞아요.

⚠️ 실제 있었던 일

2025년 11월, 앤트로픽은 국가가 배후로 의심되는 해킹 조직이 'Claude Code'를 조작해 거의 사람 손 없이 전 세계 표적을 자동으로 침투하려던 시도를 적발·차단했어요. AI가 명령 실행·취약점 악용·정보 탈취·판단까지 스스로 하고, 사람은 몇몇 순간에만 개입한 형태였죠. 기존 틀로는 '중간 위험'처럼 보였지만, 실제 위험도는 최고치였어요.

🛡️ 그래서 앤트로픽은?

이 분석을 바탕으로 가장 강력한 모델에 '사이버 안전장치'를 넣어 악성코드 제작·대량 정보 유출 같은 활동을 탐지·차단하고 있어요. 또 MITRE와 함께 보안 프레임워크를 AI 시대에 맞게 고치는 논의도 진행 중이고요. 방향은 분명해요 — "지키는 쪽(방어자)의 손에 강력한 도구를 먼저."

💡 입문자 한 줄 정리

AI는 양날의 검이에요. 그래서 '안전하게 만드는 연구'가 똑같이 중요하고, 이게 우리가 클로드를 믿고 쓸 수 있는 이유이기도 해요.

여러분은 평소 AI의 '안전' 문제에 대해 어떤 생각을 갖고 계셨나요? 궁금하거나 걱정됐던 점이 있다면 댓글로 같이 나눠요 🙂

(원문: Anthropic, "What we learned mapping a year's worth of AI-enabled cyber threats", 2026.6.3 · Frontier Red Team)

🔍 무엇을 조사했나요?

📌 3가지 핵심 발견

3️⃣ 기존 보안 분류 틀로는 부족해요. "수법을 몇 개나 썼나"로 위험도를 재던 방식이, AI가 사람 대신 어려운 작업을 해주는 시대엔 잘 안 맞아요.

⚠️ 실제 있었던 일

🛡️ 그래서 앤트로픽은?

💡 입문자 한 줄 정리

AI는 양날의 검이에요. 그래서 '안전하게 만드는 연구'가 똑같이 중요하고, 이게 우리가 클로드를 믿고 쓸 수 있는 이유이기도 해요.

여러분은 평소 AI의 '안전' 문제에 대해 어떤 생각을 갖고 계셨나요? 궁금하거나 걱정됐던 점이 있다면 댓글로 같이 나눠요 🙂

(원문: Anthropic, "What we learned mapping a year's worth of AI-enabled cyber threats", 2026.6.3 · Frontier Red Team)

AI 코딩 클로드 연구소 | Claude

게시판

공지 6

AI 코딩 클로드 연구소 | Claude

[📰 앤트로픽 블로그 번역] AI가 해킹에 쓰인다고? 1년치 위협 추적 리포트

[📰 앤트로픽 블로그 번역] AI가 해킹에 쓰인다고? 1년치 위협 추적 리포트