[🔬 반도체로 보는 AI #8] 📱 내 폰·노트북 속 AI — 온디바이스 AI와 NPU

지금까지는 거대한 데이터센터 칩 이야기였죠? 이번엔 바로 '내 손안의 AI 칩'이에요. 📱

요즘 폰·노트북에는 NPU라는 작은 칩이 들어 있어요. 🧠 NPU(Neural Processing Unit)는 AI 계산만 전담하는 부품이에요. 이 덕분에 ⚡ 인터넷(클라우드)을 거치지 않고 기기 안에서 바로 AI를 돌릴 수 있는데, 이걸 '온디바이스 AI'라고 해요. 🔒 장점이 많아요. 응답이 빠르고, 배터리를 아끼고, 무엇보다 내 데이터가 기기 밖으로 안 나가서 안전해요!

어디에 들어 있냐고요? 📱 아이폰의 '뉴럴 엔진', 갤럭시 같은 스마트폰에 이미 탑재돼 있어요. 💻 PC에서도 'Copilot+ PC'라는 등급이 생겼는데, NPU 성능이 40 TOPS 이상이어야 해요(TOPS는 AI 연산 속도 단위예요). 🤝 그래서 요즘은 무거운 일은 클라우드, 가벼운 일은 내 기기에서 나눠 처리해요. 두 번째 이미지에 정리했어요. 다음 편(마지막!)은 'AI 칩 경쟁'이에요. 여러분 폰에도 AI 칩이 있다는 거, 아셨나요? 😊

지금까지는 거대한 데이터센터 칩 이야기였죠? 이번엔 바로 '내 손안의 AI 칩'이에요. 📱

AI 코딩 클로드 연구소 | Claude

게시판

공지 6

AI 코딩 클로드 연구소 | Claude

[🔬 반도체로 보는 AI #8] 📱 내 폰·노트북 속 AI — 온디바이스 AI와 NPU

[🔬 반도체로 보는 AI #8] 📱 내 폰·노트북 속 AI — 온디바이스 AI와 NPU