"AI 돌리려면 GPU가 필요하다"는 말, 많이 들어보셨죠? 그런데 왜 하필 GPU일까요? 입문자 눈높이로 쉽게 풀어볼게요.
먼저 CPU와 GPU의 차이예요.
• CPU = 아주 똑똑한 일꾼 몇 명이 복잡한 일을 순서대로 처리해요.
• GPU = 단순한 계산기 수천 개가 한꺼번에 일해요.
그런데 클로드 같은 AI의 계산은 사실 '곱셈과 덧셈의 어마어마한 반복'이에요. 하나하나는 복잡하지 않지만 양이 엄청나게 많은 거죠. 그래서 수천 개를 동시에 처리하는 GPU가 딱 맞아요. 똑똑한 한 명보다, 단순 계산을 한꺼번에 하는 수천 명이 이럴 땐 훨씬 빠르거든요.
즉 클로드가 답 한 줄을 내놓는 그 순간에도, 뒤에서는 수많은 GPU가 동시에 돌아가고 있는 거예요.
여러분은 AI 하드웨어 중에 더 궁금한 주제가 있나요? (예: 메모리, NPU, 추론 전용 칩 등)
