Chapter 7. Tool Use 설계

왜 Tool이 중요한가

AI Agent가 단순한 챗봇을 넘어 실제 업무를 수행하기 위해서는 외부 세계와 연결되어야 한다. 아무리 뛰어난 LLM이라도 학습된 지식만으로는 현실의 업무를 처리할 수 없다.

예를 들어 사용자가 다음과 같이 요청했다고 가정해보자.

고객 목록을 정리해줘

이메일을 보내줘

오늘 매출을 확인해줘

회의 내용을 노션에 기록해줘

슬랙에 팀원들에게 공유해줘

LLM은 이러한 작업을 이해할 수는 있지만 직접 수행할 수는 없다.

실제 업무를 수행하기 위해서는 다양한 외부 도구(Tool)와 연결되어야 한다.

따라서 현대 AI Agent의 핵심 공식은 다음과 같이 표현할 수 있다.

Agent = Brain + Memory + Tool + Planning + Action

여기서 Tool은 Agent의 손과 발 역할을 수행한다.

Tool은 Agent가 외부 시스템과 상호작용하는 인터페이스이다.

Tool이 없는 Agent

사용자 질문 ↓ LLM 답변

단순 질의응답만 가능

Tool이 있는 Agent

사용자 요청 ↓ Agent ↓ Tool 호출 ↓ 외부 시스템 실행 ↓ 결과 반환

실제 업무 수행 가능

Tool 설계 원칙

1. 단일 책임 원칙

하나의 Tool은 하나의 역할만 담당해야 한다.

Search Tool검색Email Tool메일 발송CRM Tool고객 조회Notion Tool문서 생성Slack Tool메시지 전송

하나의 Tool이 너무 많은 기능을 수행하면 Agent의 판단 정확도가 떨어진다.

2. API 중심 설계

대부분의 Tool은 API 형태로 제공된다.

def send_email(to, subject, content): pass def create_notion_page(title, body): pass def send_slack_message(channel, message): pass

Agent는 Tool의 상세 구현을 몰라도 된다.

필요한 것은 다음 세 가지뿐이다.

입력/출력 구조

3. 자연어 기반 호출

최신 Agent는 Tool 사용 여부를 스스로 판단한다.

김대표에게 미팅 일정 메일 보내줘

send_email( to="ceo@company.com

", subject="미팅 일정", content="..." )

이 과정을 Tool Calling이라 부른다.

검색 도구의 필요성

LLM은 최신 정보를 알 수 없다.

따라서 Agent는 검색 기능을 활용해야 한다.

대표적인 검색 도구

Google Search웹 검색

Bing Search웹 검색

TavilyAI Agent 전용 검색

Brave Search개인정보 보호 검색

질문 발생 ↓ 검색 필요 판단 ↓ Search Tool 실행 ↓ 검색 결과 수집 ↓ LLM 분석 ↓ 답변 생성

검색은 대부분의 Agent에서 가장 많이 사용되는 Tool이다.

Email Tool. 이메일 자동화

기업 업무의 상당수는 이메일을 기반으로 진행된다.

Agent는 다음과 같은 업무를 수행할 수 있다.

고객에게 견적서 메일 보내줘

1. 견적서 작성 2. 이메일 생성 3. 첨부파일 추가 4. 자동 발송

대표 연동 서비스

Gmail 구글 이메일

Outlook 마이크로소프트 이메일

SendGrid 대량 메일 발송

Mailchimp 마케팅 이메일

CRM(Customer Relationship Management)은 고객 관리 시스템이다. 고객 데이터는 기업의 가장 중요한 자산 중 하나이다.

Salesforce글로벌 1위

CRMHubSpot중소기업 친화적

Zoho CRM저렴한 비용

Pipedrive영업 중심

지난달 계약 가능성이 높은 고객을 알려줘

CRM 조회 ↓ 고객 데이터 분석 ↓ 우선순위 선정

이를 통해 AI 영업사원 구축이 가능해진다.

ERP(Enterprise Resource Planning)는 기업 자원을 통합 관리하는 시스템이다.

현재 재고 부족 품목 알려줘

ERP 조회 ↓ 재고 분석 ↓ 부족 품목 출력

이번 달 생산 계획 작성해줘

판매 데이터 조회 ERP 데이터 조회 수요 예측 생산 계획 생성

지식 관리 플랫폼

많은 기업이 노션을 내부 위키로 활용한다.

Agent는 다음 작업을 수행할 수 있다.

데이터베이스 업데이트

오늘 회의 내용을 정리해줘

회의 내용 요약 ↓ Notion 페이지 생성 ↓ 자동 저장

Notion 기반 지식 저장소

대화 ↓ 요약 ↓ Notion 저장 ↓ 장기 기억 구축

이는 Agent Memory 구축에도 활용된다.

기업 커뮤니케이션의 중심

Slack은 글로벌 기업들이 가장 많이 사용하는 협업 플랫폼이다.

Agent는 Slack을 통해 다음 작업을 수행할 수 있다.

업무 요청 접수

전일 매출 분석 ↓ Slack 전송

자동 보고 시스템 구축 가능

커뮤니티 운영 자동화

Discord는 Web3, 게임, 오픈소스 커뮤니티에서 널리 사용된다.

Agent는 다음 업무를 수행할 수 있다.

신규 사용자 안내

새로운 공지 발생 ↓ Agent 감지 ↓ Discord 공지 게시 ↓ 커뮤니티 알림

커뮤니티 운영 비용을 크게 줄일 수 있다.

Agent와 가장 잘 어울리는 플랫폼

Telegram은 AI Agent 인터페이스로 가장 많이 활용되는 메신저이다. 이유는 다음과 같다.

Telegram Agent 구조

사용자 ↓ Telegram Bot ↓ Agent ↓ Tool ↓ 외부 시스템

오늘 매출 알려줘

오늘 매출 1억 2천만원 전일 대비 +12%

Multi-Tool Agent

실제 Agent는 하나의 Tool만 사용하지 않는다.

여러 Tool을 조합하여 업무를 수행한다.

고객 문의 접수 ↓ CRM 조회 ↓ ERP 조회 ↓ 답변 생성 ↓ Email 발송 ↓ Slack 보고 ↓ Notion 기록

이러한 구조를 Multi-Tool Agent라고 부른다.

Tool Layer 아키텍처

사용자 ↓ Agent Layer ↓ Tool Router ↓ ──────────────── Search Email CRM ERP Notion Slack Discord Telegram ──────────────── ↓ 외부 서비스

Tool Router는 어떤 Tool을 사용할지 결정하는 핵심 컴포넌트이다.

현대 AI Agent의 경쟁력은 LLM 자체보다 얼마나 많은 Tool을 안정적으로 연결하고 활용할 수 있는가에 달려 있다.

검색은 Agent의 눈이 되고,

CRM은 고객 데이터를 제공하며,

ERP는 기업 운영 정보를 제공한다.

Notion은 기억 저장소가 되고,

Slack과 Discord는 협업 창구가 되며,

Telegram은 사용자 인터페이스가 된다.

결국 Agent는 Tool을 통해 현실 세계와 연결되고, Tool이 많아질수록 Agent는 더 강력한 디지털 직원으로 진화하게 된다.

왜 Tool이 중요한가

예를 들어 사용자가 다음과 같이 요청했다고 가정해보자.

고객 목록을 정리해줘

이메일을 보내줘

오늘 매출을 확인해줘

회의 내용을 노션에 기록해줘

슬랙에 팀원들에게 공유해줘

LLM은 이러한 작업을 이해할 수는 있지만 직접 수행할 수는 없다.

실제 업무를 수행하기 위해서는 다양한 외부 도구(Tool)와 연결되어야 한다.

따라서 현대 AI Agent의 핵심 공식은 다음과 같이 표현할 수 있다.

Agent = Brain + Memory + Tool + Planning + Action

여기서 Tool은 Agent의 손과 발 역할을 수행한다.

Tool은 Agent가 외부 시스템과 상호작용하는 인터페이스이다.

Tool이 없는 Agent

사용자 질문 ↓ LLM 답변

단순 질의응답만 가능

Tool이 있는 Agent

사용자 요청 ↓ Agent ↓ Tool 호출 ↓ 외부 시스템 실행 ↓ 결과 반환

실제 업무 수행 가능

Tool 설계 원칙

1. 단일 책임 원칙

하나의 Tool은 하나의 역할만 담당해야 한다.

Search Tool검색Email Tool메일 발송CRM Tool고객 조회Notion Tool문서 생성Slack Tool메시지 전송

하나의 Tool이 너무 많은 기능을 수행하면 Agent의 판단 정확도가 떨어진다.

2. API 중심 설계

대부분의 Tool은 API 형태로 제공된다.

def send_email(to, subject, content): pass def create_notion_page(title, body): pass def send_slack_message(channel, message): pass

Agent는 Tool의 상세 구현을 몰라도 된다.

필요한 것은 다음 세 가지뿐이다.

입력/출력 구조

3. 자연어 기반 호출

최신 Agent는 Tool 사용 여부를 스스로 판단한다.

김대표에게 미팅 일정 메일 보내줘

send_email( to="ceo@company.com

", subject="미팅 일정", content="..." )

이 과정을 Tool Calling이라 부른다.

검색 도구의 필요성

LLM은 최신 정보를 알 수 없다.

따라서 Agent는 검색 기능을 활용해야 한다.

대표적인 검색 도구

Google Search웹 검색

Bing Search웹 검색

TavilyAI Agent 전용 검색

Brave Search개인정보 보호 검색

질문 발생 ↓ 검색 필요 판단 ↓ Search Tool 실행 ↓ 검색 결과 수집 ↓ LLM 분석 ↓ 답변 생성

검색은 대부분의 Agent에서 가장 많이 사용되는 Tool이다.

Email Tool. 이메일 자동화

기업 업무의 상당수는 이메일을 기반으로 진행된다.

Agent는 다음과 같은 업무를 수행할 수 있다.

고객에게 견적서 메일 보내줘

1. 견적서 작성 2. 이메일 생성 3. 첨부파일 추가 4. 자동 발송

대표 연동 서비스

Gmail 구글 이메일

Outlook 마이크로소프트 이메일

SendGrid 대량 메일 발송

Mailchimp 마케팅 이메일

CRM(Customer Relationship Management)은 고객 관리 시스템이다. 고객 데이터는 기업의 가장 중요한 자산 중 하나이다.

Salesforce글로벌 1위

CRMHubSpot중소기업 친화적

Zoho CRM저렴한 비용

Pipedrive영업 중심

지난달 계약 가능성이 높은 고객을 알려줘

CRM 조회 ↓ 고객 데이터 분석 ↓ 우선순위 선정

이를 통해 AI 영업사원 구축이 가능해진다.

ERP(Enterprise Resource Planning)는 기업 자원을 통합 관리하는 시스템이다.

현재 재고 부족 품목 알려줘

ERP 조회 ↓ 재고 분석 ↓ 부족 품목 출력

이번 달 생산 계획 작성해줘

판매 데이터 조회 ERP 데이터 조회 수요 예측 생산 계획 생성

지식 관리 플랫폼

많은 기업이 노션을 내부 위키로 활용한다.

Agent는 다음 작업을 수행할 수 있다.

데이터베이스 업데이트

오늘 회의 내용을 정리해줘

회의 내용 요약 ↓ Notion 페이지 생성 ↓ 자동 저장

Notion 기반 지식 저장소

대화 ↓ 요약 ↓ Notion 저장 ↓ 장기 기억 구축

이는 Agent Memory 구축에도 활용된다.

기업 커뮤니케이션의 중심

Slack은 글로벌 기업들이 가장 많이 사용하는 협업 플랫폼이다.

Agent는 Slack을 통해 다음 작업을 수행할 수 있다.

업무 요청 접수

전일 매출 분석 ↓ Slack 전송

자동 보고 시스템 구축 가능

커뮤니티 운영 자동화

Discord는 Web3, 게임, 오픈소스 커뮤니티에서 널리 사용된다.

Agent는 다음 업무를 수행할 수 있다.

나만의 AI Agent 만들기

게시판

나만의 AI Agent 만들기

Chapter 7. Tool Use 설계

Chapter 7. Tool Use 설계