AI 챗봇을 열심히 쓰고 있는데 왜 업무 시간이 줄지 않을까요? 제가 처음 이 질문을 떠올렸을 때, 저는 이미 몇 달째 Claude를 쓰고 있었습니다. 열심히 쓰고 있다고 생각했는데, 알고 보니 저는 가장 기초적인 1단계에만 머물러 있었습니다. AI 활용에는 챗봇부터 AI 에이전트까지 명확한 4단계 구조가 있고, 단계가 올라갈수록 제가 일하는 시간이 실제로 줄어듭니다. 코딩을 전혀 모르는 제가 직접 써보며 각 단계가 어떻게 다른지 정리했습니다.
챗봇만 쓰는 게 왜 아쉬운가
일반적으로 Claude나 ChatGPT 같은 AI 챗봇(Chatbot)을 쓰는 것만으로도 충분히 잘 활용하고 있다고 생각하는 분들이 많습니다. 저도 한동안 그렇게 생각했습니다. 실제로 챗봇은 글쓰기 능력만큼은 압도적입니다. 거래처에 보낼 미팅 요청 메일 하나를 부탁하면, 저보다 열 배는 공손한 문장으로 1분 안에 뚝딱 만들어 줍니다. 요약, 번역, 아이디어 발산처럼 텍스트로 처리되는 작업이라면 정말 잘 합니다.
그런데 제가 직접 써보면서 확실히 느낀 한계가 두 가지 있었습니다. 첫 번째는 개인 컨텍스트(Context), 즉 제 데스크톱에 있는 파일이나 업무 데이터를 전혀 모른다는 점입니다. 인터넷에 공개된 일반 지식은 잘 알아도, 제 컴퓨터 안에 있는 수백 개의 문서는 직접 볼 수가 없습니다. 두 번째는 수동성입니다. 챗봇은 제가 질문을 던져야만 움직입니다. 먼저 무언가를 제안하거나 처리해 주는 일은 없습니다.
비유하자면 이렇습니다. 머리는 정말 좋은데, 손발이 묶인 채 책상에만 앉아 있는 천재 비서입니다. 제가 말을 걸어야만 반응하고, 제 파일 서랍은 건드리지도 못합니다. 이 비서에게 손발을 달아주기 시작하는 것이 바로 2단계부터입니다.
- 챗봇의 강점: 메일 작성, 요약, 번역, 아이디어 등 텍스트 기반 작업
- 챗봇의 한계 1: 개인 파일·데이터에 접근 불가
- 챗봇의 한계 2: 수동적 — 내가 먼저 물어야만 작동
코워크와 Claude Code, 뭐가 다른가
2단계인 Claude Cowork는 챗봇에 손발을 달아주는 단계입니다. 여기서 핵심 개념이 바로 커넥터(Connector)와 스킬(Skill)입니다. 커넥터란 Claude와 구글 드라이브, Notion, Gmail 같은 외부 앱을 연결하는 연결고리를 의미합니다. 스킬은 신입 사원에게 주는 업무 매뉴얼에 해당합니다. 매번 처음부터 지시하지 않아도, 미리 저장해 둔 프롬프트가 반복 양식으로 자동 실행됩니다.
제가 직접 캔바(Canva) 크리에이터 스킬을 실행해 봤는데, 솔직히 이건 예상 밖이었습니다. 제가 먼저 지시하지 않았는데, Claude가 먼저 "캠페인을 시작하기 전에 몇 가지 브리프가 필요합니다. 채널, 기간, 톤앤매너를 알려 주시면 시작할게요"라고 스스로 질문하며 작업을 리딩했습니다. 기존 챗봇과 달리 워크플로우(Workflow), 즉 작업의 흐름 자체를 스킬이 잡아주는 구조입니다.
그렇다면 3단계인 Claude Code는 무엇이 다를까요? 한 줄로 정리하면 이렇습니다. 코워크가 '연결'이라면, Claude Code는 '제작'입니다. Claude Code는 제 컴퓨터 안에서 직접 파일을 만들고, 폴더를 정리하고, 프로그램을 실행합니다. 예를 들어 "영수증 폴더를 날짜별로 자동 분류하는 도구를 만들어 줘"라고 말로 명령하면, 폴더를 직접 탐색하고 분류 규칙을 짜서 Output 디렉토리까지 스스로 생성합니다. 이름에 '코드'가 들어간다고 겁먹을 필요 없습니다. 저도 코딩을 전혀 모르고, 실제로 코딩을 입력하는 것도 아닙니다.
다만 Claude Code도 아직은 제가 옆에 붙어서 "이거 확인해, 저거 다시 해봐" 하고 하나씩 트래킹해 줘야 합니다. 결정권이 AI에게 많이 넘어가긴 했지만, 여전히 최종 판단은 사람이 하는 구조입니다. 이 점이 4단계와 결정적으로 다릅니다.
- 코워크: 앱 연결(커넥터) + 반복 업무 자동화(스킬) — 결정은 사람이
- Claude Code: 내 컴퓨터 안에서 직접 제작·실행 — 결정권 일부 AI로 이동
- 공통점: 여전히 사람이 옆에서 지켜보며 방향을 잡아줘야 함
AI 에이전트는 왜 다른 단계인가
오늘 가장 중요한 개념이 여기에 있습니다. AI 에이전트(Agent)란, 추론과 행동을 스스로 결합해서 사람의 개입 없이 작업을 끝까지 완수하는 시스템입니다. 챗봇·코워크·Claude Code가 모두 '제가 지시하면 움직이는' 구조라면, 에이전트는 결정 자체를 AI가 합니다. 사람이 지시하는 게 아니라, 위임하는 겁니다.
제가 직접 에이전트를 써본 경험을 이야기하면 이렇습니다. "주간 리포트 소스를 뽑고 싶은데, 내 분석 데이터 중에서 참고할 만한 주제 추천이랑 키워드 매핑도 알려줘"라고 한마디 입력했습니다. 에이전트는 제 컴퓨터 안에 쌓인 수십 개의 파일을 스스로 탐색하고, 핵심 메시지를 정리한 뒤 네 편 시리즈 주제를 추천해 줬습니다. 제가 "소스 더 뽑아줘"라고 추가 지시를 하자, 추가 주제를 더 정리하고 채팅 내용을 지정 폴더에 백업하는 것까지 알아서 처리했습니다. 이 과정에서 제가 작성한 글은 단 한 글자도 없었습니다.
에이전트의 핵심 작동 원리는 두 가지입니다. 첫째는 추론(Reasoning)입니다. 이 일을 끝내려면 어떤 순서가 최선인지 스스로 판단합니다. 둘째는 행동(Action)입니다. 필요한 도구를 직접 선택해서 쓰고, 결과가 만족스럽지 않으면 사람이 고치는 게 아니라 에이전트 스스로 검증 로직을 돌려 다시 수정합니다. 출처: Anthropic — Building Effective Agents에서도 이 추론-행동 루프가 에이전트의 핵심 구조임을 설명하고 있습니다.
저 같은 경우 매주 하나에서 두 개씩 AI 직원을 만들어서, 제가 반복적으로 하던 업무 대부분을 에이전트에 이관했습니다. 예약도 됩니다. "매주 경쟁사 분석 보고서 만들어 줘"라고 한마디면, 제가 자는 동안에도 작업이 돌아갑니다. 에이전트가 코워크나 Claude Code보다 더 강력한 이유는 기업 시스템이나 외부 사이트와 연결까지 해두면, 24시간 내내 자율적으로 작업을 수행하기 때문입니다. 출처: Lilian Weng — LLM Powered Autonomous Agents에서도 자율 에이전트 아키텍처의 작동 방식을 상세히 다루고 있습니다.
도구가 Claude냐 GPT냐 Perplexity냐는 솔직히 취향의 문제입니다. 제 경험상 어떤 브랜드를 쓰느냐보다, 지금 어느 단계에서 쓰고 있느냐가 훨씬 중요합니다. 1단계에서 아무리 열심히 써도, 4단계 사용자와의 격차는 시간이 갈수록 벌어질 수밖에 없습니다.
자주 묻는 질문
Q. 코워크랑 Claude Code, 뭐가 다른 건가요?
A. 한 줄로 정리하면 코워크는 '연결', Claude Code는 '제작'입니다. 코워크는 Gmail·Notion 같은 외부 앱을 연결해서 정해진 자동화를 돌리는 방식이고, Claude Code는 내 컴퓨터 안에서 직접 파일을 만들고 프로그램을 실행하는 방식입니다. 코딩 지식이 없어도 말로 명령하면 됩니다.
Q. Claude Code 쓰면 코딩 할 줄 알아야 하나요?
A. 그렇지 않습니다. 저도 코딩을 전혀 모릅니다. 이름에 '코드'가 들어가지만, 사용자가 코드를 입력하는 것이 아니라 한국어로 원하는 작업을 말하면 Claude가 내부적으로 처리합니다. 비개발자도 충분히 사용할 수 있는 구조입니다.
Q. AI 에이전트랑 일반 챗봇, 실제로 얼마나 차이가 나나요?
A. 제 경험상 체감 차이가 상당합니다. 챗봇은 제가 질문할 때마다 그 질문에만 답하는 반면, 에이전트는 "주간 보고서 만들어 줘" 한마디에 파일 탐색, 주제 선정, 문서 저장, 백업까지 알아서 처리합니다. 내가 지시하는 것과 위임하는 것의 차이라고 보면 됩니다.
Q. GPT, Claude, Perplexity 중에 뭘 써야 하나요?
A. 솔직히 도구는 취향입니다. 어떤 브랜드를 쓰느냐보다 지금 몇 단계에서 쓰고 있는지가 더 중요합니다. 1단계 챗봇만 쓰는 사람과 4단계 에이전트를 운용하는 사람의 생산성 격차는 브랜드 차이와 비교할 수 없습니다.
Q. 코워크 스킬은 어떻게 만드나요?
A. Claude Cowork 내 '스킬 관리' 메뉴에서 직접 프롬프트를 입력해 저장할 수 있습니다. 또는 플러그인 탐색 기능을 통해 Figma, Canva 등 서드파티 스킬 패키지를 1초 만에 설치할 수도 있습니다. 각 패키지 안에 프롬프트가 자동으로 내장되어 있어, 설치 후 바로 사용 가능합니다.
결론
AI가 사람을 대체한다는 말은 제 경험상 절반만 맞습니다. 정확히는 에이전트를 쓰는 사람이 안 쓰는 사람의 자리를 가져가는 겁니다. 지금 대부분은 아직 1단계 챗봇에 머물러 있고, 누군가는 이미 4단계 에이전트에게 일을 넘기고 퇴근합니다. 1년 뒤 이 둘의 격차는 지금 상상하는 것보다 클 수 있습니다.
단계별 요점을 정리하면 이렇습니다. 1단계 챗봇은 글을 써주고, 2단계 코워크는 앱을 연결해 자동화를 돌리고, 3단계 Claude Code는 내 컴퓨터 안에서 직접 만들고 실행하고, 4단계 에이전트는 결정까지 위임합니다. 올라갈수록 바뀌는 건 딱 하나, 제가 직접 일하는 시간이 줄어듭니다. 코딩을 몰라도 충분히 갈 수 있는 길입니다. 저도 그렇게 여기까지 왔습니다.