어느 순간부터 AI를 사용하는 일이 꽤 자연스러워졌습니다.
예전에는 무언가를 찾기 위해 검색창을 열었다면, 이제는 자연스럽게 AI부터 열어보는 경우가 많아졌습니다.
문득 궁금해집니다.
나는 하루에 AI를 얼마나 많이 사용하고 있을까?
이 기준을 질문의 횟수로 세어야 할까요? AI와 대화한 시간으로 계산해야 할까요?
이를 바라볼 수 있는 단위가 있습니다. 바로 토큰(Token)입니다.
우리가 AI와 주고받는 것의 단위, 토큰
우리가 AI에게 질문을 입력할 때도 토큰을 사용하고, AI가 답변을 만들어낼 때도 토큰이 사용됩니다.
작업 범위도 어느새 단순 질문을 넘어 다양한 업무를 요청하며 AI의 범위가 넓어지고 있습니다.
최근 AI는 단순히 질문에 답하는 것을 넘어, 필요한 정보를 찾고 여러 자료를 읽거나 도구를 사용해 하나의 작업을 수행하는 형태로 발전하고 있습니다.
질문 한 번이 정말 '한 번'일까?
이러한 변화는 AI 사용량을 바라보는 방식도 바꾸고 있습니다.
간단한 질문 하나와 수십 페이지의 자료를 분석해 달라는 요청 하나는 화면에서는 똑같은 '질문 한 번'입니다. 하지만 AI가 읽고 처리해야 하는 정보의 양에는 큰 차이가 있습니다.
특히 검색이나 분석, 도구 사용이 더해지면 사용자는 한 번 요청했지만, AI는 필요한 정보를 찾고 여러 자료를 읽으며 결과를 만들고, 필요에 따라 다시 확인하거나 수정하는 여러 단계를 거칠 수 있습니다.
사람에게는 한 번의 요청이지만 그 뒤에서는 생각보다 많은 토큰이 오가고 있는 셈입니다.
많이 쓰는 것보다 '잘' 쓰는 것
여기서 재미있는 질문이 하나 생깁니다.
그렇다면 토큰을 많이 사용하는 것이 AI를 잘 활용하고 있다는 의미일까요?
꼭 그렇지만은 않습니다.
AI가 좋은 결과를 만들기 위해서는 충분한 정보와 맥락이 필요합니다. 복잡한 업무라면 많은 토큰을 사용하는 것이 자연스러울 수도 있습니다.
실제로 최근에는 토큰 사용량 자체가 하나의 화제가 되기도 했습니다.
Meta에서는 한 직원이 사내에서 직원들의 AI 토큰 사용량을 보여주는 'Claudeonomics'라는 리더보드를 만들었습니다. 최근 30일간 회사 전체의 사용량이 60조 토큰을 넘을 정도로 큰 규모였고, 토큰을 많이 사용하는 직원에게 'Token Legend' 같은 재미있는 칭호도 붙였습니다.
하지만 이 사례는 곧 '토큰을 많이 사용하는 것이 정말 AI를 잘 활용하는 것인가?'라는 논쟁으로 이어졌습니다. 해당 리더보드는 이후 운영이 중단됐고, Instagram을 이끄는 Adam Mosseri 역시 앞으로는 AI 토큰 비용을 다른 자원처럼 관리할 필요가 있다고 언급했습니다.
결국 중요한 것은 토큰을 무조건 적게 사용하는 것이 아니라 필요한 곳에 제대로 사용하는 것입니다.
AI에게 무엇을 원하는지 명확하게 전달하고, 필요한 정보와 맥락을 적절하게 제공하며, 나온 결과를 바탕으로 다음 요청을 이어가는 것. 이런 과정이 쌓일수록 같은 AI를 사용하더라도 결과에는 차이가 생길 수 있습니다.
AI가 단순한 질문과 답변을 넘어 더 많은 업무를 수행하게 될수록 우리가 사용하는 토큰의 양도 자연스럽게 늘어날 것입니다.
그렇다면 앞으로 AI를 활용하는 데 필요한 능력 중 하나는 단순히 AI를 많이 사용하는 것이 아니라, 주어진 토큰을 얼마나 효과적으로 활용해 원하는 결과를 만들어내느냐가 아닐까요?
AI를 얼마나 많이 쓰느냐를 넘어, 토큰을 얼마나 잘 쓰느냐.
어쩌면 이것이 앞으로 AI를 활용하는 또 하나의 중요한 기준이 될지도 모릅니다.
