[AI 다빈치 7호] AI 토큰, 필요한 데 정확히 쓰는 법

안녕하세요 구독자 여러분, 일곱 번째 다빈치 레터로 인사드립니다.

AI를 자주 쓰다보면 계속 신경 쓰게 되는 게 토큰입니다. 토큰은 AI가 일을 처리하는 단위로 AI 모델마다, 요금제마다 달라집니다. 그래서 어떤 일에 어느 정도 토큰을 쓰는 게 맞을지 종종 고민하게 됩니다. 토큰을 더 사용했으면 일이 잘 됐을까, 작은 일에 너무 많은 토큰을 사용한 건 아닐까하며 스스로 질문하게 만듭니다. 구독자 분들은 어떻게 AI 토큰을 활용하고 계신가요?

오늘 레터에서는 이 AI 토큰을 적재적소에 활용할 수 있는 방법에 대해 알아보려고 합니다. 단순히 토큰을 많이 쓰는 게 아니라 필요한 곳에 사용함으로써 더 현명하게 AI를 쓸 수 있는 방법이 뭘지, 토큰을 사용하고 나서 그 결과가 오래 남으려면 어떻게 해야하는지를 살펴보겠습니다.

처음이라면 토큰 낭비를 추천합니다.

아직 AI를 본격적으로 사용하는 게 아니라면, 내 일에서 AI가 차지하는 비중이 적다면 처음에는 토큰을 신경쓰지 않고 AI에게 뭐든지 물어보고 시켜보는 경험이 중요합니다. 특히 GPT, 클로드, 제미나이에서 제일 좋은 모델을 사용해보는 걸 추천해요. 이렇게 해야 AI가 정말 이런 일까지 할 수 있구나하는 와우 포인트를 직접 체험할 수 있습니다. 남들이 만든 사례가 아니라 내 일에 실제로 AI를 적용해봤을 때 이 정도까지 효율화가 되고, 이런 확장이 될 수 있다는 걸 체감하게 되면 이후 AI에 대한 진입장벽이 더 낮아질 수 있습니다.

실리콘밸리의 전설적 투자자 나발 라비칸트는 AI 활용법을 배우는 속도보다 모델이 좋아지는 속도에 베팅했습니다. 그래서 토큰을 계속 사용함으로써 시간을 아끼는 결과를 만들어냅니다. 이전에 만들었던 작업물, 프로세스에 많은 토큰과 시간을 썼더라도 그게 인건비보다는 아직도 저렴하니까요. 그래서 새로운 모델이 나올 때, 클로드나 GPT가 업데이트됐을 때 그동안의 작업물을 다 다시 보고 다시 쓰라고 해도 괜찮습니다. 또한 나발은 같은 질문을 클로드, GPT, 제미나이에 동시에 물어봄으로써 토큰을 쓰는 대신 검증 시간을 아끼는 방식을 채택하고 있습니다.