Claude виглядає значно «ненажерливішим» до токенів, ніж GPT-5.x від OpenAI — дослідження
Великі мовні моделі використовують токенізатори для перетворення тексту в токени, які стали базовою економічною одиницею для розрахунку вартості використання ШІ-моделей. Оскільки поділ слів на токени та кількість токенів, необхідна для виконання завдання, різняться залежно від моделі, передбачити кінцевий рахунок стало досить складно. Нещодавні зміни в токенізаторі Anthropic, схоже, ще більше заплутали ситуацію, оскільки обробка того самого контенту на деяких моделях тепер коштує.