skip to content
aMIrmxc

بهینه‌سازی هزینه Kilo Code؛ چطور با هزینه کمتر نتیجه بهتری بگیریم؟

/ 19 min read

نوشته‌ی amirmxc

Table of Contents

بهینه‌سازی هزینه Kilo Code؛ چطور با هزینه کمتر نتیجه بهتری بگیریم؟

Cover image

بهینه‌سازی هزینه Kilo Code فقط پیدا کردن ارزان‌ترین مدل نیست. مسئله اصلی این است که برای تمام شدن موفق یک task چقدر هزینه می‌کنید.

در یک workflow مبتنی بر Agent، فقط یک درخواست به مدل ندارید. Kilo Code ممکن است چند بار مدل را صدا بزند، فایل بخواند، از toolها استفاده کند، Context بیشتری جمع کند و بعد دوباره تلاش کند. بنابراین ممکن است مدلی با قیمت پایین‌تر برای هر request، در نهایت برای یک task کامل هزینه بیشتری ایجاد کند.

Kilo Code چند ابزار مختلف برای کنترل این هزینه در اختیار شما می‌گذارد؛ از Auto Model و مدل‌های رایگان گرفته تا BYOK، Prompt Caching، مدیریت Context، compaction و مشاهده جزئیات مصرف در Gateway. خود Kilo هم انتخاب مدل مناسب و محدود نگه داشتن Context را از مهم‌ترین روش‌های کنترل هزینه معرفی می‌کند.

قاعده اصلی ساده است:

ارزان‌ترین workflowی را انتخاب کنید که بتواند task را به‌طور قابل‌اعتماد تمام کند؛ بعد فقط وقتی لازم است سراغ مدل قوی‌تر بروید.

هدف واقعی: کاهش هزینه هر task موفق

چرا ارزان‌ترین مدل، لزوماً ارزان‌ترین workflow نیست؟

فرض کنید یک workflow با یک مدل ارزان، برای تکمیل یک تغییر کدنویسی به شش request نیاز دارد و workflow دیگری با یک مدل گران‌تر همان task را در دو request تمام می‌کند.

در این حالت، فقط قیمت هر request چیزی به شما نمی‌گوید.

برای یک workflow agentic بهتر است چهار سطح را از هم جدا کنید:

معیارچه چیزی را نشان می‌دهد؟
قیمت Tokenهزینه خام هر دسته از tokenها
هزینه Requestهزینه یک درخواست به مدل
هزینه Taskهزینه کل تلاش برای انجام یک task
هزینه Task موفقهزینه رسیدن به یک نتیجه قابل‌قبول و نهایی

آخرین مورد، شاخصی است که برای optimization اهمیت بیشتری دارد.

می‌توانید آن را به‌شکل مفهومی این‌طور اندازه بگیرید:

cost_per_successful_task =
total_cost_of_attempts / successful_tasks

این فرمول یک معیار تحلیلی است و metric داخلی Kilo Code محسوب نمی‌شود.

دلیل استفاده از آن هم روشن است: یک workflow ممکن است در سطح request ارزان باشد، اما به خاطر retry، debugging یا اصلاح دستی، در سطح task اقتصادی نباشد.

قیمت Token در مقابل اقتصاد واقعی Task

Kilo Gateway اطلاعاتی مثل مدل، Provider، تعداد input و output token، cache write، cache hit، هزینه request، latency و وضعیت BYOK را در usage data در اختیار شما می‌گذارد.

پس هنگام مقایسه دو workflow فقط نپرسید:

  • قیمت مدل چقدر است؟
  • چند token مصرف شد؟

این‌ها را هم بررسی کنید:

  • چند request لازم شد؟
  • چند tool call انجام شد؟
  • چند بار retry شد؟
  • چند token از cache آمد؟
  • task در نهایت موفق شد؟
  • چقدر اصلاح دستی لازم داشت؟

دو مورد آخر در قبض Kilo به‌صورت مستقیم نشان داده نمی‌شوند، اما برای سنجش هزینه واقعی توسعه مهم‌اند.

هزینه Kilo Code دقیقاً از کجا می‌آید؟

هزینه پلتفرم با هزینه AI Inference فرق دارد

Kilo در حال حاضر سه دسته هزینه را از هم جدا می‌کند:

  1. Platform
  2. AI Inference
  3. Cloud Compute

نسخه Individual پلتفرم Kilo رایگان است، اما inference مدل‌ها و cloud compute می‌توانند هزینه جداگانه داشته باشند.

بنابراین جمله «Kilo Code رایگان است» به این معنا نیست که تمام استفاده از مدل‌های AI نیز رایگان است.

برای inference چند مسیر دارید:

  • مدل‌های رایگان
  • مدل‌های local
  • BYOK
  • Kilo Gateway با پرداخت بر اساس مصرف
  • Kilo Pass

Kilo Gateway نیز دسترسی به بیش از ۵۰۰ مدل از بیش از ۶۰ Provider را معرفی می‌کند و برای inference خود از نرخ Providerها استفاده می‌کند.

Gateway، BYOK، مدل رایگان و مدل Local

هر کدام از این گزینه‌ها برای یک سناریوی متفاوت مناسب‌اند:

گزینهروش پرداخت inferenceمناسب برای
Kilo Gatewayپرداخت بر اساس مصرفاستفاده عمومی و ساده
BYOKپرداخت مستقیم به Providerکسانی که key یا قرارداد Provider دارند
مدل رایگانبدون هزینه inference در Kilotaskهای کم‌ریسک و بودجه صفر
مدل Localهزینه زیرساخت خودتانکنترل بیشتر، حریم خصوصی یا استفاده local
Kilo Passاشتراک ماهانه + creditمصرف مداوم و قابل پیش‌بینی

در BYOK، درخواست با key خودتان به Provider ارسال می‌شود و هزینه آن از موجودی Kilo کم نمی‌شود؛ در عین حال Provider مستقیماً شما را شارژ می‌کند. Kilo همچنین می‌گوید اگر BYOK key نامعتبر باشد، درخواست به‌صورت خودکار با key خود Kilo جایگزین نمی‌شود.

پس BYOK را نباید به‌عنوان «همیشه ارزان‌تر» معرفی کرد. ارزش اقتصادی آن به قرارداد، اشتراک یا credit موجود شما در Provider بستگی دارد.

Input، Output و Cached Token

هزینه فقط به تعداد tokenها بستگی ندارد؛ نوع token هم مهم است.

Kilo در usage data بین input token، output token، cache write و cache hit تفاوت قائل می‌شود.

به همین دلیل دو workflow با تعداد مشابه input token ممکن است هزینه یکسانی نداشته باشند.

قاعده عملی این است:

فقط تعداد token را بررسی نکنید؛ ببینید این tokenها چگونه محاسبه شده‌اند.

از انتخاب مدل شروع کنید

چه زمانی Auto Efficient انتخاب خوبی است؟

Kilo در مستندات فعلی، Auto Efficient را tier پرداختی با کمترین هزینه برای هر task معرفی می‌کند. این سیستم سختی درخواست را در Context جلسه تشخیص می‌دهد و مدل کم‌هزینه‌تری را انتخاب می‌کند که Kilo آن را برای آن سطح از task به‌اندازه کافی دقیق ارزیابی کرده است.

برای workflowهای معمولی، این می‌تواند نقطه شروع مناسبی باشد.

به‌جای اینکه همیشه یک مدل گران را انتخاب کنید:

  1. با Auto Efficient شروع کنید.
  2. task را مشخص و محدود تعریف کنید.
  3. نتیجه را بررسی کنید.
  4. فقط در صورت نیاز سطح capability را بالا ببرید.

نکته مهم این است که Auto Efficient یک نقطه شروع اقتصادی است، نه تضمینی برای اینکه همیشه در هر task ارزان‌تر از تمام انتخاب‌های ممکن باشد.

چه زمانی سراغ Auto Frontier برویم؟

Auto Frontier برای بیشترین سطح capability طراحی شده است. Kilo آن را برای کارهایی مثل planning، architecture و debugging سنگین مناسب‌تر می‌داند.

برای مثال:

  • تصمیم‌های معماری
  • refactorهای پیچیده
  • debugging سخت
  • taskهایی که نیاز به reasoning عمیق دارند

می‌توانند کاندیدای مناسبی برای tier قوی‌تر باشند.

اما این به معنی استفاده همیشگی از Frontier نیست.

قاعده بهتر این است:

به خاطر سخت بودن task مدل را قوی‌تر کنید، نه صرفاً چون مدل قوی‌تر در دسترس است.

Auto Free چه زمانی منطقی است؟

Auto Free از مدل‌های رایگان در دسترس استفاده می‌کند و نیاز به credit پولی Kilo ندارد. فهرست این مدل‌ها ثابت نیست و با تغییر شرایط Providerها تغییر می‌کند.

برای این کارها می‌تواند منطقی باشد:

  • exploration
  • تغییرات ساده
  • prototypeهای disposable
  • taskهای کم‌ریسک
  • آزمایش مدل‌ها

اما نباید فرض کنید مدل رایگان در همه taskهای production جایگزین معادل مدل پولی است.

یک نکته مهم درباره data handling هم وجود دارد: شرایط Providerها یکسان نیست. Kilo برای endpointهای رایگان NVIDIA صراحتاً هشدار می‌دهد که این endpointها trial هستند و نباید اطلاعات شخصی یا محرمانه به آن‌ها ارسال شود.

پس «رایگان» فقط یک تصمیم مالی نیست؛ باید Provider و نوع داده‌ای که ارسال می‌کنید را هم در نظر بگیرید.

چرا فهرست «ارزان‌ترین مدل‌ها» سریع قدیمی می‌شود؟

مدل‌ها و قیمت‌ها ثابت نمی‌مانند.

Kilo اعلام می‌کند که mapping پشت Auto Model می‌تواند در سمت سرور تغییر کند و مدل‌های رایگان نیز با تغییر برنامه‌ها و شرایط Providerها جابه‌جا می‌شوند.

بنابراین برای تصمیم‌های فعلی، به فهرست زنده مدل‌ها و قیمت فعلی Kilo تکیه کنید، نه یک لیست ثابت در یک مقاله قدیمی.

هزینه واقعی هر Request را کجا ببینیم؟

اگر قرار است هزینه را optimize کنید، باید بتوانید مصرف واقعی را ببینید.

Kilo در model picker اطلاعات بیشتری از مدل انتخابی در اختیار شما می‌گذارد. در نمای کامل model picker می‌توانید قیمت input و output به‌ازای یک میلیون token، Context window و capabilityهای مدل را ببینید.

در طرف دیگر، Gateway usage اطلاعات جزئی‌تری درباره request ارائه می‌کند؛ از جمله مدل، Provider، tokenها، cache، هزینه و latency.

پس یک چرخه ساده دارید:

Task
Model انتخاب‌شده
Request Cost
Token + Cache + Tool Activity
نتیجه Task

به‌جای اینکه فقط بپرسید:

«چرا این session گران شد؟»

بپرسید:

«کدام بخش از این task باعث ایجاد هزینه شد؟»

قبل از ضعیف‌تر کردن مدل، Context را کوچک کنید

اگر می‌خواهید بدون تغییر فوری مدل، هزینه را پایین بیاورید، Context یکی از اولین جاهایی است که باید بررسی شود.

Kilo توضیح می‌دهد که conversationهای طولانی بخش قابل‌توجهی از Context window را مصرف می‌کنند و این موضوع می‌تواند باعث token usage و API cost بیشتر شود.

Context اولیه را محدود و مرتبط نگه دارید

اگر در حال رفع یک bug در یک سرویس خاص هستید، لازم نیست از همان ابتدا کل repository را وارد Context کنید.

با این موارد شروع کنید:

  • فایل یا component مشکل‌دار
  • test مربوطه
  • interface وابسته
  • configuration مرتبط

سپس هر زمان لازم شد Context بیشتری در اختیار Agent بگذارید.

هدف «کمترین Context ممکن» نیست؛ هدف Context مرتبط است.

Taskهای بزرگ را به بخش‌های مشخص تقسیم کنید

به‌جای:

«سیستم authentication را کامل بساز.»

task را به بخش‌های مشخص تقسیم کنید:

  1. interface مربوط به authentication را تعریف کنید.
  2. token handling را پیاده کنید.
  3. تست‌های token rotation را اضافه کنید.
  4. frontend را به flow جدید وصل کنید.
  5. test suite را اجرا کنید.
  6. failureهای باقی‌مانده را برطرف کنید.

این کار لزوماً تضمین نمی‌کند هزینه کمتر شود، اما Context و معیار موفقیت هر مرحله را شفاف‌تر می‌کند.

از /compact برای sessionهای طولانی استفاده کنید

Kilo Code از compaction خودکار پشتیبانی می‌کند و می‌توانید هر زمان لازم بود آن را دستی نیز اجرا کنید:

/compact

مستندات فعلی Kilo می‌گویند compaction.auto به‌صورت پیش‌فرض فعال است. Kilo همچنین tool outputهای قدیمی‌تر از پنجره recency حدود ۴۰٬۰۰۰ token را به‌صورت تدریجی prune می‌کند.

تنظیمات compaction در kilo.jsonc قرار می‌گیرند. برای مثال:

{
"compaction": {
"auto": true,
"threshold_percent": 80,
"prune": true
}
}

عدد 80 در این مثال یک تنظیم نمونه است، نه یک مقدار ثابت و بهینه برای همه workflowها. Kilo اجازه می‌دهد compaction.threshold_percent را بین ۱ تا ۱۰۰ تنظیم کنید.

همچنین می‌توانید مواردی مثل تعداد turnهای اخیر، tokenهای اخیر و فضای رزروشده برای request بعدی را پیکربندی کنید.

Compaction را با «تخفیف قطعی» اشتباه نگیرید

Compaction در درجه اول برای مدیریت Context است.

ممکن است Context موردنیاز requestهای بعدی را کاهش دهد، اما نباید نتیجه گرفت که هر بار استفاده از /compact الزاماً درصد مشخصی از هزینه را کم می‌کند.

اثر واقعی به session، مدل و Provider بستگی دارد.

برای sessionهای طولانی، workflow منطقی این است:

کار → compact در زمان مناسب → بررسی summary → ادامه کار

Kilo summary ایجادشده را نگه می‌دارد و این امکان را می‌دهد که بررسی کنید اطلاعات مهم task از بین نرفته باشد.

هزینه‌های پنهان Token و Tool را کنترل کنید

MCPهای غیرضروری را خاموش کنید

MCP می‌تواند قابلیت‌های مهمی به Agent بدهد، اما تعریف toolهای غیرضروری نیز می‌تواند به Context ارسالی به مدل اضافه شود.

Kilo در راهنمای هزینه خود مشخصاً هشدار می‌دهد که MCPهای بلااستفاده می‌توانند اندازه system prompt را افزایش دهند.

اگر یک task به integration خاصی نیاز ندارد، فعال نگه داشتن آن لزوماً مزیتی ایجاد نمی‌کند.

خروجی بزرگ toolها را وارد Context نکنید

یک command که هزاران خط log را به مدل می‌دهد، لزوماً از commandی که فقط خطای مرتبط را استخراج می‌کند بهتر نیست.

ترجیحاً از این‌ها استفاده کنید:

  • logهای فیلترشده
  • searchهای هدفمند
  • محدوده مشخص فایل
  • خروجی خلاصه و مرتبط

قرار نیست هر tool call کوچک باشد؛ فقط نباید اطلاعاتی را بارها پردازش کنید که برای حل task لازم نیست.

Background inference را هم در نظر بگیرید

همه مصرف AI از chat اصلی نمی‌آید.

Kilo برای برخی کارهای پس‌زمینه از مدل‌هایی برای مواردی مثل session title، commit message و summary استفاده می‌کند. مستندات فعلی Kilo یک مسیر kilo-auto/small را نیز برای taskهای سبک معرفی می‌کنند.

بنابراین اگر مصرف واقعی با چیزی که در chat انتظار دارید نمی‌خواند، background activity نیز ارزش بررسی دارد.

Autocomplete را جداگانه مدیریت کنید

Kilo در مستندات فعلی، Codestral 2508 را به‌عنوان موتور اختصاصی Autocomplete معرفی می‌کند. این سرویس وقتی فعال باشد در پس‌زمینه پیشنهادهای کدنویسی تولید می‌کند و Kilo برای استفاده از BYOK مربوط به Mistral نیز مسیر جداگانه‌ای مستند کرده است. امکان غیرفعال کردن Autocomplete هم وجود دارد.

پس یک سؤال عملی دیگر این است:

آیا واقعاً می‌خواهید Autocomplete از موجودی Kilo شما مصرف کند؟

برای یک developer ممکن است ارزشش را داشته باشد؛ برای دیگری شاید BYOK یا غیرفعال کردن این قابلیت منطقی‌تر باشد.

Prompt Caching را درست استفاده کنید

Kilo روی Providerهایی که از Prompt Caching پشتیبانی می‌کنند، از caching استفاده می‌کند و usage system آن نیز cache write و cache hit را ثبت می‌کند.

نتیجه عملی کمی خلاف انتظار است:

نباید فقط به خاطر تکراری بودن یک Context آن را حذف کنید.

اول اطلاعات غیرضروری را حذف کنید.

بعد اجازه دهید caching، در Providerهایی که از آن پشتیبانی می‌کنند، هزینه Contextی را که واقعاً باید تکرار شود کاهش دهد.

چون رفتار و قیمت caching به Provider وابسته است، بدون داده معتبر برای یک Provider مشخص، درصد ثابت و عمومی برای میزان صرفه‌جویی اعلام نکنید.

BYOK، Gateway، مدل رایگان یا Local؟

چه زمانی BYOK منطقی است؟

BYOK بیشتر زمانی جذاب می‌شود که از قبل یکی از این‌ها را داشته باشید:

  • credit مربوط به Provider
  • اشتراک سرویس دیگر
  • قرارداد سازمانی
  • account یا commitment موجود

در این حالت می‌توانید از Provider خودتان استفاده کنید، در حالی که Kilo آن inference را به موجودی Kilo شما اضافه نمی‌کند.

اما این را با «ارزان‌تر بودن قطعی» اشتباه نگیرید.

چه زمانی مدل‌های رایگان مناسب‌اند؟

مدل‌های رایگان زمانی جذاب‌اند که task کم‌ریسک باشد و با rate limit یا تغییر availability مشکلی نداشته باشید.

مستندات فعلی Kilo می‌گویند مدل‌های رایگان برای کاربران anonymous نیز در دسترس‌اند و این کاربران در سطح Gateway با محدودیت ۲۰۰ request در ساعت به‌ازای هر IP مواجه‌اند؛ Provider ممکن است محدودیت جداگانه خودش را نیز داشته باشد.

بنابراین «۰ دلار برای request» الزاماً به معنی «بدون trade-off» نیست.

چه زمانی Local Model منطقی است؟

Kilo از مدل‌های local از طریق ابزارهایی مثل Ollama و LM Studio پشتیبانی می‌کند.

مدل local می‌تواند هزینه hosted inference را حذف کند، اما هزینه را ناپدید نمی‌کند. شما بخشی از هزینه را به این موارد منتقل می‌کنید:

  • hardware
  • برق
  • storage
  • setup
  • maintenance
  • performance

برای کسی که از قبل سخت‌افزار مناسب دارد، این trade-off می‌تواند منطقی باشد. برای بقیه، باید آن را به‌عنوان تصمیم زیرساختی بررسی کرد، نه یک گزینه کاملاً رایگان.

آیا Kilo Pass ارزش دارد؟

Kilo Pass برای کاربرانی طراحی شده که مصرف Kilo آن‌ها منظم و تکرارشونده است.

در حال حاضر، صفحه رسمی Kilo Pass این tierها را نشان می‌دهد:

  • Starter: ماهانه ۱۹ دلار
  • Pro: ماهانه ۴۹ دلار
  • Expert: ماهانه ۱۹۹ دلار

اشتراک به credit با نسبت ۱:۱ تبدیل می‌شود و bonus credit هم دارد. صفحه فعلی Kilo برای پلن ماهانه ۵۰٪ bonus در ماه اول و امکان رسیدن به ۴۰٪ bonus پس از افزایش streak را توضیح می‌دهد؛ پلن سالانه نیز ۵۰٪ bonus دارد.

این اعداد به قیمت‌گذاری فعلی مربوط‌اند و ممکن است تغییر کنند.

سؤال اقتصادی درست این نیست که:

«کدام پلن credit بیشتری می‌دهد؟»

بلکه این است:

«چه مقدار از credit را واقعاً قبل از expiration مصرف می‌کنم؟»

یک چارچوب ساده برای تحلیل:

usable_value =
paid_credits_used + bonus_credits_used

بعد این مقدار را با مصرف واقعی خود در حالت pay-as-you-go مقایسه کنید.

برای کاربر کم‌مصرف، خرید credit اضافی ممکن است منطقی نباشد. برای developerی که هر ماه مصرف نسبتاً ثابتی دارد، subscription می‌تواند قابل‌قبول‌تر باشد.

قبل از خرید، همیشه شرایط فعلی Kilo Pass را در صفحه رسمی بررسی کنید.

یک workflow عملی برای کاهش هزینه Kilo Code

برای کاهش هزینه لازم نیست ده‌ها setting را تغییر دهید.

این ترتیب معمولاً نقطه شروع خوبی است:

مرحله ۱ — task را دسته‌بندی کنید

از خودتان بپرسید:

  • task ساده است؟
  • reasoning سنگین دارد؟
  • failure آن پرهزینه است؟
  • verification آن آسان است؟

این پاسخ، نقطه شروع مدل را مشخص می‌کند.

مرحله ۲ — با tier مناسب شروع کنید

برای کارهای معمولی paid، Auto Efficient انتخاب شروع مناسبی است.

برای architecture و debugging سنگین، Auto Frontier را در نظر بگیرید.

برای taskهای کم‌ریسک و بدون credit، Auto Free گزینه منطقی است.

مرحله ۳ — task را محدود و قابل‌سنجش تعریف کنید

به‌جای:

«authentication را بهتر کن.»

بگویید:

«refresh-token rotation را اضافه کن، service مربوط به authentication را به‌روزرسانی کن، برای token reuse تست بنویس و test suite فعلی authentication را سبز کن.»

Task دوم نقطه پایان مشخصی دارد.

مرحله ۴ — فقط Context مرتبط را بدهید

ابتدا فایل‌های موردنیاز را وارد کنید.

لازم نیست کل repository را از همان ابتدا در اختیار Agent قرار دهید.

مرحله ۵ — Toolهای غیرضروری را حذف کنید

MCPهای بلااستفاده را خاموش کنید و خروجی‌های حجیم را محدود کنید.

مرحله ۶ — sessionهای طولانی را compact کنید

از /compact استفاده کنید یا اجازه دهید compaction خودکار مدیریت Context را انجام دهد.

مرحله ۷ — فقط در صورت نیاز مدل را ارتقا دهید

اگر مدل فعلی واقعاً در task مشکل دارد، رفتن به tier قوی‌تر می‌تواند منطقی‌تر از retryهای متعدد باشد.

معیار ارتقا باید نیاز واقعی task باشد.

مرحله ۸ — هزینه و نتیجه را با هم بررسی کنید

بعد از taskهای سنگین یا غیرعادی، usage را بررسی کنید:

  • مدل
  • input token
  • output token
  • cache
  • request cost
  • latency
  • retry

به‌مرور زمان از این داده‌ها الگوهای مصرف خودتان را پیدا می‌کنید.

هزینه هر task موفق را اندازه بگیرید

اگر بخواهید از توصیه‌های کلی فراتر بروید، می‌توانید یک مقایسه ساده بین دو workflow انجام دهید.

سؤال اصلی:

کدام workflow می‌تواند همان coding task را با هزینه کمتر و نتیجه قابل‌قبول‌تر تمام کند؟

چه چیزهایی باید ثابت بماند؟

برای مقایسه منصفانه:

  • commit یکسان repository
  • prompt یکسان
  • acceptance criteria یکسان
  • environment یکسان
  • test suite یکسان
  • نسخه Kilo یکسان
  • روش اندازه‌گیری یکسان

فقط یک متغیر را عوض کنید:

  • مدل
  • Context strategy
  • MCP configuration
  • compaction strategy
  • billing route

چه چیزهایی را ثبت کنیم؟

معیارچرا مهم است؟
هزینه کلنتیجه مالی مستقیم
Input Tokenمصرف Context
Output Tokenحجم خروجی مدل
Cache Hitمیزان استفاده از Context تکراری
Tool Calloverhead مربوط به agent
Retryنشانه rework
زمانسرعت workflow
موفقیتآیا task واقعاً تمام شد؟
اصلاح دستیهزینه‌ای خارج از قبض مدل

Kilo Gateway بسیاری از این metricهای قابل‌اندازه‌گیری را در usage data ارائه می‌کند.

فقط مدل‌ها را با هم مقایسه نکنید

به‌جای جدول‌هایی که فقط اسم مدل را رتبه‌بندی می‌کنند، workflow را مقایسه کنید:

WorkflowهزینهRequestTool CallRetryموفق؟اصلاح دستی
Workflow Aاندازه‌گیری شوداندازه‌گیری شوداندازه‌گیری شوداندازه‌گیری شودبله/خیراندازه‌گیری شود
Workflow Bاندازه‌گیری شوداندازه‌گیری شوداندازه‌گیری شوداندازه‌گیری شودبله/خیراندازه‌گیری شود

هدف این آزمایش پیدا کردن «بهترین مدل جهان» نیست.

هدف این است که بفهمید:

برای این نوع task، کدام workflow اقتصادی‌تر است؟

با benchmarkهای Kilo با احتیاط برخورد کنید

Kilo خودش benchmarkهایی برای Auto Efficient منتشر می‌کند. یک مقاله رسمی Kilo رقم ۴۶.۷٪ completion در Terminal Bench 2.0 و حدود ۰.۲۲ دلار به‌ازای هر task trial را در ارزیابی منتشرشده خودش گزارش می‌کند. این داده مربوط به benchmark خود Kilo و methodology همان benchmark است و نباید به‌عنوان تضمین هزینه برای workflow شما در نظر گرفته شود.

از طرف دیگر، صفحه فعلی Auto Efficient در Kilo رقم ۴۶.۷٪ completion و ۱۹.۶۰ دلار cost per attempt را برای Terminal Bench 2.0 نشان می‌دهد.

این دو عدد را نباید بدون بررسی تعریف measurement با هم یکی فرض کرد. خود عبارت‌های مورد استفاده نیز متفاوت‌اند: یک صفحه از task trial و صفحه دیگر از complete benchmark attempt صحبت می‌کند.

بنابراین نتیجه‌ای که می‌توان با اطمینان گرفت این است:

benchmarkهای Kilo برای نشان دادن trade-off بین capability و cost مفیدند، اما اعداد آن‌ها را نباید مستقیماً به هزینه واقعی repository خودتان تعمیم دهید.

برای هر بار استفاده از این اعداد، صفحه رسمی benchmark را دوباره بررسی کنید.

اشتباهات رایج در بهینه‌سازی هزینه Kilo Code

استفاده دائمی از Frontier

اگر task ساده است، استفاده از بالاترین سطح capability لزوماً منطقی نیست.

Kilo صراحتاً Auto Efficient را برای هزینه کمتر و Auto Frontier را برای capability بالاتر معرفی می‌کند.

دنبال کردن مدل رایگان بدون سنجش کل workflow

مدل رایگان ممکن است از نظر credit ارزان باشد، اما availability و rate limit و کیفیت خروجی روی کل task اثر می‌گذارند.

فقط این را مقایسه نکنید:

$0 در مقابل $0.20

این را مقایسه کنید:

برای رسیدن به نتیجه قابل‌قبول، کل workflow چقدر هزینه داشت؟

نگه داشتن یک session برای همیشه

conversationهای طولانی Context بیشتری مصرف می‌کنند و Kilo برای همین مشکل compaction و pruning دارد.

وقتی نوع کاری که انجام می‌دهید کاملاً عوض شده، یک session جدید و focused می‌تواند منطقی‌تر از حمل تمام history قبلی باشد.

فرستادن Context بیش از حد

Context بیشتر همیشه به معنی نتیجه بهتر نیست.

اطلاعاتی را بدهید که برای task لازم است، نه هر چیزی که در repository وجود دارد.

فعال نگه داشتن MCPهای غیرضروری

خود Kilo اشاره می‌کند که MCPهای بلااستفاده می‌توانند overhead سیستم prompt را بالا ببرند.

نادیده گرفتن Background inference

Autocomplete و taskهای پس‌زمینه هم می‌توانند AI request ایجاد کنند.

تمرکز فقط روی تعداد Token

این بزرگ‌ترین اشتباه است.

هدف این نیست که به هر قیمتی token کمتر مصرف کنید.

هدف این است:

به اندازه کافی capability و Context داشته باشید تا task به‌درستی انجام شود و در عین حال، کار غیرضروری را حذف کنید.

سوالات متداول

آیا Kilo Code رایگان است؟

پلتفرم Kilo Code برای کاربران Individual رایگان است و مسیرهای inference رایگان نیز وجود دارد، از جمله Auto Free و مدل‌های رایگان. با این حال، inference پولی، Kilo Pass و cloud compute می‌توانند هزینه داشته باشند.

ارزان‌ترین روش استفاده از Kilo Code چیست؟

یک پاسخ واحد وجود ندارد.

Auto Free و مدل‌های رایگان می‌توانند بدون مصرف credit پولی Kilo استفاده شوند. BYOK برای کسی که از قبل credit یا اشتراک Provider دارد جذاب است و مدل‌های local نیز می‌توانند هزینه hosted inference را حذف کنند. باید کل workflow را با توجه به task، Provider، availability و overhead مقایسه کنید.

آیا Auto Efficient از Auto Frontier ارزان‌تر است؟

Kilo در مستندات فعلی Auto Efficient را tier پرداختی با کمترین هزینه برای هر task و Auto Frontier را tier با بالاترین capability معرفی می‌کند. هزینه واقعی هر task همچنان به routing و کاری که انجام می‌شود بستگی دارد.

آیا Kilo Code روی قیمت مدل‌ها markup می‌گذارد؟

Kilo در حال حاضر می‌گوید Gateway از نرخ Providerها استفاده می‌کند و markup روی inference اعمال نمی‌کند. هزینه‌های دیگری مانند processing fee خرید credit، طبق صفحه قیمت فعلی، جداگانه هستند.

آیا BYOK ارزان‌تر است؟

ممکن است، به‌خصوص اگر از قبل credit، اشتراک یا قرارداد مناسبی با Provider داشته باشید. اما BYOK ذاتاً و در همه سناریوها ارزان‌تر نیست، چون هزینه inference را همچنان Provider از شما دریافت می‌کند.

آیا /compact هزینه Kilo Code را کم می‌کند؟

/compact فشار روی Context را کم می‌کند و می‌تواند حجم history قابل‌انتقال به requestهای بعدی را کاهش دهد. اما نباید برای آن درصد ثابت و تضمین‌شده‌ای از کاهش هزینه در نظر گرفت. اثر واقعی به session و Provider بستگی دارد.

آیا MCP می‌تواند هزینه Kilo Code را افزایش دهد؟

Kilo می‌گوید MCPهای بلااستفاده می‌توانند اندازه system prompt را افزایش دهند. میزان اثر مالی دقیق به toolها، مدل، Provider و الگوی request بستگی دارد.

آیا Autocomplete از credit Kilo استفاده می‌کند؟

Kilo در مستندات فعلی Codestral 2508 را به‌عنوان موتور Autocomplete معرفی می‌کند و برای پشتیبانی از Mistral BYOK نیز روشی برای جلوگیری از مصرف credit Kilo ارائه کرده است. این قابلیت را می‌توان کاملاً غیرفعال نیز کرد.

آیا مدل‌های رایگان Kilo همیشه ثابت می‌مانند؟

خیر. Kilo اعلام می‌کند که availability مدل‌های رایگان با تغییر شرایط Providerها تغییر می‌کند. برای فهرست جاری بهتر است به مدل‌های زنده Kilo مراجعه کنید.

آیا Kilo Pass از pay-as-you-go ارزان‌تر است؟

این موضوع به میزان مصرف شما بستگی دارد.

Kilo Pass در حال حاضر از ۱۹ دلار در ماه شروع می‌شود و bonus credit نیز دارد. برای تصمیم‌گیری باید مصرف واقعی ماهانه خود و شرایط فعلی bonus و expiration را با هزینه pay-as-you-go مقایسه کنید.

برای نتیجه بهتر، نه فقط Token کمتر، بهینه کنید

Kilo Code ابزارهای مختلفی برای کنترل هزینه در اختیار شما می‌گذارد:

  • انتخاب tier مناسب در Auto Model
  • محدود نگه داشتن Context
  • استفاده از compaction
  • حذف MCPهای غیرضروری
  • استفاده از caching در Providerهای پشتیبانی‌شده
  • انتخاب بین BYOK، مدل رایگان، مدل local، Gateway و Kilo Pass بر اساس نوع مصرف
  • بررسی usage و هزینه requestها

اما هیچ setting واحدی وجود ندارد که برای همه کاربران بهترین باشد.

workflow پایدارتر این است:

task را دسته‌بندی کنید → tier مناسب را انتخاب کنید → هدف task را مشخص کنید → Context مرتبط بدهید → Toolهای غیرضروری را حذف کنید → در sessionهای طولانی compact کنید → فقط در صورت نیاز مدل را ارتقا دهید → هزینه و نتیجه را با هم بررسی کنید.

این رویکرد حتی وقتی قیمت مدل‌ها، مدل‌های رایگان یا routing داخلی Kilo تغییر می‌کنند هم کاربردش را حفظ می‌کند.

پس بعد از یک session گران، فقط نپرسید:

«چند Token مصرف کردم؟»

سؤال بهتر این است:

«برای رسیدن به کدی که واقعاً کار کند، چقدر هزینه کردم؟»

همین عدد، معیار بهتری برای بهینه‌سازی هزینه Kilo Code است.

نظر شما چیه؟

در حال بارگذاری ...