# अर्थशास्त्र: Break-Even मात्रा — Fine-tuning बनाम Prompting

Source: https://www.skillbyai.com/hi/fine-tuning/d-cost

> बेस मॉडल पर लंबे prompt की तुलना tuned पर छोटे prompt से करें।

## प्रशिक्षण स्थिर लागत है; बचत प्रति call है

Fine-tuning की **एकमुश्त लागत** है (डेटा तैयारी व समीक्षा, प्रशिक्षण, मूल्यांकन, engineering समय) और tuned मॉडल की शायद अलग प्रति-token क़ीमत। लाभ **प्रति call** है: छोटा prompt, सस्ता मॉडल, कम retries, कम latency। इसलिए एक **break-even मात्रा** है। उससे नीचे prompting लागत में जीतती है; ऊपर प्रशिक्षण भरपाई कर सकता है। छिपी लागतें भी गिनें: डेटासेट का रखरखाव, बेस मॉडल सेवानिवृत्त होने पर दोबारा प्रशिक्षण, और हर बार मूल्यांकन। नीचे की क़ीमतें गढ़े placeholders हैं।

## Break-even गणना, चलाकर

मैंने यह सादे Python 3 (सिर्फ़ standard library) से उदाहरण संख्याओं के साथ चलाया। गढ़ी क़ीमतों के साथ 3,500-token के few-shot prompt की लागत प्रति call $0.01275 है; जिस tuned मॉडल को सिर्फ़ 400 prompt tokens चाहिए (मानी 1.5x प्रति-token क़ीमत) उसकी $0.00517, यानी $0.00757 की बचत। $800 का एकमुश्त निवेश लगभग 105,600 calls पर break-even होता है।

```python
# Break-even between a long few-shot prompt and a fine-tuned model that needs a short prompt. All prices are examples.
price_in, price_out = 3.0, 15.0          # base model, USD per million tokens
ft_mult = 1.5                            # assume the fine-tuned model costs 1.5x per token to serve
long_prompt, short_prompt, out_tokens = 3500, 400, 150
train_cost = 800.0                       # one-off cost of preparing data + training + evaluating (example)

per_call_base = (long_prompt * price_in + out_tokens * price_out) / 1e6
per_call_ft = ((short_prompt * price_in + out_tokens * price_out) * ft_mult) / 1e6
saving = per_call_base - per_call_ft
print(f"base model + long prompt: ${per_call_base:.5f} per call")
print(f"fine-tuned + short prompt: ${per_call_ft:.5f} per call  (saves ${saving:.5f})")
print(f"break-even volume: {train_cost / saving:,.0f} calls")
for calls in (50_000, 200_000, 1_000_000):
    print(f"  {calls:>9,} calls: net {calls * saving - train_cost:>+10,.0f}")

```

Output:

```
base model + long prompt: $0.01275 per call
fine-tuned + short prompt: $0.00517 per call  (saves $0.00757)
break-even volume: 105,611 calls
     50,000 calls: net       -421
    200,000 calls: net       +715
  1,000,000 calls: net     +6,775
```

## पहले सस्ते prompt की क़ीमत आँकें

tuning सस्ती है यह मानने से पहले लंबे prompt की क़ीमत prompt caching और प्रति-अनुरोध उदाहरण चयन के साथ आँकें; दोनों तर्क हटा सकते हैं।

**Quiz:** Break-even मात्रा से नीचे आम तौर पर कौन-सा विकल्प सस्ता है?

- [ ] Fine-tuning
- [x] Prompting पर बने रहना
- [ ] दोनों की लागत ठीक समान
- [ ] दोनों की तुलना नहीं हो सकती

*Answer:* Prompting पर बने रहना. कम मात्रा पर स्थिर प्रशिक्षण लागत वसूल नहीं होती।