Fine-tuning बनाम Prompting

आप क्या सीखेंगे

• साक्ष्य-आधारित निर्णय सीढ़ी से prompting, retrieval और fine-tuning में चुन सकेंगे।
• समझा सकेंगे कि SFT, learning rate, LoRA, preference tuning और distillation मॉडल को कैसे बदलते हैं।
• शोर या leakage के बिना प्रशिक्षण डेटा तैयार, validate और split कर सकेंगे।
• Overfitting, catastrophic forgetting और सुरक्षा regressions पहचानकर early stopping व replay जैसे उपाय लगा सकेंगे।
• Tuned मॉडल की मज़बूत prompted baseline से तुलना और break-even मात्रा की गणना कर सकेंगे।
• Tuned मॉडल के serving, versioning, monitoring और सेवानिवृत्ति की योजना बना सकेंगे।

पाठ्यक्रम

Prompting, Retrieval और Fine-Tuning में चुनाव

1. तीन उत्तोलक और हर एक क्या बदलता है
2. निर्णय सीढ़ी: पहले सबसे सस्ता प्रभावी क़दम
3. Fine-Tuning कब सही औज़ार है
4. अर्थशास्त्र: Break-Even मात्रा

Prompting कहाँ तक जाती है

1. Few-Shot Prompting: In-Context Learning
2. Learning Curves: जब प्रशिक्षण prompt के उदाहरणों से आगे निकलता है
3. लंबे Prompts की लागत और Prompt Caching

Fine-Tuning कैसे काम करती है

1. Supervised Fine-Tuning (SFT) सरल शब्दों में
2. Learning Rate: सबसे संवेदनशील knob
3. LoRA और Parameter-Efficient Fine-Tuning
4. Overfitting, Epochs और Early Stopping
5. Preference Tuning: RLHF और DPO
6. Distillation: बड़े मॉडल से छोटे को सिखाना

प्रशिक्षण डेटा: असली काम

1. Label गुणवत्ता: शोर सटीकता घटाता है
2. Dataset Format और Validation (JSONL)
3. Leakage के बिना Train, Validation और Test बँटवारे

जोखिम: Forgetting, तथ्य और सुरक्षा

1. Catastrophic Forgetting और Replay
2. तथ्य जोड़ने के लिए Fine-Tuning कमज़ोर तरीक़ा है
3. प्रशिक्षण डेटा की सुरक्षा, गोपनीयता और licensing

Tuned मॉडल का मूल्यांकन और संचालन

1. हमेशा मज़बूत prompted baseline से तुलना करें
2. कार्य के लिए मीट्रिक चुनना
3. Tuned मॉडल serve करना: Merged Weights और Adapters

व्यवहार में लाना

1. Case Study: Support Ticket Routing
2. Hosted Fine-Tuning बनाम Open-Source प्रशिक्षण
3. Versioning, Drift और सेवानिवृत्ति

Pitfalls और अंतिम Checklist

1. आम Pitfalls
2. निर्णय Checklist