तीन उत्तोलक और हर एक क्या बदलता है

निर्देश, ज्ञान, व्यवहार

Prompting इनपुट बदलती है (निर्देश, उदाहरण, format); मॉडल अछूता रहता है, इसलिए बदलाव तुरंत और पलटने योग्य हैं। Retrieval (RAG) भी इनपुट बदलता है, सवाल के समय वह ज्ञान जोड़कर जो मॉडल के पास नहीं। Fine-tuning मॉडल को ही बदलती है: आपके उदाहरणों पर जारी प्रशिक्षण weights खिसकाता है और इसलिए उसका डिफ़ॉल्ट व्यवहार (शैली, format, संकरे कौशल)। ग़ायब या बदलते तथ्य retrieval की ओर, अस्पष्ट निर्देश prompting की ओर, और वह एकसमान व्यवहार जो prompt भरोसे से नहीं दे पाता, fine-tuning की ओर इशारा करते हैं। ये मिलकर अच्छा काम करते हैं: tuned मॉडल भी retrieval उपयोग कर सकता है।

इनपुट बदलें, ज्ञान जोड़ें, या मॉडल बदलें

तीन उत्तोलक LLM system को अलग तरीक़ों से और बहुत अलग लागत पर बदलते हैं।

कौन-सी समस्या के लिए कौन-सा उत्तोलक

पहला मार्गदर्शन; हमेशा मूल्यांकन से पुष्टि करें।

Symptom                                                Likely lever
answers lack our private / recent facts                 RAG (retrieval)
model ignores or misreads instructions                  better prompt, examples, structure
format/tone drifts despite clear instructions            few-shot first; then fine-tune
prompt is huge (many examples) and costs too much        fine-tune a smaller model
need a narrow skill a general model does poorly          fine-tune (with enough good data)
model does not know the topic at all                     stronger model and/or retrieval

पहले कमी का नाम लें

लीवर चुनने से पहले लिखें कि विफलता तथ्यों, निर्देशों या व्यवहार की है; अधिकांश व्यर्थ fine-tuning छूटे निदान से शुरू होती है।

त्वरित जाँच: ताज़े, बदलते तथ्य जोड़ने में कौन-सा उत्तोलक सबसे भरोसेमंद है?

• शैली पर लंबा prompt
• Fine-tuning
• Retrieval (RAG)
• Temperature बढ़ाना