1. ताज़े, बदलते तथ्य जोड़ने में कौन-सा उत्तोलक सबसे भरोसेमंद है?
- शैली पर लंबा prompt
- Fine-tuning
- Retrieval (RAG)
- Temperature बढ़ाना
जवाब देखें
जवाब: Retrieval (RAG)
Retrieval सवाल के समय वर्तमान, स्रोत-योग्य तथ्य लाता है।
Fine-tuning बनाम Prompting कोर्स के 27 सवाल, हर सवाल के सही जवाब और explanation के साथ। जवाब देखने से पहले ख़ुद सोचें।
जवाब: Retrieval (RAG)
Retrieval सवाल के समय वर्तमान, स्रोत-योग्य तथ्य लाता है।
जवाब: यह तेज़, सस्ती और पलटने योग्य है, और अक्सर काफ़ी है
वह सबसे सस्ता क़दम उपयोग करें जो लक्ष्य पूरा करे।
जवाब: हज़ारों labelled उदाहरणों के साथ invoice fields को कड़े schema में निकालना
संकरे, दोहराए, मापने योग्य कार्य जिनके पास भरपूर उदाहरण हों, प्रशिक्षण के लिए उपयुक्त हैं।
जवाब: Prompting पर बने रहना
कम मात्रा पर स्थिर प्रशिक्षण लागत वसूल नहीं होती।
जवाब: मॉडल prompt के उदाहरणों से पैटर्न के अनुसार ढलता है, कोई weights नहीं बदलते
Prompt के उदाहरण सिर्फ़ उसी call के लिए व्यवहार मोड़ते हैं।
जवाब: प्रशिक्षित मॉडल वहाँ सुधरता रह सकता है जहाँ उदाहरण-मिलान चपटा हो जाता है
अपना वक्र जाँचें: डेटा के साथ सटीकता अब भी चढ़ती हो तो प्रशिक्षण फलदायी हो सकता है।
पाठ: Learning Curves: जब प्रशिक्षण prompt के उदाहरणों से आगे निकलता है
जवाब: Prompt caching और प्रति अनुरोध सिर्फ़ सबसे प्रासंगिक उदाहरण चुनना
सस्ती prompting अक्सर fine-tuning का लागत-तर्क हटा देती है।
जवाब: Weights, वांछित उदाहरण आउटपुट पर loss घटाने के लिए
प्रशिक्षण weights को इस तरह समायोजित करता है कि लक्ष्य उत्तर अधिक संभावित हों।
जवाब: Learning rate बहुत अधिक है (या डेटा/batch ख़राब है)
Learning rate घटाएँ और डेटा व logs जाँचें।
जवाब: जमा weights में जोड़े छोटे low-rank matrices
Adapter संक्षिप्त अद्यतन सीखता है जबकि बेस जमा रहता है।
जवाब: प्रशिक्षण प्रदर्शन सुधरता रहता है जबकि validation रुकता या बिगड़ता है
डेटा अलग रखें और अंतर देखें।
जवाब: चुने बनाम अस्वीकृत के रूप में labelled उत्तरों की जोड़ियाँ
तुलनाएँ सिखाती हैं कौन-से व्यवहार पसंद हैं।
जवाब: मानव-सत्यापित test डेटा पर, सिर्फ़ teacher से सहमति पर नहीं
Teacher की ग़लतियों से मेल खाना लक्ष्य नहीं; सही होना है।
जवाब: सैकड़ों साफ़, एकसमान उदाहरण
गुणवत्ता और एकरूपता कच्ची मात्रा से अधिक मायने रखती है।
जवाब: भुगतान वाले प्रशिक्षण run से पहले format त्रुटियाँ सस्ते में पकड़ी जाती हैं
सस्ती स्थानीय जाँचें व्यर्थ runs से बचाती हैं।
जवाब: बँटवारे के दोनों तरफ़ संबंधित या दोहराए rows, जो score फुला देते हैं
उस इकाई से बाँटें जो अनदेखी रहनी चाहिए।
जवाब: पहले के डेटा का नमूना replay करना, कम learning rate या LoRA
पुराना व्यवहार प्रशिक्षण और मूल्यांकन दोनों में रखें।
जवाब: तथ्य बिना दोबारा प्रशिक्षण के अद्यतन, उद्धृत और पहुँच-नियंत्रित हो सकते हैं
ज्ञान को weights के बाहर रखें।
जवाब: Tuning बेस मॉडल का सुरक्षा व्यवहार कमज़ोर कर सकती है
Weights में हर बदलाव के बाद सुरक्षा जाँचें।
जवाब: उसी test set पर आपके सबसे अच्छे prompt और उदाहरणों वाला बेस मॉडल
अपने सर्वश्रेष्ठ विकल्प को हराएँ, पुतले को नहीं।
जवाब: एक अकेला headline score अन्य आयामों में regressions छिपा सकता है
कई आयाम साथ देखें।
जवाब: छोटी adapters एक साझा बेस मॉडल पर बदली जा सकती हैं
साझा base पर प्रति-कार्य छोटे deltas memory बचाते हैं।
जवाब: सस्ती prompting अब भी बजट से ऊपर थी और डेटा के साथ learning curve अब भी बढ़ रही थी
उत्साह नहीं, सीढ़ी के प्रमाण ने क़दम को उचित ठहराया।
जवाब: Weights, डेटा के स्थान और serving पर आपका नियंत्रण
नियंत्रण के साथ संचालन की ज़िम्मेदारी आती है।
जवाब: ताकि मॉडल दोबारा बनाया, तुलना और rollback किया जा सके
पुनरुत्पादन ही दोबारा प्रशिक्षण को सुरक्षित बनाता है।
जवाब: मज़बूत prompted baseline और मूल्यांकन set छोड़ देना
निष्पक्ष baseline के विरुद्ध प्रमाण ही मूल अनुशासन है।
पाठ: आम Pitfalls
जवाब: कुछ भी प्रशिक्षित करने से पहले बनाएँ
माप के बिना आप नहीं जान सकते कि tuning ने मदद की या नहीं।
पाठ: निर्णय Checklist