पाठ 2 / 29
मॉडल आपका Prompt कैसे पढ़ते हैं
Tokens, context और शब्दांकन नतीजे क्यों बदलता है, समझें।
लेखक: Rahul Agarwal · 15 साल से वेब डेवलपर
Tokens अंदर, संभावनाएँ बाहर
मॉडल आपके prompt को tokens में बाँटता है, अपनी context window के भीतर सब एक साथ पढ़ता है, फिर उत्तर एक-एक token करके बनाता है, हर एक उस सबके आधार पर बने संभावना वितरण से चुना जाता है जो पहले आ चुका। परिणाम: (1) वह सिर्फ़ prompt और अपने प्रशिक्षण में जो है वही जानता है, इसलिए छूटे तथ्य आपको देने होंगे; (2) शब्दांकन के छोटे बदलाव संभावनाएँ खिसकाकर उत्तर बदल सकते हैं; (3) शुरुआत और अंत के पास का पाठ अक्सर बहुत लंबे बीच में दबे ब्योरों से अधिक भरोसे से उपयोग होता है; (4) sampling तय न हो तो उत्तर हर बार एक-से होने की गारंटी नहीं।
जो नहीं कहा उसे कहें
जिस बात पर इंसान स्पष्टीकरण माँगता, उसका उत्तर prompt में चाहिए। दर्शक, बाधाएँ और परिभाषाएँ शामिल करें।
त्वरित जाँच: मॉडल जो तथ्य नहीं जानता उन्हें क्यों शामिल करें?
- उसके पास सिर्फ़ prompt और प्रशिक्षण है, आपका निजी डेटा नहीं
- मॉडल अपना प्रशिक्षण भूल जाते हैं
- तथ्य उत्तर छोटा करते हैं
- यह HTTP का नियम है
Answer
उसके पास सिर्फ़ prompt और प्रशिक्षण है, आपका निजी डेटा नहीं — छूटे तथ्य अनुमान की ओर ले जाते हैं, इसलिए उन्हें prompt में दें।