पाठ 2 / 29

मॉडल आपका Prompt कैसे पढ़ते हैं

Tokens, context और शब्दांकन नतीजे क्यों बदलता है, समझें।

लेखक: · 15 साल से वेब डेवलपर

Tokens अंदर, संभावनाएँ बाहर

मॉडल आपके prompt को tokens में बाँटता है, अपनी context window के भीतर सब एक साथ पढ़ता है, फिर उत्तर एक-एक token करके बनाता है, हर एक उस सबके आधार पर बने संभावना वितरण से चुना जाता है जो पहले आ चुका। परिणाम: (1) वह सिर्फ़ prompt और अपने प्रशिक्षण में जो है वही जानता है, इसलिए छूटे तथ्य आपको देने होंगे; (2) शब्दांकन के छोटे बदलाव संभावनाएँ खिसकाकर उत्तर बदल सकते हैं; (3) शुरुआत और अंत के पास का पाठ अक्सर बहुत लंबे बीच में दबे ब्योरों से अधिक भरोसे से उपयोग होता है; (4) sampling तय न हो तो उत्तर हर बार एक-से होने की गारंटी नहीं।

जो नहीं कहा उसे कहें

जिस बात पर इंसान स्पष्टीकरण माँगता, उसका उत्तर prompt में चाहिए। दर्शक, बाधाएँ और परिभाषाएँ शामिल करें।

त्वरित जाँच: मॉडल जो तथ्य नहीं जानता उन्हें क्यों शामिल करें?

  • उसके पास सिर्फ़ prompt और प्रशिक्षण है, आपका निजी डेटा नहीं
  • मॉडल अपना प्रशिक्षण भूल जाते हैं
  • तथ्य उत्तर छोटा करते हैं
  • यह HTTP का नियम है
Answer

उसके पास सिर्फ़ prompt और प्रशिक्षण है, आपका निजी डेटा नहीं — छूटे तथ्य अनुमान की ओर ले जाते हैं, इसलिए उन्हें prompt में दें।