पाठ 20 / 29
बातचीत की स्मृति और सार
Window भरे बिना लंबी बातचीत संगत रखें।
लेखक: Rahul Agarwal · 15 साल से वेब डेवलपर
जो मायने रखता है वह याद रखें
Calls के बीच मॉडल stateless हैं, इसलिए "स्मृति" आपको बनानी पड़ती है। विकल्प: अंतिम N turns भेजें (सरल, शुरुआती तथ्य भूलता है); पुराने turns का चलता सार और हाल वाले शब्दशः रखें; टिकाऊ तथ्य और पसंद (नाम, भाषा, परियोजना) छोटी संरचित profile में रखें जिसे आप हमेशा शामिल करें; या वर्तमान सवाल से संबंधित पुराने संदेश retrieve करें। सार ब्योरे छोड़ या बिगाड़ सकते हैं, इसलिए मुख्य तथ्य अलग रखें, users को संचित स्मृति देखने व संपादित करने दें, और स्पष्ट उद्देश्य व सहमति के बिना संवेदनशील डेटा न रखें।
Users को संचित स्मृति देखने दें
सहायक सत्रों के बीच कुछ याद रखे तो उसे दिखाएँ और संपादन या हटाने दें।
त्वरित जाँच: बातचीत की स्मृति आपको क्यों बनानी पड़ती है?
- मॉडल में tokens नहीं होते
- मॉडल पिछली calls ख़ुद याद नहीं रखता
- स्मृति अवैध है
- APIs इतिहास मना करती हैं
Answer
मॉडल पिछली calls ख़ुद याद नहीं रखता — हर API call सिर्फ़ वही देखती है जो आप उसमें शामिल करें।