पाठ 3 / 25
Model Request की संरचना
हिस्सों के नाम रखें ताकि उन्हें अलग से budget और test कर सकें।
छह निर्माण खंड
एक आम request में होते हैं: (1) system निर्देश (भूमिका, नियम, format); (2) tool परिभाषाएँ (नाम, विवरण, parameter schemas, जो tokens भी लेती हैं); (3) उदाहरण (few-shot प्रदर्शन); (4) बातचीत history; (5) retrieved या डाली गई सामग्री (दस्तावेज़, database rows, tool परिणाम); और (6) वर्तमान उपयोगकर्ता अनुरोध। हर खंड का अलग मालिक, बदलाव-दर और भरोसा-स्तर है: निर्देश आपके और स्थिर हैं, दस्तावेज़ प्रति अनुरोध बदलते हैं, उपयोगकर्ता इनपुट और tool आउटपुट अविश्वसनीय हैं। इन्हें अपने budget, versioning और tests वाले अलग घटक मानें।
एक नज़र में खंड
हर खंड का मालिक, बदलाव-दर और भरोसा।
block owner changes trust
system rules you per release trusted
tool definitions you per release trusted
examples you per release / per request (selected) trusted
history users+model every turn mixed
documents/results data, tools every request UNTRUSTED content
user request user every request UNTRUSTEDTool schemas भी गिनें
बीस विस्तृत tool परिभाषाएँ हर call पर हज़ारों tokens ले सकती हैं; सिर्फ़ वर्तमान चरण के लिए ज़रूरी tools शामिल करें।
त्वरित जाँच: किस खंड को अविश्वसनीय मानना चाहिए?
- आपके निश्चित उदाहरण
- आपके समीक्षित system नियम
- आपकी tool परिभाषाएँ
- Retrieved दस्तावेज़ और tool परिणाम
Answer
Retrieved दस्तावेज़ और tool परिणाम — आपके code के बाहर से आई सामग्री में कुछ भी हो सकता है, निर्देश समेत।