1. बारी का कौन-सा चरण model के माँगे tools चलाता है?
- Call
- Act
- Append
- Inspect
जवाब देखें
जवाब: Act
Call model से पूछता है, inspect उसका stop reason पढ़ता है, act tools चलाता है, और append नतीजे दर्ज करता है।
पाठ: एक बारी की संरचना
Agent Loops, Stop Conditions और Token Budgets कोर्स के 27 सवाल, हर सवाल के सही जवाब और explanation के साथ। जवाब देखने से पहले ख़ुद सोचें।
जवाब: Act
Call model से पूछता है, inspect उसका stop reason पढ़ता है, act tools चलाता है, और append नतीजे दर्ज करता है।
पाठ: एक बारी की संरचना
जवाब: Reply आपकी output सीमा पर कट सकती है
इसका मतलब है कि generation output सीमा पर पहुँचा, इसलिए सामग्री अधूरी हो सकती है।
पाठ: stop_reason पढ़ना
जवाब: 55,000
चूँकि इतिहास दोबारा भेजा जाता है, कुल 1,000 × (1 + … + 10) = 55,000 है।
जवाब: बिखरी जाँचें भूलना या असंगत लगाना आसान है
सीमाओं का एक मालिक जाँचों को एक-सा रखता है और रुकने का कारण बताना आसान करता है।
पाठ: हर Guard वाला Loop
जवाब: Test suite पास होती है
पास होती test suite ऐसा प्रमाण है जिसे कोड जाँच सकता है; दावा नहीं।
जवाब: घड़ी के समय की सीमा
अटका call कम steps और tokens लेता है पर असली समय बहुत लेता है।
जवाब: वही tool call उन्हीं arguments के साथ दोहराना
यह हाल के एक-जैसे calls गिनता है और कहीं न पहुँचते loop को चिह्नित करता है।
पाठ: प्रगति न होना पकड़ना
जवाब: बारियों के बीच, सुरक्षित बिंदु पर
बारियों के बीच जाँचने से अधूरे side effects नहीं बचते।
जवाब: Response का usage object
API हर response के लिए सटीक input और output token गिनती बताता है।
पाठ: Tokens गिनना
जवाब: इतिहास window भर दे तो उत्तर के लिए जगह नहीं बचती
Input और output window साझा करते हैं, इसलिए reply के लिए पक्की जगह चाहिए।
जवाब: लंबे replies की अनुमति देता है पर मजबूर नहीं करता
यह reply की लंबाई की ऊपरी सीमा बढ़ाता है; model काम पूरा होते ही फिर भी रुकता है।
जवाब: स्थिर prefix के बाद
सिर्फ़ एक-सा prefix ही दोबारा उपयोग हो सकता है, इसलिए बदलते हिस्से उसके बाद आएँ।
पाठ: Prompt Caching
जवाब: वह हर आगामी बारी में दोबारा भेजा जाता है
इतिहास हर बारी दोबारा भेजा जाता है, इसलिए बड़ा result हटाए जाने तक tokens ख़र्च कराता रहता है।
पाठ: Tool Results छाँटना
जवाब: मूल काम
मूल लक्ष्य खोने से बाक़ी काम दिशाहीन हो जाता है।
जवाब: सिर्फ़ छोटा संदर्भ, जैसे path और विवरण
छोटा handle context को हल्का रखता है जबकि डेटा माँगने पर उपलब्ध रहता है।
जवाब: चुपचाप ज़्यादा ख़र्च
सिर्फ़ कुल budget उस ख़र्च को पकड़ता है जो कई व्यक्तिगत रूप से ठीक steps में जमा होता है।
जवाब: 429 Too Many Requests
Rate limits अस्थायी हैं; बाक़ी तब तक उसी तरह विफल होंगे जब तक अनुरोध न बदले।
जवाब: यह पकड़ने के लिए कि model छटपटा रहा है और सुधर नहीं रहा
बिना सफलता के विफलताओं की कड़ी का मतलब है कि और retries शायद मदद नहीं करेंगे।
जवाब: ताकि model और काम शुरू करने की जगह सार लिखे
Tools के बिना एकमात्र संभव output अंतिम text है।
जवाब: Resume आख़िरी step दोहरा सकता है
आख़िरी step चला पर दर्ज नहीं हुआ तो दूसरी बार चलने से दोहरे प्रभाव नहीं होने चाहिए।
जवाब: लक्ष्य, क्या आज़माया, आख़िरी error, स्थिति और सुझाया अगला कदम
संरचित सार इंसान को इतिहास दोबारा बनाए बिना कार्रवाई करने देता है।
पाठ: इंसान तक पहुँचाना
जवाब: यह देखने के लिए कि runs कैसे ख़त्म होते हैं और कौन-सी सीमाएँ छुई जा रही हैं
Stop reasons पैटर्न दिखाते हैं, जैसे बार-बार token-budget पर रुकना जो context की समस्या की ओर इशारा करता है।
पाठ: काम के Metrics
जवाब: यह tests को तेज़, मुफ़्त और दोहराने योग्य बनाता है
Scripted replies loop का तर्क निश्चित और जाँचने में सस्ता बनाती हैं।
जवाब: बड़ा page text हर बारी दोबारा भेजा जाता है और ख़र्च बढ़ाता है
बड़े tool results हर आगामी बारी में दोबारा भेजे जाते हैं, इसलिए उन्हें सीमित करना कुल ख़र्च नियंत्रित करता है।
जवाब: घड़ी का timeout
धीमे या अटके tools समय खाते हैं, steps या tokens नहीं।
जवाब: stop_reason "max_tokens"
Output सीमा पर पहुँचा reply कटा होता है, और loop को उस मामले को स्पष्ट रूप से सँभालना चाहिए।
जवाब: हर बारी जाँचा जाने वाला कुल token या cost budget
सिर्फ़ संचयी budget उस ख़र्च को पकड़ता है जो कई छोटे steps में जुड़ता है।