Large Language Models Interview Questions Hindi mein

Large Language Models कोर्स के 29 सवाल, हर सवाल के सही जवाब और explanation के साथ। जवाब देखने से पहले ख़ुद सोचें।

LLM क्या है

1. LLM किस बुनियादी कार्य के लिए प्रशिक्षित होता है?

  1. SQL queries चलाना
  2. तथ्य database में उत्तर खोजना
  3. पिछले tokens को देखकर अगला token अनुमानित करना
  4. Images compress करना
जवाब देखें

जवाब: पिछले tokens को देखकर अगला token अनुमानित करना

LLM जो भी बनाता है वह बार-बार अगला-token अनुमान लगाकर बनता है।

पाठ: Large Language Model क्या है

2. कौन-सा चरण आम तौर पर सबसे महँगा है?

  1. Pretraining
  2. Prompt लिखना
  3. UI render करना
  4. Spell checking
जवाब देखें

जवाब: Pretraining

Pretraining डेटा और मॉडल के आकार के कारण अधिकांश compute खाता है।

पाठ: मॉडल का जीवन: Pretraining से Chat तक

3. BPE बार-बार क्या करता है?

  1. वर्णमाला sort करता है
  2. दुर्लभ अक्षर हटाता है
  3. शब्दों का अनुवाद करता है
  4. सबसे आम पास-पास की जोड़ी को नए token में मिलाता है
जवाब देखें

जवाब: सबसे आम पास-पास की जोड़ी को नए token में मिलाता है

आम जोड़ियाँ मिलाने से उपयोगी टुकड़ों की शब्दावली बनती है।

पाठ: Tokens और Byte-Pair Encoding

4. Hallucination क्या है?

  1. GPU का गरम होना
  2. आत्मविश्वास से दिया गया झूठा या गढ़ा हुआ आउटपुट
  3. धीमा network
  4. Prompt compress करना
जवाब देखें

जवाब: आत्मविश्वास से दिया गया झूठा या गढ़ा हुआ आउटपुट

मॉडल विश्वसनीय लगने वाला पाठ बनाता है, सत्यापित तथ्य नहीं।

पाठ: LLMs किसमें अच्छे और किसमें कमज़ोर हैं

पाठ से संभावनाओं तक

5. Cosine similarity का 1 के पास होना क्या दर्शाता है?

  1. Vectors असंबंधित हैं
  2. Vectors लगभग एक ही दिशा में हैं
  3. पाठ लंबा है
  4. मॉडल बड़ा है
जवाब देखें

जवाब: Vectors लगभग एक ही दिशा में हैं

समान अर्थ embedding space में समान दिशा देता है।

पाठ: Embeddings और समानता

6. Temperature बढ़ाने से क्या होता है?

  1. Tokens हटाता है
  2. मॉडल को बड़ा बनाता है
  3. सही उत्तरों की गारंटी देता है
  4. वितरण चपटा करता है, आउटपुट को ज़्यादा विविध बनाता है
जवाब देखें

जवाब: वितरण चपटा करता है, आउटपुट को ज़्यादा विविध बनाता है

अधिक temperature संभावना को ज़्यादा tokens में फैलाता है।

पाठ: Logits, Softmax और Temperature

7. Top-p sampling क्या रखता है?

  1. tokens का सबसे छोटा समूह जिसकी संभावनाओं का योग कम से कम p हो
  2. ठीक p tokens
  3. सिर्फ़ आख़िरी token
  4. हर token
जवाब देखें

जवाब: tokens का सबसे छोटा समूह जिसकी संभावनाओं का योग कम से कम p हो

रखे गए समूह का आकार इस पर निर्भर है कि मॉडल कितना आश्वस्त है।

पाठ: Sampling: Greedy, Top-k और Top-p

8. Bigram model अगला शब्द अनुमानित करने को क्या उपयोग करता है?

  1. Images
  2. तथ्यों का database
  3. पिछले शब्द के बाद कौन-सा शब्द आया उसकी गिनतियाँ
  4. Compiler
जवाब देखें

जवाब: पिछले शब्द के बाद कौन-सा शब्द आया उसकी गिनतियाँ

यह शब्द-जोड़ी आवृत्तियों से संभावनाएँ आँकता है।

पाठ: चलाने योग्य छोटा Language Model

9. Perplexity 1 का मतलब…

  1. पाठ में एक token है
  2. मॉडल कुछ नहीं जानता
  3. मॉडल पाठ को सटीक अनुमानित करता है
  4. मॉडल पक्षपाती है
जवाब देखें

जवाब: मॉडल पाठ को सटीक अनुमानित करता है

Perplexity 1 हर सही अगले token को संभावना 1 देने के बराबर है।

पाठ: Loss और Perplexity

Transformer

10. Attention में softmax weights किससे गुणा होते हैं?

  1. Value vectors
  2. Tokenizer
  3. GPU
  4. Prompt
जवाब देखें

जवाब: Value vectors

आउटपुट values का भारित योग है, weights query-key scores से आते हैं।

पाठ: Self-Attention: Queries, Keys, Values

11. Causal mask क्या रोकता है?

  1. Embedding
  2. Tokenisation
  3. Softmax
  4. Token का बाद के tokens पर attend करना
जवाब देखें

जवाब: Token का बाद के tokens पर attend करना

मॉडल को अगले token को देखे बिना अनुमानित करना है।

पाठ: Causal Masking और Generation

12. Transformer में positions क्यों जोड़ी जाती हैं?

  1. शब्दावली घटाने के लिए
  2. अकेला attention शब्द-क्रम नहीं जानता
  3. Images compress करने के लिए
  4. पाठ encrypt करने के लिए
जवाब देखें

जवाब: अकेला attention शब्द-क्रम नहीं जानता

स्थिति-जानकारी के बिना किसी भी क्रम के वही शब्द एक जैसे दिखते हैं।

पाठ: Layers, Feed-Forward Blocks और Positions

13. KV cache क्या रखता है?

  1. User का password
  2. पिछले tokens की keys और values, ताकि दोबारा गणना न हो
  3. प्रशिक्षण डेटा
  4. Tokenizer नियम
जवाब देखें

जवाब: पिछले tokens की keys और values, ताकि दोबारा गणना न हो

पिछली keys और values cache करने से हर नया token बनाना सस्ता होता है।

पाठ: Context Window और KV Cache

मॉडल प्रशिक्षण और अनुकूलन

14. Scaling-law शोध ने निश्चित compute बजट के लिए क्या सुझाया?

  1. दोनों मायने नहीं रखते
  2. सिर्फ़ parameters जोड़ें
  3. सिर्फ़ डेटा जोड़ें
  4. Parameters और प्रशिक्षण डेटा साथ बढ़ाएँ
जवाब देखें

जवाब: Parameters और प्रशिक्षण डेटा साथ बढ़ाएँ

मॉडल आकार और डेटा का संतुलित बढ़ना समान compute पर बेहतर loss देता है।

पाठ: Scaling Laws और डेटा

15. कौन-सी समस्या fine-tuning की जगह retrieval से सबसे अच्छी हल होती है?

  1. रोज़ बदलते और स्रोत-सहित दस्तावेज़ों से उत्तर देना
  2. हमेशा तयशुदा brand लहजे में उत्तर देना
  3. तयशुदा output format सीखना
  4. मॉडल को छोटा करना
जवाब देखें

जवाब: रोज़ बदलते और स्रोत-सहित दस्तावेज़ों से उत्तर देना

Retrieval सवाल के समय वर्तमान, स्रोत-योग्य तथ्य prompt में लाता है।

पाठ: Fine-Tuning, LoRA और कब नहीं

16. Preference tuning कौन-सा डेटा उपयोग करती है?

  1. सिर्फ़ images
  2. सिर्फ़ कच्चे web pages
  3. तुलनाएँ जो बताती हैं कि कौन-सा उत्तर बेहतर है
  4. Server logs
जवाब देखें

जवाब: तुलनाएँ जो बताती हैं कि कौन-सा उत्तर बेहतर है

Preference जोड़ियाँ मॉडल को सिखाती हैं कि लोग कौन-से व्यवहार पसंद करते हैं।

पाठ: Alignment: RLHF और Preference Optimisation

LLMs के साथ निर्माण

17. System prompt क्या करता है?

  1. Tokenizer बदलता है
  2. मॉडल को प्रशिक्षित करता है
  3. बातचीत के लिए टिकाऊ भूमिका और नियम तय करता है
  4. Context लंबाई बढ़ाता है
जवाब देखें

जवाब: बातचीत के लिए टिकाऊ भूमिका और नियम तय करता है

यह स्थायी निर्देश रखता है जो user के संदेशों पर लागू रहते हैं।

पाठ: Prompting की बुनियाद

18. RAG का मुख्य विचार क्या है?

  1. प्रासंगिक पाठ खोजकर उत्तर से पहले prompt में रखना
  2. हर सवाल पर मॉडल को दोबारा प्रशिक्षित करना
  3. Context हटाना
  4. बड़ा tokenizer उपयोग करना
जवाब देखें

जवाब: प्रासंगिक पाठ खोजकर उत्तर से पहले prompt में रखना

Retrieved पाठ पर आधार उत्तरों की सटीकता बढ़ाता है और स्रोत देना संभव करता है।

पाठ: Retrieval-Augmented Generation (RAG)

19. Tool call वास्तव में कौन चलाता है?

  1. सिर्फ़ user का browser
  2. मॉडल ख़ुद
  3. Tokenizer
  4. आपका application कोड
जवाब देखें

जवाब: आपका application कोड

मॉडल सिर्फ़ call प्रस्तावित करता है; चलाना है या नहीं और कैसे, यह आपका कोड तय करता है।

पाठ: Tool Use और Structured Output

20. आसान वर्गीकरण कार्यों में कौन-सा बदलाव आम तौर पर लागत सबसे ज़्यादा घटाता है?

  1. लंबे prompt के साथ सबसे बड़ा मॉडल
  2. छोटे prompt के साथ छोटा मॉडल उपयोग करना
  3. Temperature बढ़ाना
  4. हर call में और उदाहरण जोड़ना
जवाब देखें

जवाब: छोटे prompt के साथ छोटा मॉडल उपयोग करना

मॉडल आकार और prompt लंबाई कार्य की कठिनाई से मिलाएँ।

पाठ: लागत, Latency और Caching

Evaluation और सुरक्षा

21. तयशुदा evaluation set क्यों रखें?

  1. Base model प्रशिक्षित करने के लिए
  2. Prompts या मॉडलों के बदलावों की निष्पक्ष तुलना के लिए
  3. Token लागत घटाने के लिए
  4. परीक्षण से बचने के लिए
जवाब देखें

जवाब: Prompts या मॉडलों के बदलावों की निष्पक्ष तुलना के लिए

वही परीक्षण इनपुट दिखाते हैं कि बदलाव ने वाक़ई मदद की या नहीं।

पाठ: LLM आउटपुट का मूल्यांकन

22. कौन-सा उपाय गढ़े गए citation को पकड़ने में मदद करता है?

  1. System prompt हटाना
  2. Temperature बढ़ाना
  3. छोटे शब्द उपयोग करना
  4. कोड में जाँचना कि उद्धृत अंश में दावा मौजूद है
जवाब देखें

जवाब: कोड में जाँचना कि उद्धृत अंश में दावा मौजूद है

स्रोत के विरुद्ध स्वचालित सत्यापन असमर्थित दावे पकड़ता है।

पाठ: Hallucination घटाना

23. कौन-सा डिज़ाइन prompt injection से नुक़सान सबसे अच्छा सीमित करता है?

  1. न्यूनतम-विशेषाधिकार tools और जोखिम भरी कार्रवाइयों पर मानव अनुमोदन
  2. मॉडल को admin पहुँच देना
  3. सिर्फ़ system prompt छिपाना
  4. ऊँचा temperature
जवाब देखें

जवाब: न्यूनतम-विशेषाधिकार tools और जोखिम भरी कार्रवाइयों पर मानव अनुमोदन

समझौता हुआ मॉडल क्या कर सकता है यह सीमित करना नुक़सान को बाँधता है।

पाठ: Prompt Injection, Privacy और Bias

Production में मॉडल चलाना

24. 4-bit quantization मुख्य रूप से क्या घटाती है?

  1. शब्दावली
  2. Users की संख्या
  3. Weights द्वारा उपयोग की गई स्मृति
  4. प्रशिक्षण डेटा
जवाब देखें

जवाब: Weights द्वारा उपयोग की गई स्मृति

प्रति weight कम bits का अर्थ छोटा स्मृति-पदचिह्न।

पाठ: मॉडल आकार और Quantization

25. Tokens streaming का एक लाभ क्या है?

  1. उत्तर अधिक सटीक हो जाते हैं
  2. मॉडल छोटा हो जाता है
  3. Users को आउटपुट जल्दी शुरू होता दिखता है, जिससे अनुभव की latency सुधरती है
  4. Tokens मुफ़्त हो जाते हैं
जवाब देखें

जवाब: Users को आउटपुट जल्दी शुरू होता दिखता है, जिससे अनुभव की latency सुधरती है

Streaming पूरे उत्तर का इंतज़ार किए बिना आंशिक आउटपुट तुरंत दिखाता है।

पाठ: Serving, Batching और मॉडल का चुनाव

सब कुछ जोड़ना

26. सहायक कोड में citations क्यों सत्यापित करता है?

  1. मॉडल citations गढ़ सकते हैं, इसलिए उन्हें retrieved पाठ से जाँचना होगा
  2. उत्तर लंबे करने के लिए
  3. मॉडल प्रशिक्षित करने के लिए
  4. Citations कभी ग़लत नहीं होते
जवाब देखें

जवाब: मॉडल citations गढ़ सकते हैं, इसलिए उन्हें retrieved पाठ से जाँचना होगा

Programmatic सत्यापन असमर्थित दावों को users के देखने से पहले पकड़ता है।

पाठ: केस स्टडी: Policy प्रश्न-उत्तर सहायक

27. मॉडल पिछले हफ़्ते के नीति बदलाव पर ग़लत उत्तर देता है। कौन-सा सुधार सबसे ठीक है?

  1. शब्दावली छोटी करें
  2. Temperature बढ़ाएँ
  3. एक उदाहरण पर fine-tune करें
  4. Retrieval जोड़ें ताकि वर्तमान नीति का पाठ prompt में रखा जाए
जवाब देखें

जवाब: Retrieval जोड़ें ताकि वर्तमान नीति का पाठ prompt में रखा जाए

ताज़ा, स्रोत-योग्य तथ्य weights में नहीं, retrieval से prompt में रखे जाते हैं।

पाठ: Revision: Cheat Sheet और Self-Check

28. बहुत कम temperature वाला softmax लगभग हर बार वही token क्यों देता है?

  1. यह शब्दावली से अन्य tokens हटा देता है
  2. यह शीर्ष logit के आसपास वितरण को बहुत तीखा कर देता है
  3. यह मॉडल को दोबारा प्रशिक्षित करता है
  4. यह और परतें जोड़ता है
जवाब देखें

जवाब: यह शीर्ष logit के आसपास वितरण को बहुत तीखा कर देता है

Logits को छोटी संख्या से भाग देने से अंतर बढ़ते हैं और संभावना केंद्रित हो जाती है।

पाठ: Revision: Cheat Sheet और Self-Check

29. Causal mask क्या सुनिश्चित करता है?

  1. आउटपुट हमेशा सत्य है
  2. कोई स्थिति बाद की स्थितियों की जानकारी उपयोग नहीं कर सकती
  3. Prompt छोटा है
  4. मॉडल quantized है
जवाब देखें

जवाब: कोई स्थिति बाद की स्थितियों की जानकारी उपयोग नहीं कर सकती

भविष्य के scores ऋण-अनंत होते हैं इसलिए उनके attention weights 0 होते हैं।

पाठ: Revision: Cheat Sheet और Self-Check

← कोर्स पर वापस जाएँ