LLM Application Security Interview Questions Hindi mein

LLM Application Security कोर्स के 30 सवाल, हर सवाल के सही जवाब और explanation के साथ। जवाब देखने से पहले ख़ुद सोचें।

LLM Apps को अपनी सुरक्षा-सोच क्यों चाहिए

1. Prompt injection संभव होने का मूल कारण क्या है?

  1. Prompts बहुत छोटे होते हैं
  2. मॉडल कमज़ोर hardware पर चलते हैं
  3. मॉडल निर्देश और अविश्वसनीय डेटा को पाठ की एक धारा के रूप में पाता है
  4. धीमे networks के कारण
जवाब देखें

जवाब: मॉडल निर्देश और अविश्वसनीय डेटा को पाठ की एक धारा के रूप में पाता है

Prompt के भीतर कोड और डेटा के बीच कोई भरोसेमंद सीमा नहीं।

पाठ: LLM Applications में क्या अलग है

2. कौन-सा entry point है जहाँ अविश्वसनीय पाठ prompt तक पहुँच सकता है?

  1. Retrieved web page या दस्तावेज़
  2. GPU driver संस्करण
  3. Wi-Fi password
  4. Monitor की चमक
जवाब देखें

जवाब: Retrieved web page या दस्तावेज़

मॉडल जो भी सामग्री पढ़े वह संभावित निर्देश स्रोत है।

पाठ: Assets, हमलावर और भरोसे की सीमाएँ

3. कौन-सा संयोजन "lethal trifecta" है?

  1. Logging + metrics + dashboards
  2. तेज़ GPU + बड़ी RAM + सस्ता भंडारण
  3. छोटा prompt + कम temperature + छोटा मॉडल
  4. निजी डेटा + अविश्वसनीय सामग्री + बाहरी संवाद
जवाब देखें

जवाब: निजी डेटा + अविश्वसनीय सामग्री + बाहरी संवाद

तीनों के साथ injection secrets पढ़कर बाहर भेज सकता है।

पाठ: प्रभाव क्षेत्र: Compromised मॉडल क्या कर सकता है

4. अधिकांश उपायों के पीछे कौन-सा सिद्धांत है?

  1. लंबे prompts उपयोग करना
  2. न्यूनतम विशेषाधिकार और सीमा पार करती हर चीज़ को validate करना
  3. मॉडल का नाम छिपाना
  4. ज़्यादा GPUs उपयोग करना
जवाब देखें

जवाब: न्यूनतम विशेषाधिकार और सीमा पार करती हर चीज़ को validate करना

क्लासिक सुरक्षा सिद्धांत अब भी लागू होते हैं और अधिकांश काम करते हैं।

पाठ: मुख्य जोखिम-परिवारों का नक़्शा

Prompt Injection और Jailbreaks

5. अप्रत्यक्ष injection अक्सर अधिक ख़तरनाक क्यों है?

  1. इसे बड़ा मॉडल चाहिए
  2. शिकार दुर्भावनापूर्ण पाठ कभी नहीं देखता और सहायक के पास शिकार के विशेषाधिकार हो सकते हैं
  3. यह सिर्फ़ logs को प्रभावित करता है
  4. HTTPS इसे हमेशा रोकता है
जवाब देखें

जवाब: शिकार दुर्भावनापूर्ण पाठ कभी नहीं देखता और सहायक के पास शिकार के विशेषाधिकार हो सकते हैं

हमलावर वहाँ पाठ रख सकते हैं जहाँ सहायक बाद में पढ़ेगा।

पाठ: प्रत्यक्ष और अप्रत्यक्ष Prompt Injection

6. Injection filters की सही भूमिका क्या है?

  1. हर मामले में बेकार
  2. पूरा समाधान
  3. Access control का विकल्प
  4. एक परत और monitoring संकेत, अकेला बचाव नहीं
जवाब देखें

जवाब: एक परत और monitoring संकेत, अकेला बचाव नहीं

Filters को इस पर architectural सीमाओं के साथ मिलाएँ कि मॉडल क्या कर सकता है।

पाठ: Keyword Filters काफ़ी क्यों नहीं हैं

7. System prompt की जगह access नियम कहाँ लागू होने चाहिए?

  1. Application कोड और डेटा परत में
  2. लंबे system prompt में
  3. User के browser में
  4. कहीं नहीं
जवाब देखें

जवाब: Application कोड और डेटा परत में

Prompts निकाले या अधिलेखित हो सकते हैं; कोड-स्तर जाँचें बातों से टाली नहीं जा सकतीं।

पाठ: System Prompt लीक और Canary Tokens

8. Injection के विरुद्ध आम तौर पर सबसे मज़बूत परत कौन-सी है?

  1. लंबा system prompt
  2. मॉडल से विनम्रता से सावधान रहने को कहना
  3. मॉडल क्या कर सकता है उसे सीमित करना (क्षमताएँ और अनुमतियाँ)
  4. अकेली keyword blocklist
जवाब देखें

जवाब: मॉडल क्या कर सकता है उसे सीमित करना (क्षमताएँ और अनुमतियाँ)

क्षमता सीमाएँ हेरफेर सफल होने पर भी नुक़सान बाँधती हैं।

पाठ: Injection के विरुद्ध गहराई में बचाव

असुरक्षित Output सँभाल

9. डेटाबेस query बनाने में मॉडल आउटपुट के साथ कैसा व्यवहार करें?

  1. चलाने योग्य कच्चे SQL के रूप में
  2. भरोसेमंद, क्योंकि मॉडल ने लिखा
  3. अविश्वसनीय इनपुट के रूप में, parameterised queries से
  4. Password के रूप में
जवाब देखें

जवाब: अविश्वसनीय इनपुट के रूप में, parameterised queries से

मॉडल से आया होना पाठ को सुरक्षित नहीं बनाता।

पाठ: नियम: मॉडल आउटपुट को user इनपुट की तरह मानें

10. "database के बारे में सवाल पूछें" के लिए सबसे सुरक्षित डिज़ाइन कौन-सा है?

  1. मॉडल निश्चित queries के parameters भरे, या कड़ी सीमाओं के साथ केवल-पढ़ने वाला SQL चलाए
  2. मॉडल का लिखा कोई भी SQL admin के रूप में चलाएँ
  3. Authentication बंद करें
  4. Passwords prompt में रखें
जवाब देखें

जवाब: मॉडल निश्चित queries के parameters भरे, या कड़ी सीमाओं के साथ केवल-पढ़ने वाला SQL चलाए

मॉडल को parameters और न्यूनतम-विशेषाधिकार पहुँच तक सीमित करें।

पाठ: मॉडल आउटपुट के रास्ते SQL Injection

11. Render हुई Markdown image डेटा कैसे लीक कर सकती है?

  1. ऐसा नहीं हो सकता
  2. Images में हमेशा virus होते हैं
  3. Images मॉडल weights बदलती हैं
  4. Browser image URL fetch करता है, और URL ख़ुद हमलावर को secret ले जा सकता है
जवाब देखें

जवाब: Browser image URL fetch करता है, और URL ख़ुद हमलावर को secret ले जा सकता है

क्लिक की ज़रूरत नहीं: rendering ही अनुरोध भेज देती है।

पाठ: Cross-Site Scripting और Markdown/Link Exfiltration

12. Argument list से program बुलाना shell=True से सुरक्षित क्यों है?

  1. यह GPUs पर तेज़ चलता है
  2. हर मान एक ही argument रहता है और shell syntax के रूप में कभी व्याख्यायित नहीं होता
  3. यह आउटपुट छिपाता है
  4. Shells अवैध हैं
जवाब देखें

जवाब: हर मान एक ही argument रहता है और shell syntax के रूप में कभी व्याख्यायित नहीं होता

Shell के बिना ; और && जैसे अक्षरों का कोई विशेष अर्थ नहीं।

पाठ: Command Injection और Path Traversal

13. URL में अनुमत domain "शामिल" है यह जाँचने की जगह parse किया hostname क्यों तुलना करें?

  1. Substring जाँचें धीमी हैं
  2. docs.example.com.evil.test जैसी चालें अनुमत नाम रखती हैं पर कहीं और जाती हैं
  3. Hostnames सिर्फ़ case-insensitive हैं
  4. कोई अंतर नहीं
जवाब देखें

जवाब: docs.example.com.evil.test जैसी चालें अनुमत नाम रखती हैं पर कहीं और जाती हैं

पहले parse करें, फिर असली host की सटीक तुलना करें।

पाठ: URLs fetch करने वाले Tools: SSRF और Allow-Lists

अति-स्वायत्तता और Tool सुरक्षा

14. अतिरिक्त अनुमतियों का उदाहरण कौन-सा है?

  1. मानव अनुमोदन चरण
  2. वर्तमान user का एक order पढ़ने वाला tool
  3. स्पष्ट schema वाला tool
  4. केवल-पढ़ने वाली lookup के लिए उपयोग हुआ admin database login
जवाब देखें

जवाब: केवल-पढ़ने वाली lookup के लिए उपयोग हुआ admin database login

कार्य से व्यापक credentials प्रभाव क्षेत्र बढ़ाते हैं।

पाठ: अति-व्यापक Tools, Permissions और स्वायत्तता

15. जिस tool को नीति नहीं जानती उसका क्या होना चाहिए?

  1. डिफ़ॉल्ट रूप से deny
  2. Allow, क्योंकि मॉडल ने माँगा
  3. एक बार allow, फिर पूछें
  4. नीति अनदेखी करें
जवाब देखें

जवाब: डिफ़ॉल्ट रूप से deny

Default-deny का अर्थ नए या injected tool नाम निकल नहीं सकते।

पाठ: मॉडल के बाहर नीति Engine

16. अनुमोदन को ठीक कार्रवाई से क्यों बाँधें?

  1. Logging से बचने के लिए
  2. अनुमोदन धीमे करने के लिए
  3. ताकि मनुष्य के हाँ कहने के बाद राशि या लक्ष्य न बदले जा सकें
  4. अनुमोदन को बाँधने की ज़रूरत नहीं
जवाब देखें

जवाब: ताकि मनुष्य के हाँ कहने के बाद राशि या लक्ष्य न बदले जा सकें

बिना-बँधा "हाँ" दूसरी, हानिकारक कार्रवाई के लिए पुनः उपयोग हो सकता है।

पाठ: छेड़छाड़-रहित मानव अनुमोदन

17. LLM app में "confused deputy" क्या है?

  1. ग़ायब comma
  2. धीमा मॉडल
  3. विशेषाधिकार वाला सहायक जिसे वह करने के लिए फुसलाया गया जो माँगने वाले user को करने की अनुमति नहीं
  4. GPU का प्रकार
जवाब देखें

जवाब: विशेषाधिकार वाला सहायक जिसे वह करने के लिए फुसलाया गया जो माँगने वाले user को करने की अनुमति नहीं

अंतिम user के रूप में authorise करें ताकि सहायक user के अधिकारों से आगे न जा सके।

पाठ: प्रति-User Authorisation और Audit Logging

डेटा की सुरक्षा: प्रकटन, RAG और Poisoning

18. LLM app से संवेदनशील डेटा लीक होने के विरुद्ध सबसे मज़बूत नियंत्रण क्या है?

  1. संवेदनशील डेटा को पहले ही मॉडल या logs तक न भेजना
  2. मॉडल से उसे न दोहराने को कहना
  3. लंबा system prompt
  4. ज़्यादा tokens उपयोग करना
जवाब देखें

जवाब: संवेदनशील डेटा को पहले ही मॉडल या logs तक न भेजना

जो डेटा prompt में कभी नहीं आता वह दोहराया नहीं जा सकता।

पाठ: संवेदनशील जानकारी का प्रकटन और Redaction

19. RAG अनुमतियाँ कहाँ लागू होनी चाहिए?

  1. कहीं नहीं
  2. सिर्फ़ मॉडल से secrets छिपाने को कहकर
  3. सिर्फ़ UI में
  4. Retrieval query में, ताकि निषिद्ध पाठ prompt में कभी न आए
जवाब देखें

जवाब: Retrieval query में, ताकि निषिद्ध पाठ prompt में कभी न आए

पाठ prompt में आ गया तो आप मॉडल से उसे निजी रखने पर निर्भर नहीं रह सकते।

पाठ: RAG Access Control और Vector Store सुरक्षा

20. हर chunk के साथ उत्पत्ति (स्रोत, लेखक, तिथि) क्यों रखें?

  1. Chunks बड़े करने के लिए
  2. ज़हरीली या पुरानी सामग्री का पीछा, उद्धरण और हटाना संभव करने के लिए
  3. क्योंकि मॉडल को यह चाहिए
  4. कोई लाभ नहीं
जवाब देखें

जवाब: ज़हरीली या पुरानी सामग्री का पीछा, उद्धरण और हटाना संभव करने के लिए

जिसका आप पीछा कर सकें उसी को साफ़ कर सकते हैं।

पाठ: Data Poisoning और अविश्वसनीय ज्ञान स्रोत

Supply Chain, दुरुपयोग और लागत हमले

21. अज्ञात स्रोत की pickle file लोड करना जोखिम भरा क्यों है?

  1. Pickle files हमेशा बहुत बड़ी होती हैं
  2. Unpickling लोड होने के दौरान मनमाना कोड चला सकता है
  3. Pickle संख्याएँ नहीं रख सकता
  4. यह सिर्फ़ प्रशिक्षण धीमा करता है
जवाब देखें

जवाब: Unpickling लोड होने के दौरान मनमाना कोड चला सकता है

केवल-डेटा formats पसंद करें और किसी भी मॉडल file का स्रोत verify करें।

पाठ: मॉडल, Packages और Plugins dependencies के रूप में

22. Tool के लिए "rug pull" क्या है?

  1. यह cache का प्रकार है
  2. वह बहुत धीमा चलता है
  3. User उसे हटा देता है
  4. आपके अनुमोदन के बाद वह अपना व्यवहार या विवरण बदल देता है
जवाब देखें

जवाब: आपके अनुमोदन के बाद वह अपना व्यवहार या विवरण बदल देता है

तृतीय-पक्ष tools को हर अद्यतन पर दोबारा जाँचें।

पाठ: Plugins, MCP Servers और Agent Tool पर भरोसा

23. अलर्ट वाली ख़र्च सीमा किससे बचाती है?

  1. दुरुपयोग, bugs या बेक़ाबू loops से अचानक बिल
  2. वर्तनी की ग़लतियाँ
  3. धीमी टाइपिंग
  4. ग़ायब semicolons
जवाब देखें

जवाब: दुरुपयोग, bugs या बेक़ाबू loops से अचानक बिल

बजट और rate limits दुरुपयोग के नुक़सान को बाँधते हैं।

पाठ: असीमित खपत: Rate Limits और Denial of Wallet

परीक्षण, Monitoring और प्रतिक्रिया

24. हर खोजा गया bypass स्थायी test क्यों रखें?

  1. क्योंकि tests लिखना मुफ़्त है
  2. Suite बड़ा दिखाने के लिए
  3. ताकि वही कमज़ोरी बाद में चुपचाप लौट न सके
  4. यह उपयोगी नहीं
जवाब देखें

जवाब: ताकि वही कमज़ोरी बाद में चुपचाप लौट न सके

Regression tests prompt, मॉडल और tool बदलावों के पार सुधारों की रक्षा करते हैं।

पाठ: Red-Teaming और Security Regression Tests

25. System prompt का canary token किसी उत्तर में दिखता है। यह क्या दर्शाता है?

  1. मॉडल तेज़ है
  2. सब ठीक है
  3. System prompt लीक हुआ और प्रतिक्रिया रोकी व समीक्षा की जानी चाहिए
  4. User developer है
जवाब देखें

जवाब: System prompt लीक हुआ और प्रतिक्रिया रोकी व समीक्षा की जानी चाहिए

Canaries चुपचाप लीक को पहचानने योग्य घटना बनाते हैं।

पाठ: Monitoring, पहचान और Logging

26. घटना के बाद आम तौर पर सही प्रकार का सुधार क्या होता है?

  1. ग़ायब नियंत्रण (अनुमतियाँ, validation, सीमाएँ) और regression test जोड़ना
  2. सिर्फ़ system prompt के शब्द बदलना
  3. आशा करना कि दोबारा न हो
  4. Logs हटाना
जवाब देखें

जवाब: ग़ायब नियंत्रण (अनुमतियाँ, validation, सीमाएँ) और regression test जोड़ना

मॉडल के बाहर के नियंत्रण शब्दांकन से अधिक भरोसेमंद हैं।

पाठ: घटना-प्रतिक्रिया और सुरक्षित विकास आदतें

सब कुछ जोड़ना

27. इस सहायक में कौन-सा डिज़ाइन चुनाव "lethal trifecta" तोड़ता है?

  1. ज़्यादा logging
  2. बड़ा मॉडल उपयोग करना
  3. लंबा prompt उपयोग करना
  4. सहायक ईमेल का मसौदा बनाता है और मनुष्य भेजता है, इसलिए उसके पास मुक्त बाहरी channel नहीं
जवाब देखें

जवाब: सहायक ईमेल का मसौदा बनाता है और मनुष्य भेजता है, इसलिए उसके पास मुक्त बाहरी channel नहीं

Trifecta की एक कड़ी हटाना उस रास्ते से डेटा निकासी रोकता है।

पाठ: केस स्टडी: Customer-Support सहायक को सुरक्षित करना

28. Retrieved web page सहायक से ग्राहक सूची किसी बाहरी को ईमेल करने को कहता है। कौन-सा नियंत्रण सबसे भरोसे से नुक़सान रोकता है?

  1. विनम्र system prompt
  2. सहायक के पास असीमित ईमेल tool नहीं है और वह पूरी ग्राहक सूची तक नहीं पहुँच सकता
  3. अकेली keyword blocklist
  4. बड़ी context window
जवाब देखें

जवाब: सहायक के पास असीमित ईमेल tool नहीं है और वह पूरी ग्राहक सूची तक नहीं पहुँच सकता

हेरफेर सफल होने पर भी क्षमता सीमाएँ नुक़सान बाँधती हैं।

पाठ: Revision: Cheat Sheet और Self-Check

29. मॉडल आउटपुट SQL string में डाला जाता है। सही सुधार क्या है?

  1. मॉडल से quotes से बचने को कहें
  2. Parameterised queries (और न्यूनतम-विशेषाधिकार database पहुँच) उपयोग करें
  3. Database हटाएँ
  4. बड़े अक्षर उपयोग करें
जवाब देखें

जवाब: Parameterised queries (और न्यूनतम-विशेषाधिकार database पहुँच) उपयोग करें

Parameters मानों को SQL के रूप में व्याख्यायित होने से रोकते हैं।

पाठ: Revision: Cheat Sheet और Self-Check

30. RAG अनुमति filtering retrieval query में क्यों होनी चाहिए?

  1. यह सिर्फ़ दिखावटी है
  2. यह जानबूझकर retrieval धीमा करता है
  3. मॉडल अनुमतियाँ नहीं पढ़ सकते
  4. जो पाठ prompt तक पहुँचता है वह लीक हो सकता है, मॉडल को छिपाने को चाहे जो कहा जाए
जवाब देखें

जवाब: जो पाठ prompt तक पहुँचता है वह लीक हो सकता है, मॉडल को छिपाने को चाहे जो कहा जाए

निषिद्ध सामग्री को prompt से पूरी तरह बाहर रखें।

पाठ: Revision: Cheat Sheet और Self-Check

← कोर्स पर वापस जाएँ