SaaS LLM में चित्र, दस्तावेज़ और ऑडियो इनपुट सुरक्षित कैसे रखें
अपलोड जाँच, अलग-थलग पार्सिंग, prompt injection से बचाव, स्रोत सीमाएँ, गोपनीयता नियंत्रण और हर मीडिया प्रकार के परीक्षण से मल्टीमॉडल AI सुरक्षित करें।
इस मार्गदर्शिका में
मल्टीमॉडल LLM इनपुट सुरक्षा क्या है?
मल्टीमॉडल LLM सुरक्षा का अर्थ है कि चित्र, PDF, दस्तावेज़, ऑडियो और उनसे निकला OCR या ट्रांसक्रिप्ट अपलोड से लेकर मॉडल के उत्तर तक अविश्वसनीय सामग्री माने जाएँ। दुर्भावनापूर्ण निर्देश दस्तावेज़ में दिख सकते हैं, चित्र में छिपे हो सकते हैं या ट्रांसक्रिप्ट में आ सकते हैं। अपलोड सामग्री को भरोसेमंद एप्लिकेशन निर्देशों से अलग रखें और टूल अनुमति सर्वर पर लागू करें।
हर अपलोड और निकाले गए पाठ को अविश्वसनीय मानें
फ़ाइल में prompt injection, सक्रिय सामग्री, भ्रामक निर्देश या ऐसा पाठ हो सकता है जिसे पार्सर और समीक्षक अलग तरह से देखें। निकले पाठ को उपयोगकर्ता की सामग्री की तरह चिन्हित करें, उसका स्रोत और टेनेंट रखें और उसे भरोसेमंद developer निर्देशों के साथ न जोड़ें। मॉडल को स्पष्ट बताएँ कि स्रोत सामग्री उसके काम या अनुमति को बदलने का निर्देश नहीं है।
मॉडल को भेजने से पहले फ़ाइल जाँचें
प्रमाणित उपयोगकर्ता और अधिकृत टेनेंट अनिवार्य करें, केवल ज़रूरी फ़ाइल प्रकार लें, आकार और पृष्ठ सीमा लागू करें, फ़ाइल सिग्नेचर जाँचें और जोखिम के अनुसार स्कैन या क्वारंटीन करें। भंडारण के लिए यादृच्छिक नाम, निजी ऑब्जेक्ट स्टोरेज और अल्पकालिक लिंक इस्तेमाल करें। जटिल पार्सर को समय, मेमोरी और नेटवर्क सीमा वाले अलग वातावरण में चलाएँ।
सामग्री निकालने को विशेष कार्रवाई से अलग रखें
OCR, ट्रांसक्रिप्शन और कन्वर्ज़न डेटा तैयार करें, अधिकार नहीं। निकला पाठ स्पष्ट रूप से उपयोगकर्ता सामग्री के रूप में रखें, संरचित फ़ील्ड सत्यापित करें और फिर टूल या रिकॉर्ड तक पहुँच पर सामान्य सर्वर-साइड अनुमति लागू करें। चित्र के भीतर लिखा निर्देश मॉडल को खाता खोलने या ग्राहक डेटा भेजने का अधिकार न दे।
| इनपुट प्रकार | जाँच और सीमा | पार्सर अलगाव | मॉडल सीमा | अवधि और मालिक |
|---|---|---|---|---|
| चित्र या स्कैन | ||||
| PDF या दस्तावेज़ | ||||
| ऑडियो या ट्रांसक्रिप्ट |
चित्र, PDF और ऑडियो के हमलों से कैसे बचें?
दिखने और छिपे prompt injection दोनों परखें
सामान्य दस्तावेज़ों के साथ ऐसे उदाहरण भी रखें जो काम बदलने, छिपा डेटा दिखाने या टूल चलाने की कोशिश करें—चित्र का पाठ, स्क्रीनशॉट, स्कैन पृष्ठ, कैप्शन और ट्रांसक्रिप्ट शामिल करें। भले सवाल सामान्य हो, संलग्न फ़ाइल में हमला हो सकता है। कोई डिटेक्टर हर छिपे निर्देश को पकड़ने की गारंटी नहीं देता।
हर मीडिया प्रकार की वर्तमान सीमा जाँचें
समर्थित फ़ाइल, आकार सीमा, चित्र विवरण, ऑडियो ट्रांसक्रिप्शन और मॉडरेशन क्षमता अलग-अलग API और मॉडल में बदलती है। उत्पादन का रास्ता शुरू करने और प्रदाता समीक्षा के समय फिर जाँचें। चित्र पाठ, ट्रांसक्रिप्ट और ऑडियो के लिए जहाँ ज़रूरी हो अलग नियंत्रण रखें; टेक्स्ट मॉडरेशन ने ऑडियो भी देखा है, यह न मानें।
असुरक्षित URL फ़ेच और रेंडरिंग रोकें
यदि उपयोगकर्ता URL दे सकता है तो सर्वर-साइड फ़ेचर पर गंतव्य सूची, DNS और redirect जाँच, उत्तर-आकार सीमा और निजी नेटवर्क रोक लागू करें। इससे SSRF जोखिम घटता है। अविश्वसनीय HTML या SVG को विशेष अधिकार वाले साइट origin पर न दिखाएँ। डाउनलोड अलग origin से सुरक्षित headers के साथ दें।
गोपनीयता और संचालन जोखिम कैसे कम करें?
मॉडल प्रोसेसिंग से पहले संवेदनशील डेटा न्यूनतम करें
काम के लिए ज़रूरी फ़ाइल और फ़ील्ड ही माँगें। संवेदनशील रिकॉर्ड अपलोड करने से पहले उपयोगकर्ता को बताएँ। तय करें कि मूल फ़ाइल, OCR पाठ, चित्र, ट्रांसक्रिप्ट, embedding और प्रदाता अनुरोध कहाँ रखे जाएँगे। हर प्रति के लिए मालिक, पहुँच सीमा और अवधि तय करें, जिसमें विफल job और backup भी शामिल हैं।
बने हुए डेटा से टेनेंट और स्रोत पहचान न हटाएँ
हर extraction परिणाम के साथ सर्वर द्वारा बनाया गया टेनेंट और ऑब्जेक्ट संदर्भ रखें। पुनः उपयोग, retrieval या हटाने से पहले स्वामित्व सत्यापित करें। कैश किया ट्रांसक्रिप्ट या सारांश भी ग्राहक डेटा है; उसे दूसरे टेनेंट तक न जाने दें और मूल फ़ाइल की अवधि समाप्त होने के बाद बिना कारण न रखें।
भाषा, पहुँच और खराब गुणवत्ता के साथ पूरा रास्ता परखें
घूमे हुए चित्र, छोटा पाठ, धुंधला स्कैन, गैर-अंग्रेज़ी लिपि, अलग उच्चारण, पृष्ठभूमि शोर और गलत ट्रांसक्रिप्शन जाँचें। निकले पाठ को सुधारने या AI के बिना काम जारी रखने का सुलभ तरीका दें। असरदार निर्णय extraction पर निर्भर हो तो मानव समीक्षा रखें।
मल्टीमॉडल LLM इनपुट सुरक्षा: सामान्य प्रश्न
क्या vision मॉडल चित्र में हर prompt injection पकड़ सकता है?
नहीं। छोटा, छिपा, अस्पष्ट या बदला हुआ पाठ छूट सकता है और परिणाम काम के अनुसार बदलते हैं। पूरे चित्र को अविश्वसनीय मानें, उसे अधिकार न दें और अलग नियंत्रणों के साथ वास्तविक हमले परखें।
फ़ाइल स्कैन हो जाए तो क्या वह LLM के लिए सुरक्षित है?
नहीं। मैलवेयर स्कैन कुछ खतरे पकड़ता है, पर यह प्रमाणित नहीं करता कि निकला पाठ सही या पालन करने योग्य है। फ़ाइल सत्यापित और अलग से पार्स करें, सामग्री को निर्देशों से अलग रखें और एप्लिकेशन अनुमति मॉडल से बाहर लागू करें।
क्या हर ऑडियो या दस्तावेज़ मॉडरेशन API को भेज सकते हैं?
नहीं। समर्थित मीडिया, श्रेणियाँ और संचालन नियम बदलते रहते हैं। हर API के मौजूदा दस्तावेज़ देखें। असमर्थित मीडिया के लिए उपयुक्त अलग समीक्षा रखें या जोखिम वाले काम में उस इनपुट को स्वीकार न करें।
प्रोसेसिंग के बाद मूल अपलोड कितने समय रखें?
केवल तय उत्पाद उद्देश्य और अवधि तक। उपयोगकर्ता को नीति बताएँ, पहुँच सीमित करें, हटाने को निकले पाठ और कैश तक पहुँचाएँ और प्रदाता की अवधि को अपने भंडारण से अलग जाँचें।
संबंधित व्यावहारिक मार्गदर्शिकाएँ
संबंधित मुद्दों की मार्गदर्शिकाएँ
स्रोत और प्रकाशन रिकॉर्ड
मसौदा 27 सितंबर 2026 को तैयार; इंजीनियरिंग, सुरक्षा और संपादकीय समीक्षा लंबित · स्रोत जाँचे गए .