AI हैलुसिनेशन क्या है? अर्थ, उदाहरण और जांच के तरीके
AI हैलुसिनेशन तब होता है जब AI ऐसी जानकारी देती है जो आत्मविश्वास से भरी और सुनने में सही लगती है, लेकिन गलत, मनगढ़ंत या बिना स्रोत वाली होती है। यह जानबूझकर झूठ नहीं है — मॉडल केवल सही लगने वाला टेक्स्ट बनाता है, उसके पास जांचने का साधन नहीं।
संक्षेप में परिभाषा
हैलुसिनेशन तब होता है जब भाषा मॉडल गढ़े हुए तथ्य, उद्धरण, नाम, अंक या घटनाएं प्रस्तुत करता है और उन्हें सच दिखाता है। मॉडल जानता नहीं कि वह गलत है; वह सबसे सही लगने वाला टेक्स्ट अनुमान लगाता है।
क्यों होता है
- मॉडल भाषा अनुमान लगाता है, सच नहीं जांचता। काम अगला token बनाना है।
- प्रशिक्षण डेटा में अंतराल। कम ज्ञात विषय पर सही जैसा जवाब भर दिया जाता है।
- अत्यंत विशिष्ट प्रश्न। सटीक अंक, अपरिचित नाम, नई घटनाएं अधिक जोखिम भरी।
- स्रोत संलग्न नहीं। बिना खोज/दस्तावेज़ के मॉडल आंतरिक पैटर्न से जवाब देता है।
आम उदाहरण
- किसी काल्पनिक किताब या शोध को लेखक और वर्ष समेत गढ़ना।
- गलत या न होने वाले URL देना।
- आत्मविश्वास के साथ गलत तारीख या आंकड़ा देना।
- सारांश में ऐसी बात जोड़ना जो मूल दस्तावेज़ में नहीं थी।
जोखिम कैसे घटाएं
- स्रोत मांगें और लिंक खोलें, स्रोत भी गढ़े जा सकते हैं।
- स्वयं सामग्री दें और केवल उसी से जवाब मांगें।
- खोज-युक्त टूल इस्तेमाल करें।
- अनिश्चितता चिह्नित करने को कहें।
- महत्वपूर्ण तथ्य स्वतंत्र स्रोत से जांचें।
त्वरित जांच सूची
- [ ] उद्धृत लिंक वास्तव में मौजूद हैं?
- [ ] मुख्य तथ्य दूसरे स्रोत से पुष्ट है?
- [ ] जवाब दिए गए दस्तावेज़ पर आधारित है या मॉडल के पैटर्न पर?
- [ ] क्या गलती महंगी साबित होगी? हां तो पहले जांच करें।
हैलुसिनेशन झूठ नहीं
झूठ बोलने वाले की नीयत होती है। मॉडल की कोई नीयत नहीं। इसे विश्वसनीयता की समस्या समझें, बेईमानी नहीं।
अक्सर पूछे जाने वाले सवाल
क्या आत्मविश्वासी लहजे का मतलब सटीकता है? नहीं, शैली सच्चाई की गारंटी नहीं।
क्या हैलुसिनेशन पूरी तरह खत्म हो सकता है? वर्तमान तकनीक में नहीं, grounding और जांच से केवल घट सकता है।
मुख्य बातें
- हैलुसिनेशन सही लगने वाला लेकिन गलत/बिना स्रोत output है।
- कारण: मॉडल सच जांचने के बजाय टेक्स्ट अनुमान लगाता है।
- स्रोत, grounding टूल और स्वतंत्र जांच मुख्य बचाव हैं।
आगे पढ़ें विश्वसनीय prompt कैसे लिखें और AI जवाब जांचने की गाइड।
Sources
Learn by doing
Read a guide, then practice with bite-sized AI lessons you can take offline.
Start learning free