AI हैलुसिनेशन क्या है? अर्थ, उदाहरण और जांच के तरीके

Updated · By Viviai

AI हैलुसिनेशन तब होता है जब AI ऐसी जानकारी देती है जो आत्मविश्वास से भरी और सुनने में सही लगती है, लेकिन गलत, मनगढ़ंत या बिना स्रोत वाली होती है। यह जानबूझकर झूठ नहीं है — मॉडल केवल सही लगने वाला टेक्स्ट बनाता है, उसके पास जांचने का साधन नहीं।

संक्षेप में परिभाषा

हैलुसिनेशन तब होता है जब भाषा मॉडल गढ़े हुए तथ्य, उद्धरण, नाम, अंक या घटनाएं प्रस्तुत करता है और उन्हें सच दिखाता है। मॉडल जानता नहीं कि वह गलत है; वह सबसे सही लगने वाला टेक्स्ट अनुमान लगाता है।

क्यों होता है

  1. मॉडल भाषा अनुमान लगाता है, सच नहीं जांचता। काम अगला token बनाना है।
  2. प्रशिक्षण डेटा में अंतराल। कम ज्ञात विषय पर सही जैसा जवाब भर दिया जाता है।
  3. अत्यंत विशिष्ट प्रश्न। सटीक अंक, अपरिचित नाम, नई घटनाएं अधिक जोखिम भरी।
  4. स्रोत संलग्न नहीं। बिना खोज/दस्तावेज़ के मॉडल आंतरिक पैटर्न से जवाब देता है।

आम उदाहरण

जोखिम कैसे घटाएं

त्वरित जांच सूची

हैलुसिनेशन झूठ नहीं

झूठ बोलने वाले की नीयत होती है। मॉडल की कोई नीयत नहीं। इसे विश्वसनीयता की समस्या समझें, बेईमानी नहीं।

अक्सर पूछे जाने वाले सवाल

क्या आत्मविश्वासी लहजे का मतलब सटीकता है? नहीं, शैली सच्चाई की गारंटी नहीं।

क्या हैलुसिनेशन पूरी तरह खत्म हो सकता है? वर्तमान तकनीक में नहीं, grounding और जांच से केवल घट सकता है।

मुख्य बातें

आगे पढ़ें विश्वसनीय prompt कैसे लिखें और AI जवाब जांचने की गाइड।

Sources

  1. https://ind.ai/learn

Learn by doing

Read a guide, then practice with bite-sized AI lessons you can take offline.

Start learning free