जब से OpenAI ने ChatGPT को लॉन्च किया है तब से यह AI टूल लगातार सुर्खियों में बना हुआ है। खासकर पिछले कुछ महीनों से यह ‘घिबली ट्रेंड’ के कारण भी चर्चा में रहा है। दुनियाभर के लोग ChatGPT का इस्तेमाल लेखन से लेकर रिसर्च और सलाह तक के लिए कर रहे हैं। लेकिन क्या आपने कभी सोचा है कि जो जानकारी ChatGPT देता है क्या वह हमेशा सही होती है? हाल ही में OpenAI के सीईओ सैम ऑल्टमैन ने इस सवाल पर बहुत जरूरी बात कही है। उन्होंने एक इंटरव्यू में ChatGPT के यूज़र्स को एक खास सलाह दी है जिसने सबका ध्यान खींचा है।
सैम ऑल्टमैन ने क्यों दी चेतावनी?
सैम ऑल्टमैन ने OpenAI के ऑफिशियल पॉडकास्ट के पहले एपिसोड में यह माना कि लोग ChatGPT पर बहुत ज्यादा भरोसा करते हैं। उन्होंने कहा कि यह देखना दिलचस्प है कि लोग इस तकनीक को इतनी जल्दी अपनाकर उस पर विश्वास कर बैठे हैं। लेकिन उन्होंने यह भी कहा कि ChatGPT जैसी AI तकनीकें अक्सर भ्रम पैदा करती हैं और इसीलिए इन पर आंख मूंदकर विश्वास करना खतरनाक हो सकता है। Altman का साफ-साफ संदेश था कि ChatGPT और अन्य बड़े भाषा मॉडल विश्वसनीय लगने वाली लेकिन झूठी या गुमराह करने वाली जानकारी भी दे सकते हैं। इसलिए इस्तेमाल करते समय सावधानी ज़रूरी है।
AI कैसे पैदा करता है भ्रम?
दरअसल ChatGPT काम करता है पैटर्न के आधार पर। यह किसी सवाल का जवाब शब्द दर शब्द उस डेटा के आधार पर तैयार करता है जिस पर इसे प्रशिक्षित किया गया है। लेकिन इसमें इंसानों जैसी समझ नहीं होती और यही वजह है कि कभी-कभी यह बिल्कुल गलत या मनगढ़ंत जानकारी दे देता है। AI की दुनिया में इसे ‘हॉलुसिनेशन’ या ‘भ्रम’ कहा जाता है। यानी जवाब ऐसा लगता है जैसे वह बिल्कुल सही है लेकिन असल में वह जानकारी पूरी तरह गलत भी हो सकती है। और यही कारण है कि विशेषज्ञ लगातार यह कह रहे हैं कि ChatGPT को एक भरोसेमंद सहयोगी मानिए लेकिन इसकी कही हर बात को अंतिम सत्य न मानिए।
भरोसा करें, लेकिन पहले जांचें
सैम ऑल्टमैन के साथ-साथ AI के गॉडफादर माने जाने वाले ज्यॉफ्री हिंटन भी यही मानते हैं कि AI तकनीक बहुत फायदेमंद जरूर हो सकती है लेकिन इसे आंख मूंदकर अपनाना समझदारी नहीं है। अब जब AI हमारी जिंदगी का हिस्सा बनती जा रही है तो यह और जरूरी हो गया है कि हम इसका इस्तेमाल करते वक्त जांच-पड़ताल जरूर करें। Altman का साफ संदेश है कि ‘ट्रस्ट बट वेरिफाई’ यानी भरोसा करें लेकिन पहले उसकी पुष्टि कर लें। यही तरीका है जिससे हम AI का फायदा उठा सकते हैं और नुकसान से बच सकते हैं।
