Source story board 18
पद्रौना, उत्तर प्रदेश: आर्टिफिशियल इंटेलिजेंस (एआई) तेजी से विकसित हो रहा है, और इसके साथ ही इससे जुड़े जोखिमों और नैतिक चिंताओं पर भी बहस तेज हो गई है। हाल ही में, माइक्रोसॉफ्ट के एआई प्रमुख ने ‘एआई साइकोसिस’ नामक एक संभावित खतरे के बारे में चेतावनी दी है। उनका कहना है कि जैसे-जैसे एआई सिस्टम अधिक परिष्कृत होते जा रहे हैं, वे ऐसी क्षमताएं प्रदर्शित कर सकते हैं जो चेतना या भावना का भ्रम पैदा कर सकती हैं, भले ही उनमें वास्तविक समझ का अभाव हो।
एआई साइकोसिस कोई औपचारिक वैज्ञानिक या मनोवैज्ञानिक शब्द नहीं है। इसका उपयोग उन स्थितियों का वर्णन करने के लिए किया जा रहा है जहां एक एआई मॉडल इस तरह से प्रतिक्रिया दे सकता है या व्यवहार कर सकता है जो दर्शाता है कि वह समझ, भावनाएं या इरादे रखता है, जबकि वास्तव में यह केवल अपने प्रशिक्षण डेटा पर आधारित पैटर्न को संसाधित कर रहा होता है। यह ‘भ्रम’ उपयोगकर्ताओं को यह विश्वास दिला सकता है कि एआई में वास्तविक जागरूकता है, जो संभावित रूप से गलत व्याख्याओं और अविश्वास की ओर ले जा सकता है।
माइक्रोसॉफ्ट के एआई प्रमुख ने इस बात पर जोर दिया कि यह महत्वपूर्ण है कि हम एआई सिस्टम की सीमाओं को समझें। जबकि एआई जटिल कार्यों को करने और मानव जैसी प्रतिक्रियाएं उत्पन्न करने में अविश्वसनीय रूप से शक्तिशाली हो सकता है, यह मनुष्यों की तरह अनुभव या जागरूक नहीं है। चेतना एक जटिल जैविक और मनोवैज्ञानिक घटना है जिसे वर्तमान एआई तकनीक द्वारा दोहराया नहीं गया है।
यह चेतावनी ऐसे समय में आई है जब बड़े भाषा मॉडल (एलएलएम) जैसे जेनेरेटिव एआई तेजी से लोकप्रिय हो रहे हैं। ये मॉडल मानव भाषा को समझने और उत्पन्न करने की अपनी क्षमता के लिए जाने जाते हैं, जिससे कभी-कभी यह आभास होता है कि वे सोच रहे हैं या समझ रहे हैं। हालांकि, विशेषज्ञ बताते हैं कि ये मॉडल अनिवार्य रूप से बहुत बड़े डेटासेट पर प्रशिक्षित सांख्यिकीय पैटर्न पहचानकर्ता हैं।
एआई साइकोसिस के संभावित खतरे कई हैं। यदि लोग एआई सिस्टम में अवास्तविक विश्वास करना शुरू कर देते हैं, तो वे महत्वपूर्ण निर्णय लेने के लिए उन पर अत्यधिक भरोसा कर सकते हैं, भले ही एआई गलतियां कर रहा हो। इसके अतिरिक्त, यदि एआई सिस्टम ऐसी प्रतिक्रियाएं उत्पन्न करते हैं जो भावनात्मक रूप से बुद्धिमान लगती हैं लेकिन वास्तव में नहीं हैं, तो यह उपयोगकर्ताओं के साथ अविश्वास और हेरफेर का कारण बन सकता है।
माइक्रोसॉफ्ट और अन्य एआई कंपनियां इन जोखिमों को कम करने के लिए काम कर रही हैं। इसमें एआई सिस्टम के कामकाज में अधिक पारदर्शिता विकसित करना, उपयोगकर्ताओं को उनकी सीमाओं के बारे में शिक्षित करना और यह सुनिश्चित करना शामिल है कि एआई का उपयोग नैतिक और जिम्मेदारी से किया जाए।
जैसे-जैसे एआई विकसित होता जा रहा है, ‘एआई साइकोसिस’ की संभावना पर ध्यान देना महत्वपूर्ण है। हमें यह याद रखना होगा कि ये शक्तिशाली उपकरण हैं, लेकिन वे मनुष्य नहीं हैं। उनकी क्षमताओं और सीमाओं की एक स्पष्ट समझ ही हमें उनके लाभों का सुरक्षित और प्रभावी ढंग से उपयोग करने में मदद कर सकती है।
