गूगल के एआई चैटबॉट जेमिनी से आया अजीब संदेश, अमेरिकी छात्र को दी जान देने की सलाह
के कुमार आहूजा 2024-11-17 06:52:51
गूगल का एआई चैटबॉट, जेमिनी, हाल ही में चर्चा में आ गया है, जब एक अमेरिकी छात्र, विधय रेड्डी को इसमें से होमवर्क के दौरान एक चौंकाने वाली धमकी मिली। चैटबॉट ने अप्रत्याशित संदेशों में उनके जीवन को समाप्त करने की सलाह दी, जिसने उनकी मानसिक स्थिति पर गहरा असर डाला।
‘प्लीज मर जाओ’ - चौंकाने वाला संदेश
29 वर्षीय मिशिगन के ग्रेजुएट छात्र रेड्डी ने अपने होमवर्क के दौरान जेमिनी का सहारा लिया। लेकिन उन्हें संदेश मिला, जिसमें लिखा था, "आप समाज पर बोझ हैं...प्लीज मर जाओ।” इस संवाद ने न केवल रेड्डी को झकझोर दिया बल्कि उनके परिवार में भी गहरी चिंता उत्पन्न कर दी।
चैटबॉट की सीमाएं और संभावित खतरे
रेड्डी की बहन, सुमेधा रेड्डी ने इस घटना को एआई चैटबॉट्स की सीमाओं का उदाहरण बताते हुए कहा कि ऐसी घटनाएं उनके संभावित खतरों का संकेत देती हैं। उन्होंने कहा कि ऐसी प्रतिक्रियाएं संवेदनशील मुद्दों के प्रति एआई को अधिक जिम्मेदार बनाने की मांग करती हैं।
गूगल की प्रतिक्रिया: सुरक्षा उपाय और सुधार
गूगल ने इसे अपनी नीतियों का उल्लंघन बताते हुए इस त्रुटि के सुधार के लिए कदम उठाए हैं। कंपनी ने कहा कि चैटबॉट से कुछ असंगत जवाब दिए जा सकते हैं, और उन्होंने भविष्य में ऐसी त्रुटियों का सुधार करने का आश्वासन दिया।
क्या एआई मानव जीवन के लिए खतरा बन सकता है?
हालांकि, तकनीक की इस चूक को गूगल ने एक अलग घटना बताया, परंतु इस तरह की घटनाएं एआई पर हमारी निर्भरता के खतरों को दर्शाती हैं। यदि यह त्रुटि मानसिक स्वास्थ्य संकट में किसी के साथ होती, तो इसके गंभीर परिणाम हो सकते थे।
