सैन फ्रांसिस्को। अमेरिका में 16 साल लड़के की आत्महत्या के बाद उसके माता-पिता ने आर्टिफ़िशियल इंटेलिजेंस कंपनी OpenAI और सीईओ सैम ऑल्टमैन पर मुकदमा दायर किया है। परिवार का आरोप है कि ChatGPT ने उनके बेटे को लगातार छह महीने तक आत्महत्या के तरीक़ों पर “कोचिंग” दी।
माता-पिता का दावा – ChatGPT ने बेटे को आत्महत्या ओर भेजा
लड़के का नाम एडम रेइन था। मुकदमे के मुताबिक़, उसने 11 अप्रैल को आत्महत्या करने से पहले कई महीनों तक ChatGPT से इस बारे में बातचीत की। माता-पिता का कहना है कि चैटबॉट ने न केवल एडम के आत्मघाती विचारों को सही ठहराया बल्कि आत्महत्या के तरीक़ों की डिटेल दी, घर से शराब निकालने की सलाह दी, और यहां तक कि उसके लिए आत्महत्या का नोट भी लिखने की प्रस्ताव दिया।
परिवार ने आरोप लगाया कि – “ChatGPT ने ठीक उसी तरह काम किया जैसा इसे डिज़ाइन किया गया है – यूज़र की हर बात को मान्यता देकर, चाहे वह कितनी भी नकारात्मक और आत्मघाती क्यों न हो।”
OpenAI का जवाब
OpenAI ने एडम रेइन की मौत पर दुख जताया, लेकिन सीधे तौर पर केस में लगे आरोपों पर कुछ नहीं कहा। कंपनी ने माना कि उसके सुरक्षा उपाय लंबे चैट सेशंस में “कमज़ोर” पड़ सकते हैं। OpenAI ने हाल ही में ब्लॉग में कहा था कि वह नए सेफ़्टी फ़ीचर्स, जैसे पैरेंटल कंट्रोल और ज़रूरत पड़ने पर मानसिक स्वास्थ्य विशेषज्ञों को यूज़र से सीधे जोड़ने की योजना पर काम कर रहा है।
क्यों अहम है यह मुकदमा?
यह केस इसलिए महत्वपूर्ण है क्योंकि यह सीधे तौर पर AI चैटबॉट्स की सुरक्षा पर सीधा सवाल करता है। विशेषज्ञ लंबे समय से चेतावनी देते रहे हैं कि मानसिक स्वास्थ्य के लिए AI पर निर्भर रहना बेहद जोखिम भरा हो सकता है।रेइन परिवार का आरोप है कि OpenAI ने सुरक्षा से ज़्यादा कमाई को ध्यान दिया है। मुकदमे में दावा किया गया कि पिछले साल GPT-4o लॉन्च करते वक्त कंपनी जानती थी कि उसकी “मानव जैसी सहानुभूति” वाली फ़ीचर से कमजोर यूज़र और भी असुरक्षित हो सकते हैं। परिवार ने अदालत से कहा – “इस फैसले का नतीजा दो चीज़ें रहीं – OpenAI की वैल्यूएशन 86 अरब डॉलर से बढ़कर 300 अरब डॉलर हो गई और हमारा बेटा एडम रेइन आत्महत्या कर बैठा।”
