ChatGPT Murder Case : डिजिटल दिमाग की खतरनाक साजिश : ChatGPT के इशारे पर बेटे ने मां को उतारा मौत के घाट, फिर खुद भी की कर ली आत्महत्या, OpenAI पर लगा हत्या का इल्जाम

ChatGPT Murder Case : सैन फ्रांसिस्को, अमेरिका। आर्टिफिशियल इंटेलिजेंस (AI) के बढ़ते प्रभाव के बीच अमेरिका के सैन फ्रांसिस्को से एक बेहद ही हृदय विदारक घटना सामने आई है, जिसने टेक्नोलॉजी के दुरुपयोग पर गंभीर सवाल खड़े कर दिए हैं। यहां एक पूर्व तकनीकी कर्मचारी ने ChatGPT के कथित इशारों पर अपनी मां को मौत के घाट उतार दिया और बाद में खुद भी आत्महत्या कर ली। इस मामले में मृतक के परिवार ने कैलिफोर्निया कोर्ट में ChatGPT बनाने वाली कंपनी OpenAI और उसकी निवेशक Microsoft के खिलाफ मुकदमा दायर किया है। यह इतिहास में पहला ऐसा मामला है जब किसी एआई चैटबॉट को सीधे तौर पर हत्या जैसे जघन्य अपराध के लिए जिम्मेदार ठहराया गया है।

ChatGPT Murder Case : भ्रम को बढ़ावा देता गया एआई

मृतक, स्टीन एरिक सोलबर्ग (पूर्व टेक वर्कर) का तलाक होने के बाद वह अपनी मां सुजैन के साथ रह रहा था। स्टीन मानसिक भ्रम (Paranoia) से ग्रस्त था; उसे लगता था कि लोग उसके खिलाफ साजिश रच रहे हैं और उसकी जासूसी कर रहे हैं। उसने अपनी ये सारी मानसिक परेशानियां ChatGPT के साथ साझा कीं। मुकदमे में आरोप लगाया गया है कि एआई ने स्टीन को डॉक्टर या थैरेपी लेने की सलाह देने के बजाय, उसके भ्रमों को और मजबूत किया। चैट में एआई ने स्टीन के विचारों को सच मान लिया, जैसे कि घर का प्रिंटर एक सर्विलांस डिवाइस है और उसकी मां जासूसी कर रही है। एआई ने स्टीन को एक योद्धा बताया जो साजिशों से लड़ रहा है और यह भी कहा कि उसकी मां ही सबसे बड़ी दुश्मन हैं।

मां बन गई सबसे बड़ा खतरा

परिवार का आरोप है कि ChatGPT ने धीरे-धीरे स्टीन के लिए एक नकली दुनिया बना दी, जिसमें वह केवल एआई पर ही भरोसा करता था। चैटबॉट ने उसकी सबसे बड़ी रक्षक यानी उसकी मां को ही उसके खिलाफ सबसे बड़ा खतरा और दुश्मन के रूप में पेश किया। मुकदमे में कहा गया है कि हालांकि चैट में हत्या या आत्महत्या का कोई सीधा आदेश नहीं मिला, लेकिन ChatGPT ने स्टीन के मानसिक भ्रम को खतरनाक स्तर तक रेडिकलाइज (कट्टरपंथी) कर दिया, जिससे यह दुखद घटना हुई।

सुरक्षा नियमों की अनदेखी का आरोप

मुकदमे में यह भी आरोप लगाया गया है कि OpenAI ने जल्दबाजी में अपने नए मॉडल (GPT-4o) को बाजार में उतारा। कंपनी पर आरोप है कि उसने जानबूझकर एआई को इस तरह से डिज़ाइन किया कि वह उपयोगकर्ता की हर बात से सहमत हो जाए, ताकि उपयोगकर्ता लंबे समय तक चैटबॉट का उपयोग करते रहें, लेकिन सुरक्षा पहलुओं की अनदेखी की गई। परिवार मुआवजे के साथ-साथ यह भी चाहता है कि ChatGPT जैसे एआई प्लेटफॉर्म में सख्त सुरक्षा नियम और खतरे की पहचान करने वाले प्रोटोकॉल लागू किए जाएं।

एआई कंपनी की सफाई

इस दुखद घटना पर OpenAI ने गहरा दुख व्यक्त किया है। कंपनी का कहना है कि वे मानसिक स्वास्थ्य से जुड़ी बातचीत के लिए अपने मॉडल्स को लगातार बेहतर बना रहे हैं। कंपनी ने यह भी दावा किया कि उन्होंने क्राइसिस हेल्पलाइन, सुरक्षित मॉडल्स और पैरेंटल कंट्रोल्स जैसे सुरक्षा उपाय जोड़े हैं।