8 वर्षांच्या मुलाला मारण्याबाबत चॅटजीपीटीच्या बॉटबरोबर केली चर्चा; संशयिताला अटकेनंतर झाला धक्कादायक खुलासा

(महत्त्वाचं: या लेखात हिंसा आणि आत्महत्येशी संबंधित उल्लेख आहेत.)

"मी त्याला मला आणि माझ्या मुलाला मारण्यासाठी 50 हजार रुपयांची ऑफर दिली. पण त्यात लहान मुलगा असल्यामुळे त्याने नकार दिला."

"लोकांना मारण्याची इच्छा माझ्या मनात कुठून आली, हे मला जाणून घ्यायचं होतं. दुसऱ्या व्यक्तीला त्रास होताना बघण्यात मला आनंद मिळतो."

सुमारे दोन महिने ब्राझीलमधील एका शेतकऱ्याने चॅटजीपीटी या एआय आधारित सहाय्यकाशी असे आणि इतर अनेक मेसेजची देवाणघेवाण केली.

पोलिसांच्या म्हणण्यानुसार, या मेसेजमध्ये त्याच्या 8 वर्षांच्या मुलाची हत्या, इतर लोकांवर हल्ला आणि त्यानंतर आत्महत्या करण्याच्या योजनांचा उल्लेख होता.

बीबीसी न्यूज ब्राझीलला मिळालेल्या नेमक्या या मेसेजमुळेच पोलिसांनी त्या व्यक्तीला अटक केली.

अशा प्रकारच्या मोजक्या प्रकरणांपैकी हे एक आहे. या 36 वर्षीय व्यक्तीला अटक करण्यात आली आहे.

चॅटजीपीटीची निर्मिती करणाऱ्या ओपनएआयने त्याचे मेसेज एफबीआयला कळवले. त्यानंतर एफबीआयने ब्राझीलमधील अधिकाऱ्यांना याची माहिती दिली.

तो केवळ चॅटबॉटशी 'निरर्थक गोष्टी' बोलत होता आणि त्याने कोणताही गुन्हा केलेला नाही, असा दावा त्याच्या वकिलांनी केला आहे.

या प्रकरणामुळे पोलीस, न्यायालये आणि एआय कंपन्यांसमोर एक नवीन प्रश्न उभा राहतो: एआय चॅटबॉटला गुन्हा घडण्यापूर्वीच एखाद्या व्यक्तीकडून धोका असल्याचं लक्षात आलं, तर पुढे काय करायचं? अशावेळी नेमकं काय व्हायला हवं?

(आत्महत्या ही गंभीर मानसिक आणि सामाजिक समस्या आहे. तुम्ही किंवा तुमच्या परिचयातील एखादी व्यक्ती तणावातून जात असेल तर भारत सरकारच्या 'जीवन आस्था' हेल्पलाइन 18002333330 वर संपर्क साधू शकता. मित्र, नातेवाईक किंवा विश्वासू व्यक्तींशीही संवाद साधणं महत्त्वाचं आहे.)

'प्लॅटफॉर्मने दिलेली सर्व माहिती तपासात खरी ठरली'

मुलाची ओळख उघड होऊ नये, त्याची ओळख सुरक्षित राहावी म्हणून बीबीसीनं या व्यक्तीचं नाव जाहीर केलेलं नाही.

19 जून रोजी साओ गॅब्रिएल दा पाल्हा या ग्रामीण भागातून त्या व्यक्तीला अटक करण्यात आली. त्याच्या 3 दिवस आधी ब्राझीलच्या न्याय मंत्रालयाच्या सायबर गुन्हे विभागाने हे प्रकरण राज्य पोलिसांकडे सोपवलं होतं.

एस्पिरितो सँटोच्या सायबर गुन्हे शाखेचे प्रमुख ब्रेनो आंद्रादे म्हणाले, "हे प्रकरण गंभीर असल्याने आम्ही त्याला प्राधान्य दिलं. या वडिलांनी 20 जूनपूर्वी आपल्या मुलाची हत्या करण्याची योजना आखल्याचं समोर आलं होतं."

आंद्रादे यांनी सांगितलं की, मुलाचा सांभाळ करण्यासाठी पैसे देण्याशिवाय या व्यक्तीचा आपल्या मुलाशी फारसा संपर्क नव्हता. तपास अधिकाऱ्यांच्या मते, हे पैसे द्यावे लागत असल्याचा राग त्याच्या कथित कटामागचं एक कारण असू शकतं.

त्याच्या घराच्या झडतीत 4 बाटल्या आणि गाठ मारलेला एक दोर सापडला. या बाटल्यांमध्ये नेमके कोणते पदार्थ होते, हे स्पष्ट झालेलं नाही. पोलिसांच्या मते, या वस्तूंवरून त्याचा आत्महत्या करण्याचा विचार असण्याची शक्यता आहे.

या व्यक्तीने शाळा, चर्च आणि पोलिसांवर हल्ला करण्याबाबतही चॅटजीपीटीशी चर्चा केली होती, असं पोलिसांनी म्हटलं.

बीबीसीला मिळालेल्या एका मेसेजमध्ये त्याने लिहिलं होतं, "मी अमली पदार्थांची विक्री होणाऱ्या ठिकाणी जाऊन 4 गुन्हेगारांना मारलं, तर शहरात माझी चर्चा होईल, मी प्रसिद्ध होईन. त्यानंतर 1-2 पोलिसांना मारलं की, मी शांतपणे मरू शकेन."

दुसऱ्या एका मेसेजमध्ये त्याने लिहिलं होतं, "मी बंदूक विकत घेऊन पोलिसांवर गोळीबार करण्याचा विचार करत आहे, जेणेकरून त्यांनी मला मारावं. माझ्यासाठी ते योग्य ठरेल."

तपास अधिकाऱ्यांच्या म्हणण्यानुसार, या व्यक्तीने रिसिनसह विषारी पदार्थांबद्दल माहिती शोधली. चॅटजीपीटीची सुरक्षा यंत्रणा टाळण्यासाठी त्याने आपले प्रश्न वेगळ्या पद्धतीने म्हणजे प्रश्न बदलून विचारण्याचाही प्रयत्न केला.

आंद्रादे म्हणाले, "प्लॅटफॉर्मने आम्हाला दिलेली सर्व माहिती पोलीस घटनास्थळी पोहोचल्यानंतर खरी असल्याचं समोर आलं."

या व्यक्तीने आपल्या मुलाला इजा करण्याचा आपला कोणताही हेतू नव्हता, असं सांगितलं.

54 दिवस पोलिसांच्या ताब्यात राहिल्यानंतर, तपासाला झालेल्या विलंबामुळे 13 ऑगस्ट रोजी त्याची सुटका करण्यात आली. त्याच्यावर अद्याप कोणतेही आरोप ठेवण्यात आलेले नाहीत. परंतु, पोलिसांचा तपास सुरू आहे.

या शेतकऱ्यावर काही निर्बंध घालण्यात आले आहेत. त्याच्यावर इलेक्ट्रॉनिक देखरेख ठेवली जात आहे. तसेच, त्याला आपल्या मुलाशी किंवा मुलाच्या आईशी संपर्क साधण्यास मनाई करण्यात आलेली आहे.

तपास अधिकारी संशयिताचा मोबाईल फोन तपासत आहेत. त्याच्या ताब्यातून जप्त केलेल्या वस्तूंच्या फॉरेन्सिक तपासणीचे अहवाल येणे बाकी आहेत. यावरून त्याने आपल्या एखाद्या योजनेच्या दिशेने प्रत्यक्ष पाऊल उचललं होतं का, हे तपासलं जाणार आहे. चॅटजीपीटीशी झालेल्या संभाषणात त्याने सांगितल्याप्रमाणे, त्याने एखाद्या मारेकऱ्याशी संपर्क केला होता का, हेही तपासलं जात आहे.

या पुराव्यांमुळे संशयिताने गुन्ह्याची केवळ योजना आणि तयारी केली होती की, ती प्रत्यक्षात आणण्यासाठी पुढेही पाऊल उचललं होतं, हे स्पष्ट होण्यास मदत होऊ शकते.

ब्राझीलच्या फौजदारी कायद्यानुसार, साधारणपणे एखादा गुन्हा प्रत्यक्ष कृती सुरू केल्यावरच म्हणजेच अंमलबजावणीच्या टप्प्यावरच घडला, असं मानलं जातं.

यासंदर्भात त्याने कोणतंही प्रत्यक्ष पाऊल उचललं नव्हतं, असं बचाव पक्षाचं म्हणणं आहे.

"एआयशी बोलणं आणि काहीही निरर्थक गोष्टी सांगणं किंवा बडबडणं हा गुन्हा असेल, तर मग सर्वांनाच तुरुंगात जावं लागेल," असं बचाव पक्षाचे वकील पेद्रो पाउलो पेसी यांनी बीबीसी न्यूज ब्राझीलला सांगितलं.

पुराव्याबाबतचा प्रश्न

एआय कंपन्यांनी आपल्या वापरकर्त्यांची माहिती पोलिसांना दिल्याची प्रकरणं फार कमी किंवा दुर्मीळ आहेत, असं मानलं जातं.

अमेरिकेतील प्रसारमाध्यमांमध्ये आलेल्या वृत्तानुसार, ऑगस्टमध्ये फ्लोरिडातील एका 25 वर्षीय व्यक्तीने आपल्या माजी प्रेयसीवर बलात्कार करून तिची हत्या करण्याची योजना चॅटजीपीटीशीसोबत शेअर केली. त्यानंतर ओपनएआयने याची माहिती एफबीआयला दिली.

एस्पिरितो सँटो पोलिसांचे अधिकारी आंद्रादे यांनी सांगितलं की, एआयकडून मिळालेल्या अशा प्रकारच्या धोक्याची ही त्यांच्या राज्यातील पहिलीच घटना आहे. ब्राझीलमध्येही अशा प्रकारचं हे केवळ तिसरंच प्रकरण होतं.

"लोकांनी एआयचा वापर करून गुन्ह्यांबाबत काही माहिती शोधली आहे का, हे तपासण्यासाठी पोलिसांना यामुळे आणखी एक मार्ग मिळाला आहे," असं आंद्रादे म्हणाले.

परंतु, एआय कंपन्यांकडून पोलिसांना दिलेल्या अशा माहितीकडे तपासात कसं पाहिलं जातं, याबाबत अनेक प्रश्न आहेत. हे मेसेज न्यायालयात पुरावा म्हणून वापरता येतील का, हा देखील एक मोठा प्रश्न आहे.

तपास अधिकाऱ्यांच्या म्हणण्यानुसार, ओपनएआयने या व्यक्तीची माहिती आणि त्याने पाठवलेले मेसेज पोलिसांना दिले. पण, चॅटजीपीने त्याला दिलेली उत्तरं मात्र दिली नाहीत.

"चॅटजीपीने दिलेली उत्तरं आम्हाला मिळाली नाहीत," असं आंद्रादे म्हणाले.

फौजदारी वकील मायरा फर्नांडिस म्हणतात की, यामुळे पुराव्याबाबत अडचण निर्माण होते. कारण मेसेज कोणत्या संदर्भात केले होते, हे समजणं खूप महत्त्वाचं आहे.

त्या म्हणाल्या, "मेसेजचा केवळ छोटासा भाग किंवा तुकडा पुरेसा नाही. त्यात बदल करून चालणार नाही. संपूर्ण संभाषण पाहणं गरजेचं आहे."

फर्नांडिस म्हणाल्या, संशयित आणि चॅटजीपीटीमधील संपूर्ण संभाषण पाहिल्यास एक गोष्ट स्पष्ट होऊ शकते. चॅटजीपीटीने केवळ त्या व्यक्तीच्या बोलण्याला उत्तर दिलं होतं की, संभाषणावर त्याचा काही प्रभावही पडला होता, हे समजण्यास मदत होऊ शकतं.

बीबीसी न्यूज ब्राझीलला दिलेल्या निवेदनात कंपनीने चॅटजीपीटीची उत्तरं पोलिसांना का दिली नाहीत, हे स्पष्ट केलेलं नाही. पण, एखाद्या व्यक्तीकडून दुसऱ्याला 'विश्वसनीय आणि तातडीचा धोका' असल्याचं आढळून आल्यास पोलिसांना माहिती दिली जाऊ शकते, असं कंपनीने सांगितलं.

यावर्षी एप्रिलमध्ये फ्लोरिडामध्ये ओपनएआयविरोधात फौजदारी तपास सुरू करण्यात आला आहे. गेल्या वर्षी फ्लोरिडा स्टेट युनिव्हर्सिटीत झालेल्या गोळीबारात दोघांचा मृत्यू झाला होता. या घटनेत चॅटजीपीटीच्या तंत्रज्ञानाचा काही संबंध होता का, हे या तपासातून पाहिलं जात आहे.

ओपनएआयने हे आरोप फेटाळले आहेत. कंपनीच्या म्हणण्यानुसार, चॅटजीपीटीने आधीच सार्वजनिकपणे उपलब्ध असलेली माहिती दिली होती. तसेच, चॅटजीपीटीने कोणत्याही अवैध कृत्याला प्रोत्साहन दिलेलं नाही.

'कायदेशीर कारवाईची जबाबदारी'

फर्नांडिस म्हणतात की, ब्राझीलमधील या प्रकरणातील कथित पीडित मुलगा अल्पवयीन होता आणि त्याची ओळखही स्पष्ट होती. त्यामुळे ओपनएआयने पोलिसांना इशारा का दिला, हे समजण्यास मदत होते.

मात्र, फर्नांडिस यांनी केवळ एआयच्या अंदाजावरून तपास करण्याची पद्धत रूढ किंवा सामान्य होण्याच्या धोक्याबाबत इशारा दिला आहे.

त्या म्हणाल्या, "असं झालं तर एआयने एखाद्या व्यक्तीच्या बोलण्याचा तसा अर्थ लावला म्हणून कोणाचीही चौकशी होऊ शकते."

खरोखरचा धोका आणि केवळ मनातील राग व्यक्त करणं, कल्पना किंवा चिथावणीखोर वक्तव्यं यातील फरक ओळखण्यासाठी योग्य सुरक्षा उपाय असणं गरजेचं आहे, असा युक्तिवाद त्यांनी केला आहे.

डिजिटल कायद्याच्या तज्ज्ञ आणि प्राध्यापक पॅट्रिशिया पेक म्हणतात, या प्रकरणातून एआयच्या बदलत्या भूमिकेचं चित्र दिसतं. एआय आता केवळ माहिती किंवा मजकूर तयार करण्याचं साधन राहिलेलं नाही, तर 'धोकादायक वर्तनाशी संबंधित पॅटर्न ओळखण्याची क्षमता'ही त्याच्यामध्ये आहे.

त्यांच्या मते, काही परिस्थितींमध्ये एआय कंपन्यांवर पोलिसांना किंवा संबंधित अधिकाऱ्यांना माहिती देण्याची कायदेशीर जबाबदारी किंवा बंधन असू शकते.

त्या म्हणतात, "जेव्हा एखाद्याचं बोलणं केवळ एक कल्पना किंवा विचार न राहता ठोस धमकीचं, धोक्याचं रूप घेतं, त्यात कोणाला लक्ष्य केलं आहे हे स्पष्ट असतं, त्यासाठीची साधनं उपलब्ध असतात आणि धोका जवळ आलेला असतो, तेव्हा कारवाई करणं ही नैतिक आणि काही परिस्थितींमध्ये कायदेशीर जबाबदारी किंवा कर्तव्य ठरू शकतं."

परंतु, फर्नांडिस यांच्याप्रमाणेच त्याही एआयच्या अशा वापराचा अतिरेक टाळण्याचा इशारा देतात.

"एआयला लागू होणारी नीतिशास्त्रे ही 'सर्व गोष्टींवर देखरेख ठेवण्याच्या' तर्कावर आधारित नसावीत, तर 'धोका खरोखरच गंभीर असेल तेव्हाच हस्तक्षेप करण्याच्या' तर्कावर आधारित असावीत."

त्या म्हणतात, "खरा धोका दुर्लक्षित होऊ नये आणि प्रत्येक गोष्टीवर गरजेपेक्षा जास्त नजरही ठेवली जाऊ नये, यातील योग्य समतोल साधणं हे मोठं आव्हान आहे."

"खरा धोका दुर्लक्षित होऊ नये आणि गरजेपेक्षा जास्त पाळतही ठेवली जाऊ नये, हेच सर्वात मोठं आव्हान आहे."

महत्त्वाची सूचना

औषधोपचार आणि थेरपीच्या मदतीने मानसिक आजारांवर उपचार शक्य आहेत. यासाठी तुम्ही मानसोपचारतज्ज्ञांची मदत घेणं गरजेचं आहे. तुम्हाला किंवा एखाद्या परिचित व्यक्तीमध्ये अशा प्रकारच्या मानसिक आजारांची लक्षणं दिसल्यास या हेल्पलाईन नंबरवर संपर्क साधून मदत मिळवू शकता.

हितगुज हेल्पलाईन, मुंबई - 022- 24131212

सामाजिक न्याय आणि सशक्तीकरण मंत्रालय -1800-599-0019 (13 भाषांमध्ये उपलब्ध)

इंस्टिट्यूट ऑफ ह्यूमन बिहेवियर अँड एलाइड सायन्सेस - 9868396824, 9868396841, 011-22574820

नॅशनल इंस्टिट्यूट ऑफ मेंटल हेल्थ अँड न्यूरोसायन्स - 080 - 26995000

विद्यासागर इंस्टिट्यूट ऑफ मेंटल हेल्थ अँड एलाइड सायन्सेस, 24X7 हेल्पलाइन-011 2980 2980

बीबीसीसाठी कलेक्टिव्ह न्यूजरूमचे प्रकाशन.