नयाँ दिल्ली। भारतीय इन्स्टाग्राम सेन्सेसन ‘बेबी डल अर्ची’लाई आफ्नो फलोअर्स दोब्बर गरेर १४ लाख पुर्याउन केही दिन मात्र लागेको थियो। यसको पछाडि केही भाइरल सामाजिक सञ्जाल पोस्टहरू थिए। एउटा भिडियोमा उनी रातो सारीमा रोमानियाली गीत ‘डामे उन गर्र’ मा आकर्षक ढंगले नाचिरहेकी थिइन्। अर्को पोस्टमा उनले अमेरिकी एडल्ट फिल्म स्टार केन्ड्रा लस्टसँग पोज दिएको फोटो थियो।
अचानक सबैजना उनीबारे जान्न चाहन्थे—‘बेबी डल अर्ची’ नाम गुगल सर्चमा ट्रेन्डिङमा आयो र यसले अनगिन्ती मिम्स र फ्यान पेजहरू जन्मायो। तर कसैलाई थाहा थिएन, यो अनलाइन सेन्सेसनको पछाडि कुनै वास्तविक महिला थिइनन्।
इन्स्टाग्राम खाता नक्कली थियो, यद्यपि यसले प्रयोग गरेको अनुहार वास्तविक महिलाको अनुहारसँग अचम्मलाग्दो रूपमा मिल्दोजुल्दो थियो—उनी असमको डिब्रुगढ सहरमा बस्ने एक गृहिणी थिइन्, जसलाई हामीले ‘साँची’ भनेर चिनाएका छौँ।
यो सत्य तब बाहिर आयो जब साँचीका भाइले प्रहरीमा उजुरी दिए। त्यसपछि, साँचीका पूर्वप्रेमी प्रतिम बोरालाई पक्राउ गरियो। अनुसन्धानको नेतृत्व गरिरहेकी वरिष्ठ प्रहरी अधिकारी सिजल अग्रवालका अनुसार साँची र बोराबिचको सम्बन्धमा खटपट भएपछि उनले साँचीसँग ‘शुद्ध बदला’ लिनका लागि उनको अनुहार प्रयोग गरेर एआईबाट ‘बेबी डल अर्ची’ बनाएका थिए।
अग्रवालका अनुसार, मेकानिकल इन्जिनियर र एआईबारे रुचि रहेका बोराले साँचीका व्यक्तिगत तस्बिरहरू प्रयोग गरी नक्कली प्रोफाइल बनाएका थिए। बोरा अहिले हिरासतमा छन् र उनले कुनै बयान दिएका छैनन्। ‘बेबी डल अर्ची’ २०२० मा बनाइएको थियो र पहिलो पोस्ट मे २०२१ मा अपलोड गरिएको थियो। अग्रवालका अनुसार, सुरुवाती तस्बिरहरू साँचीका वास्तविक तस्बिरहरू थिए, जसलाई मोर्फ (विकृत) गरिएको थियो।
समय बित्दै जाँदा, बोराले च्याटजीपीटी (ChatGPT) र डिजाइन (Dzine) जस्ता उपकरणहरू प्रयोग गरी एआई संस्करण तयार गरे। त्यसपछि उनले त्यो ह्यान्डलमा डीपफेक तस्बिर र भिडियोहरू अपलोड गर्न थाले। खाताले गत वर्षदेखि नै लाइक पाउन थालेको थियो, तर यसले यो वर्षको अप्रिलदेखि मात्र चर्चा पाउन थालेको हो।
साँची सामाजिक सञ्जालमा सक्रिय छैनन् र उनले यो खाताका बारेमा तब मात्र थाहा पाइन् जब मूलधारका सञ्चारमाध्यमले ‘बेबी डल अर्ची’ लाई ‘इन्फ्लुएन्सर’ भन्दै प्रोफाइल गर्न थाले। रिपोर्टहरूले उनले अमेरिकी पोर्न उद्योगमा सामेल हुन सक्ने अड्कलबाजी पनि गरेका थिए, जुन असमको उत्तर-पूर्वी राज्यबाट आएको व्यक्तिका लागि पहिलो हुन्थ्यो।
साँचीको परिवारले जुलाई ११ को राति प्रहरीलाई बुझाएको दुई अनुच्छेदको छोटो उजुरीमा केही तस्बिर र भिडियोका प्रिन्टआउट प्रमाणका रूपमा संलग्न थिए। अग्रवालका अनुसार, उनीहरूलाई यसको पछाडि को छ भन्ने कुनै जानकारी नभएकाले उजुरीमा कसैको नाम उल्लेख गरिएको थिएन।
‘बेबी डल अर्ची’ प्रहरीका लागि अपरिचित नाम थिएन। प्रहरी अधिकारी अग्रवालले उनीहरूले सञ्चारमाध्यमका रिपोर्ट र टिप्पणीहरू पनि हेरेको बताइन्, जसमा त्यो खाता एआईबाट सिर्जना गरिएको अनुमान गरिएको थियो, तर त्यो कुनै वास्तविक व्यक्तिमा आधारित भएको कुनै संकेत थिएन।
उजुरी प्राप्त भएपछि, प्रहरीले इन्स्टाग्रामलाई खाता सिर्जनाकर्ताको विवरण माग्दै पत्र लेख्यो। ‘हामीले इन्स्टाग्रामबाट जानकारी प्राप्त गरेपछि, हामीले साँचीलाई प्रतित बोरा नाम गरेको कसैलाई चिन्छौँ कि भनेर सोध्यौँ। उनले पुष्टि गरेपछि, हामीले तिनको ठेगाना नजिकैको तिनसुकिया जिल्लामा पत्ता लगायौँ। हामीले उनलाई जुलाई १२ को साँझ पक्राउ गर्यौँ,’ अग्रवाल भनिन् ।
मेटाले यस विषयमा बीबीसीको प्रश्नको जवाफ दिएको छैन, तर यसले सामान्यतया नग्नता वा यौन सामग्री पोस्ट गर्न अनुमति दिँदैन। गत महिना, सीबीएसले मेटाले वास्तविक मानिसहरूको तस्बिर प्रयोग गरेर यौनका रूपमा स्पष्ट डीपफेक सिर्जना गर्न प्रयोग हुने एआई उपकरणहरूको प्रचार गर्ने धेरै विज्ञापनहरू हटाएको भनेर रिपोर्ट गरेको थियो ।
अग्रवालका अनुसार, प्रहरीले उनको ल्यापटप, मोबाइल फोन र हार्ड ड्राइभहरूका साथै उनले खाताबाट पैसा कमाएकाले बैंकका कागजातहरू पनि जफत गरेको छ। ‘खातामा लिङ्कट्रीमा ३००० सब्स्क्रिप्शन थिए र हामीलाई विश्वास छ कि उनले त्यसबाट १० लाख रुपैयाँ कमाएका थिए। उनले पक्राउ पर्नुभन्दा पाँच दिनअघि मात्रै ३ लाख रुपैयाँ कमाएका थिए,’ उनले थपिन्।
अग्रवालका अनुसार, साँची ‘अत्यन्तै विचलित छिन्’ तर अहिले उनी र उनको परिवारले परामर्श लिइरहेका छन् र उनीहरू राम्रो हुँदैछन्। ‘यस प्रकारको घटना हुनबाट रोक्न वास्तवमा कुनै उपाय छैन, तर यदि हामीले पहिले नै कारबाही गरेको भए, यसलाई यति धेरै चर्चामा आउनबाट रोक्न सक्थ्यौं,’ अग्रवालले भनिन्।
‘तर साँचीलाई कुनै जानकारी थिएन किनभने उनको सामाजिक सञ्जालमा कुनै उपस्थिति छैन। उनको परिवारलाई पनि यो खाताबाट ब्लक गरिएको थियो। यो भाइरल भएपछि मात्र उनीहरूलाई यसको बारेमा थाहा भयो,’ उनले थपिन्।
मेटाले यस विषयमा बीबीसीको प्रश्नको जवाफ दिएको छैन, तर यसले सामान्यतया नग्नता वा यौन सामग्री पोस्ट गर्न अनुमति दिँदैन। गत महिना, सीबीएसले मेटाले वास्तविक मानिसहरूको तस्बिर प्रयोग गरेर यौनका रूपमा स्पष्ट डीपफेक सिर्जना गर्न प्रयोग हुने एआई उपकरणहरूको प्रचार गर्ने धेरै विज्ञापनहरू हटाएको भनेर रिपोर्ट गरेको थियो ।
‘बेबी डल अर्ची’ को इन्स्टाग्राम खाता, जसमा २८२ वटा पोस्ट थिए, अहिले सार्वजनिक रूपमा उपलब्ध छैन । यद्यपि सामाजिक सञ्जालमा उनका तस्बिर र भिडियोहरू भरिएका छन् र एउटा इन्स्टाग्राम खातामा ती सबै भएको देखिन्छ। बीबीसीले मेटालाई यस विषयमा उनीहरूले के गर्ने योजना बनाएका छन् भनेर सोधेको छ।
एआई विज्ञ र वकिल मेघना बाल भन्छिन्, ‘साँचीलाई जे भयो, त्यो डरलाग्दो छ तर यसलाई रोक्न लगभग असम्भव छ।’
बोराविरुद्धको उजुरीमा प्रहरीले यौन उत्पीडन, अश्लील सामग्री वितरण, मानहानि, प्रतिष्ठालाई हानि पुर्याउन जालसाजी, प्रतिरूपणद्वारा ठगी र साइबर क्राइमसँग सम्बन्धित कानुनका धाराहरू लगाएका छन्। यदि दोषी ठहरिएमा बोरालाई १० वर्षसम्म कैद हुन सक्छ।
उनी अदालतमा गएर ‘बिर्सिने अधिकार’ माग्न सक्छिन् र अदालतले उनको नाम लिने प्रेस रिपोर्टहरू हटाउन आदेश दिन सक्छ, तर इन्टरनेटबाट सबै कुरा मेटाउन गाह्रो हुन्छ। ‘साँचीलाई जे भयो, त्यो महिलाहरूसँग सधैं भइरहेको घटना हो, जहाँ उनीहरूका तस्बिर र भिडियोहरू बदलाको रूपमा फैलाइन्छ,’ उनी भन्छिन्।
‘एआईका कारण यो अहिले गर्न धेरै सजिलो भएको छ, तर यस्ता घटनाहरू हामीले अपेक्षा गरेजस्तो सामान्य छैनन् वा उनीहरूले यो घटनाबारे रिपोर्ट नगरेका हुन सक्छन् किनभने कलंकको डर वा लक्षित व्यक्तिलाई यस बारेमा थाहा नै नहुन सक्छ, जस्तो कि यस मामलामा भएको थियो,’ बालले भनिन्।
‘यो हेर्ने मानिसहरूलाई पनि सामाजिक सञ्जाल प्लेटफर्म वा साइबर क्राइम पोर्टलमा रिपोर्ट गर्ने कुनै प्रोत्साहन थिएन,’ उनी थप्छिन्। बोराविरुद्धको उजुरीमा प्रहरीले यौन उत्पीडन, अश्लील सामग्री वितरण, मानहानि, प्रतिष्ठालाई हानि पुर्याउन जालसाजी, प्रतिरूपणद्वारा ठगी र साइबर क्राइमसँग सम्बन्धित कानुनका धाराहरू लगाएका छन्। यदि दोषी ठहरिएमा बोरालाई १० वर्षसम्म कैद हुन सक्छ।
यो घटनाले हालैका दिनहरूमा सामाजिक सञ्जालमा आक्रोश पनि निम्त्याएको छ, र केहीले यस्ता घटनाहरूसँग जुध्न कडा कानुनको माग गरेका छन्। बाललाई विश्वास छ, यस्ता घटनाहरू हेर्न पर्याप्त कानुनहरू छन्, तर जेनेरेटिभ एआई कम्पनीहरूसँग जुध्नका लागि नयाँ कानुनको आवश्यकता छ कि छैन भन्ने कुरालाई हेर्नुपर्छ।
‘तर हामीले यो पनि याद राख्नुपर्छ कि डीपफेकहरू अनिवार्य रूपमा खराब हुँदैनन् र कानुनहरूलाई सावधानीपूर्वक बनाउनुपर्छ किनभने तिनीहरूलाई स्वतन्त्र अभिव्यक्तिलाई दबाउन हतियारका रूपमा पनि प्रयोग गर्न सकिन्छ,’ उनले थपिन् ।
