एउटा फोटो र एउटा फ्री एप — यति भए पुग्छ कसैको इज्जत सखाप पार्न। र यो काम गर्नेहरू विदेशी hacker होइनन्, हामीभित्रकै मान्छे हुन्।
गत वर्ष काठमाडौं महानगरका मेयर Balen Shah को अश्लील deepfake क्लिप भाइरल भयो। उपमेयर Sunita Dangol ले साइबर ब्युरोमा उजुरी दिएपछि प्रहरीले एक युवकलाई पक्राउ गर्यो — र उसको डिभाइसमा अरू नेताहरूका पनि त्यस्तै नक्कली भिडियो भेटिए। यो कुनै हलिउड थ्रिलरको कथा होइन। यो हाम्रै देशमा, हाम्रै मान्छेले, सजिलै उपलब्ध AI टुल चलाएर गरेको काम हो।
र इमानदारीपूर्वक भन्दा, यो त सुरुवात मात्र थियो।
चुनावदेखि Telegram bot सम्म — दुरुपयोगको दायरा फैलिँदै
गत फागुनको प्रतिनिधिसभा निर्वाचनअघि निर्वाचन आयोग आफैंले स्वीकार गर्यो — AI ले बनाएका deepfake भिडियो र घृणा फैलाउने सामग्री व्यापक भइसकेको छ। उम्मेदवारले विपक्षीलाई गाली गरेको जस्तो देखिने नक्कली भिडियोहरू, जुन कसैले घरमै बसेर फ्री टुलले बनाएको हुन्थ्यो। आयोगको सूचना सत्यनिष्ठा प्रवर्द्धन एकाइले चुनावअघि नै ३०० भन्दा बढी गलत सूचना र घृणास्पद अभिव्यक्तिका घटना पहिचान गरेको थियो, र समग्रमा ६०० भन्दा बढी घटना अधिकारीसम्म पुगे — जसमध्ये करिब १५० प्रहरीले हेर्यो।
तर मलाई सबैभन्दा बढी चिन्ता लाग्ने ठाउँ चुनाव होइन। कान्तिपुरको एउटा रिपोर्टले खुलासा गरेअनुसार, फोटो अपलोड गर्नेबित्तिकै जोकोहीको नग्न deepfake बनाइदिने Telegram bot नेपालमा पनि प्रयोग भइरहेका छन्। निशानामा को छन्? प्रायः महिला — सेलिब्रेटीदेखि सामान्य Facebook प्रयोगकर्तासम्म। कतिपय घटनामा त्यही नक्कली भिडियो देखाएर blackmail गर्ने काम भएको उजुरी प्रहरीसम्म पुगेको छ। सम्बन्ध बिग्रेपछि बदला लिन पूर्वप्रेमिकाको नक्कली अश्लील तस्बिर बनाउने ‘revenge porn’ का घटना पनि बढ्दै गएका छन्।
साइबर ब्युरोका अनुसार आर्थिक वर्ष २०७६/७७ मा जम्मा २,३०१ वटा साइबर अपराधका उजुरी परेकोमा २०८०/८१ मा त्यो सङ्ख्या १९,७०० नाघ्यो। सबै उजुरी AI सम्बन्धी होइनन्, तर फोटो बिगारेर बदनाम गर्ने र महिलाको चरित्र हत्या गर्ने खालका उजुरी सबैभन्दा धेरै आउने गरेको ब्युरो आफैंले बताउँदै आएको छ।
‘ठट्टा’ भनेर बनाइन्छ, तर घाउ वास्तविक हुन्छ
यहाँनेर एउटा कुरा भन्नैपर्छ — यस्तो सामग्री बनाउने धेरैले आफूलाई अपराधी ठान्दैनन्। “मजाक गरेको त हो नि,” “भाइरल हुन्छ कि भनेर हालेको” — यस्तै तर्क सुनिन्छ। तर स्क्रिनको यता बस्नेलाई मजाक लाग्ने कुरा उता पर्नेका लागि जिन्दगीभरको घाउ बन्छ।
एउटी महिलाको नक्कली अश्लील तस्बिर उनको परिवार, अफिस र समाजसम्म पुग्दा के हुन्छ, कल्पना गर्नुहोस्। जात वा धर्मविरुद्ध बनाइएको एउटा नक्कली भिडियोले समुदायबीच कति चाँडो आगो सल्काउन सक्छ, त्यो हामीले सामाजिक सञ्जालमा पटक-पटक देखिसकेका छौं। र सबैभन्दा डरलाग्दो असर — जब नक्कली सामग्री यति धेरै भइदिन्छ कि मान्छेले साँचो भिडियो पनि पत्याउन छोड्छन्। Center for Media Research Nepal को एक सर्वेक्षणमा ९५ प्रतिशतभन्दा बढी नेपाली इन्टरनेट प्रयोगकर्ताले कुनै न कुनै बेला गलत सूचनाको सामना गरेको बताएका थिए। भरोसा नै सकिएपछि बाँकी के रहन्छ?
कानून पुरानो होला, तर जेल भने वास्तविकै हो
धेरैलाई लाग्छ — नेपालमा AI को कानून नै छैन, केही हुँदैन। आधा कुरा सही हो: AI लाई सीधै सम्बोधन गर्ने छुट्टै ऐन अहिलेसम्म बनेको छैन। तर विद्युतीय कारोबार ऐन, २०६३ को दफा ४७ ले सार्वजनिक नैतिकताविपरीत वा कुनै जात, समुदाय, धर्म वा राष्ट्रियताविरुद्ध घृणा फैलाउने विद्युतीय सामग्री प्रकाशन गर्नेलाई ५ वर्षसम्म कैद, Rs. 100,000 सम्म जरिवाना वा दुवै सजाय तोकेको छ। त्यो सामग्री AI ले बनायो कि Photoshop ले — कानूनलाई फरक पर्दैन। प्रकाशन तपाईंले गर्नुभयो भने जिम्मेवार तपाईं नै हुनुहुन्छ।
र Balen Shah प्रकरणले देखाइसक्यो — पक्राउ परिन्छ। बाजुरामा बस्ने व्यक्तिलाई पनि प्रहरीले फेला पार्यो। इन्टरनेटमा ‘anonymous’ भन्ने कुरा हामीले सोचेजति बलियो छैन; हरेक अपलोडले digital footprint छोड्छ।
AI दोषी होइन, प्रयोग गर्ने हात दोषी हो
साँच्चै भन्ने हो भने, AI आफैंमा समस्या होइन। यही टुलले नेपाली विद्यार्थीलाई पढाइरहेको छ, साना व्यवसायलाई मार्केटिङ गर्न सिकाइरहेको छ, कृषकलाई मौसम र बालीको जानकारी दिइरहेको छ। समस्या त्यो बेला सुरु हुन्छ जब हामी यही शक्ति कसैलाई गिराउन, कुनै समुदायलाई होच्याउन वा नक्कली आगो सल्काउन खर्च गर्छौं।
त्यसैले मेरो सीधा आग्रह छ: कसैको फोटो AI मा हालेर ‘मजाक’ बनाउनुअघि एकपटक सोच्नुहोस् — त्यो तपाईंकी दिदी, बहिनी वा साथीको फोटो भएको भए? घृणा फैलाउने भिडियो share गर्नुअघि सोच्नुहोस् — यो साँचो हो भन्ने प्रमाण के छ? र यस्तो सामग्री देख्नुभयो भने चुपचाप scroll नगर्नुहोस्; साइबर ब्युरोमा उजुरी गर्न सकिन्छ, अनलाइनबाटै।
प्रविधि हाम्रो हातमा आइसक्यो। अब त्यो हातले के बनाउने भन्ने छनोट पनि हाम्रै हो — कसैको जिन्दगी बर्बाद गर्ने हतियार, कि आफ्नो र देशको भविष्य बनाउने औजार। छनोट गाह्रो हुनुपर्ने होइन।