अघिल्लो हप्ता सामाजिक संजालमा काठमाण्डौं महानगरका मेयर बालेन शाह र उपमेयर सुनिता डंगोलको चुम्बन गरेको भिडियो भाइरल बन्यो । त्यो वास्तविक नभई एआइ प्रयोग गरि बनाईएको डिपफेक भिडियो थियो । भिडियो बनाई सामाजिक संजालमा राख्ने बाजुराका एक युवालाई प्रहरीले पक्राउ गरेर कानुनी कार्वाहिका लागि प्रक्रिया अगाडि बढाएको छ । 

नेपालमा डिपफेक प्रविधिको प्रयोग बढ्दै गएको छ, विशेष गरी सामाजिक सञ्जाल टिकटक, फेसबुक, इन्स्टाग्राम जस्ता प्लेटफर्महरूमा डिपफेक भिडियोहरू धेरै देखिएका छन् ।  चरित्र हत्या गर्न हालै, काठमाडौं महानगरपालिकाका मेयर बालेन शाह र उपमेयर सुनिता डंगोलको चुम्बन गरेक डिपफेक भिडियो मात्र हैन टिकटकबाट चिनिएकी अनु परियार पनि डिपफेक प्रविधिको शिकार भएकी छन्, जहाँ उनको अनुहार अन्य व्यक्तिको शरीरमा जोडी अश्लील हाउभाउका भिडियोहरू बनाइएको थियो । 

यो लेखमा डिपफेकको इतिहास, वर्तमान र यसले सामाजिक, राजनीतिक क्षेत्रमा कस्तो प्रभाव पारिरहेको छ भन्ने कुरा उल्लेख गरिने छ । विशेष त सुचना तथा प्रविधिको क्षेत्रमा अग्रस्थानमा रहेको अमेरिकाको राष्ट्रपतीय चुनावमा पनि डिपफेकको प्रभाववारे वृतान्त यस लेखमा समावेश गरिएको छ । 

डिपफेक (Deepfake) भनेको कृत्रिम बौद्धिकता (AI) र मेसिन लर्निङ (Machine Learning) प्रविधिको प्रयोग गरी बनाइने नक्कली श्रव्य-दृश्य सामग्री हो । यसमा कुनै व्यक्तिको अनुहार, आवाज, वा हाउभाउलाई अरू व्यक्तिको अनुहार, आवाज, वा हाउभाउसँग मिलाएर वास्तविक जस्तो देखिने सामग्री बनाइन्छ।

डिपफेकको इतिहास

डिपफेक प्रविधिको सुरुवात २०१७ मा भएको थियो । यो प्रविधि पहिलो पटक सार्वजनिक भए लगत्तै यसले छिट्टै नै लोकप्रियता पायो र विभिन्न सामाजिक सञ्जालहरूमा फैलियो। प्रारम्भमा, डिपफेक प्रविधि मनोरञ्जनका लागि प्रयोग गरिन्थ्यो, जस्तै चलचित्रहरूमा विशेष प्रभावहरू सिर्जना गर्न आदि । तर, समयसँगै यसको दुरुपयोग पनि बढ्न थाल्यो ।

वर्तमान स्थिति

वर्तमान अवस्थामा डिपफेक प्रविधि अत्यन्तै परिष्कृत भइसकेको छ र नयाँ नयाँ प्रविधिहरु थप्दै अप्डेट हुनेक्रममा छ । यसले राजनीतिक, सामाजिक, र आर्थिक क्षेत्रमा ठूलो प्रभाव पारिरहेको छ । उदाहरणका लागि, डिपफेक प्रविधिको प्रयोग गरेर कुनै नेताले नभनेका कुरा उनीहरूको मुखबाट बोल्दै गरेको देखाउन सकिन्छ, जसले चुनावी परिणामहरूमा असर पार्न सक्छ । विभिन्न अश्लिल भिडियोहरु बनाई व्यक्तिको चरित्र हत्या गर्ने लगायत सामाजिक, सास्कृतिक, धार्मिक क्षेत्रमा यसको प्रभाव परिरहेको छ । 

डिपफेक प्रविधिको दुरुपयोग रोक्नका लागि विभिन्न कानुनी र प्राविधिक उपायहरू अपनाइएका छन् । सामाजिक सञ्जालहरूले डिपफेक सामग्रीलाई प्रतिबन्धित गर्न थालेका छन् र अनुसन्धानकर्ताहरूले डिपफेक पहिचान गर्ने प्रविधिहरू विकास गरिरहेका छन् ।

डिपफेक बनाउनको लागि जेनेरेटर एल्गोरिदमको प्रयोग यसरी हुन्छ:

डेटा संकलन: पहिलो चरणमा, जेनेरेटरलाई प्रशिक्षण दिनको लागि ठूलो मात्रामा वास्तविक तस्बिर, भिडियो, वा अडियो डेटा संकलन गरिन्छ।

प्रशिक्षण: जेनेरेटरलाई संकलित डेटा प्रयोग गरेर प्रशिक्षण दिइन्छ। यसले वास्तविक जस्तो देखिने नयाँ सामग्री सिर्जना गर्न सिक्छ।

सामग्री सिर्जना: प्रशिक्षण पछि, जेनेरेटरले नयाँ तस्बिर, भिडियो, वा अडियो सामग्री सिर्जना गर्छ, जुन वास्तविक जस्तो देखिन्छ।

डिस्क्रिमिनेटरको प्रयोग: डिस्क्रिमिनेटर एल्गोरिदमले जेनेरेटरले सिर्जना गरेको सामग्रीको वास्तविकता जाँच्छ । यदि डिस्क्रिमिनेटरले सामग्रीलाई नक्कली ठहराउँछ भने, जेनेरेटरलाई पुनः प्रशिक्षण दिइन्छ ।

पुनरावृत्ति: यो प्रक्रिया धेरै पटक दोहोरिन्छ जबसम्म जेनेरेटरले डिस्क्रिमिनेटरलाई छल्न सक्ने स्तरको वास्तविक जस्तो सामग्री सिर्जना गर्न सक्दैन  ।

यसरी, जेनेरेटर र डिस्क्रिमिनेटरको सहकार्यले उच्च गुणस्तरको डिपफेक सामग्री उत्पादन गर्न मद्दत गर्छ ।

अमेरिकामा नोभेम्बरमा हुने राष्ट्रपतीय चुनावका लागि डेमोक्रेटिक र रिपब्लिकन दलहरूबीच कडा प्रतिस्पर्धा चलिरहेको छ। हालैका दिनहरूमा, दुवै दलका उम्मेदवारहरू आफ्ना एजेन्डाहरू प्रस्तुत गर्दै मतदाताहरूलाई आकर्षित गर्न निकै सक्रिय रहेका छन्। यस क्रममा, उनीहरूले सामाजिक सञ्जालको व्यापक प्रयोग गरिरहेका छन्।

तर, सामाजिक सञ्जालको प्रयोगले उनीहरूलाई चर्चामा ल्याउनुका साथै विवादमा पनि तानिरहेको छ । सोमबार मात्र, रिपब्लिकन दलका राष्ट्रपतिका उम्मेदवार डोनाल्ड ट्रम्पले सामाजिक सञ्जाल ‘एक्स’ मा गायिका टेलर स्विफ्ट र उनका प्रशंसकहरूले आफूलाई समर्थन गरेको सन्देश दिने तस्बिरहरू सार्वजनिक गरे।

ट्रम्पले ती तस्बिरहरूको क्याप्सनमा “म स्विकार्छु” भनेर लेखेका थिए । तर, ती तस्बिरहरू वास्तविक थिएनन्; ती एआई (कृत्रिम बौद्धिकता) प्रयोग गरेर सिर्जना गरिएका थिए । ट्रम्पको ‘एक्स’ ह्यान्डलबाट ती तस्बिरहरू सार्वजनिक भएपछि, स्विफ्टिज (टेलर स्विफ्टका फ्यानहरू) ले उनलाई गलत सूचना फैलाएको आरोप लगाए।

गायिका टेलर स्विफ्टले, जसले अमेरिका मात्र नभई विश्व राजनीति र अर्थतन्त्रमा समेत प्रभाव पार्न सक्छिन्, २०२० को अमेरिकी राष्ट्रपतीय चुनावमा डेमोक्रेटिक दलका जो बाइडेनलाई समर्थन गरेकी थिइन्। डोनाल्ड ट्रम्प राष्ट्रपति रहँदा उनको कडा आलोचना गरेकी स्विफ्टले २०२४ को चुनावमा भने हालसम्म कुनै पनि उम्मेदवारलाई समर्थन गरेकी छैनन् ।

ठूला प्रविधि कम्पनीहरूले वाटरमार्किङ र ट्यागिङजस्ता प्रविधिहरू प्रयोग गरेर एआईद्वारा सिर्जित तस्बिर र भिडियोहरूको उत्पत्ति पहिचान गर्न र त्यस्ता हानिकारक सामग्रीको वितरण रोक्न प्रयास गरिरहेका छन् । अमेजनको ग्लोबल एआई नीति प्रमुख निकोल फोस्टरले भने, भ्रामक तस्बिर र भिडियोहरू सिर्जना गर्ने व्यक्तिलाई कडा सजाय दिने कानुन बनाउने जिम्मा सरकारको हातमा रहेको बताए। माइक्रोसफ्ट र अमेजनले लोकतान्त्रिक प्रक्रियालाई विकृत गर्ने र व्यवसायलाई नोक्सान पुर्‍याउने ‘डिपफेक’ प्रविधिलाई नियमन गर्न नयाँ कानुनको समर्थन गर्ने संकेत दिएका छन्।

गुगलले डिपफेकमार्फत चुनावमा कुनै पनि हानि पुर्‍याउन नदिन आफ्नो प्रविधिले जोगाउने दाबी गरेको छ । फेसबुकले विश्वव्यापी समस्याका रूपमा रहेको डिपफेक पत्ता लगाउने प्रविधि विकास गरेको भए पनि, त्यो प्रभावकारी नभएको अमेरिकी कंग्रेसको भनाइ छ। कंग्रेसले पटकपटक फेसबुकका प्रमुख कार्यकारी अधिकृत मार्क जुकरबर्गको बयान लिँदै आएको छ ।

युरोपेली संघको डाटा प्रोटेक्सनसम्बन्धी रिपोर्टले नेता तथा सेलेब्रिटीका नक्कली अनुहारहरू तयार पारेर गलत तथा झूटा जानकारी फैलाउन टिकटकपछि फेसबुकको प्रयोग बढी हुने गरेको देखाएको छ । डिपफेकले मान्छेका निजी सुरक्षामा गम्भीर बाधा खडा गरेकै कारण, फेसबुकले एआईलाई कसरी सम्बोधन गर्ने भन्नेमा मिसिगन विश्वविद्यालयसँग सहकार्य गरिरहेको छ।

इलन मस्कको ‘एक्सएआई’ कम्पनीको ‘ग्रोग-२’ एआई मोडेलबाट एक सातामा धेरै डिपफेक सिर्जना भएका छन्। ती डिपफेकहरूमा डोनाल्ड ट्रम्पलाई बन्दुकसहित र कमला ह्यारिसलाई ‘गर्भवती’ का रूपमा देखाइएको छ। त्यस्तै, टेलर स्विफ्ट लगायतका सेलेब्रिटीहरूको आपत्तिजनक तस्बिरहरू पनि देख्न सकिन्छ।

डिपफेकका कारण सामाजिक सञ्जाल वा इन्टरनेट प्रयोगकर्ताहरू सही र सत्य सामग्रीबाट छुट्याउन नसकिने नक्कली भिडियो वा तस्बिरसम्म पुग्ने गरेका छन् । पछिल्लो समय अधिकांश मानिस समाचार सामग्रीका लागि सामाजिक सञ्जालमै भर पर्न थालेका कारण पनि डिपफेकको असर बढ्दो छ । टिकटक, रिल्स, सर्ट्स, स्न्यापच्याट र इन्स्टाग्रामजस्ता प्लेटफर्महरूमा डिपफेकको प्रयोग धेरै हुने गरेको छ ।  यस्ता प्लेटफर्ममार्फत सञ्चार हुने डिपफेकका कारण मतदाताको विश्वास कमजोर पार्ने मात्र नभई, चुनावी परिणाम नै परिवर्तन गर्न सक्ने देखिएको छ । जसका कारण अमेरिकाजस्तो विकसित देश र उन्नत ठानिएको लोकतन्त्रसमेत डिपफेकसामु निरीह देखिएको छ ।

डिपफेक प्रविधिको दुरुपयोगले भविष्यमा लोकतन्त्रलाई नै खतरामा पार्न सक्ने विश्लेषकहरूको चेतावनी छ। डिपफेकको सुरुवात भने ‘फोटो म्यानुपुलेसन’ बाट भएको मानिन्छ। सन् १८६० मा अमेरिकी गृहयुद्धको समयमा राजनीतिज्ञ जोन कलहवनको शरीरमा अब्राहम लिंकनको टाउको जोडेर भ्रामक तस्बिर बनाइएको थियो।

सोभियत संघका नेता जोसेफ स्टालिनले १९२० मा प्रोपोगान्डा फैलाउन ‘फोटो म्यानुपुलेसन’ गरेका थिए। उनले आफ्ना पूर्ववर्ती भ्लादिमिर लेनिनले सोभियत सेनालाई निर्देशन दिएको तस्बिरमा लियोन ट्राटस्कीलाई हटाउन लगाएका थिए। स्टालिनले लेनिनसँग उभिने अर्को कोही समकालीन नेता नभएको देखाउन ट्राटस्कीलाई हटाएका थिए। त्यस्तै, १९४२ मा इटालीका तानाशाह बेनिटो मुसोलिनीले घोडा समाइरहेका व्यक्तिलाई तस्बिरबाट हटाएका थिए ।

पछिल्लो समय, २०१७ नोभेम्बरमा सामाजिक सञ्जाल रेडिट बाट ‘डिपफेक पोर्न भिडियो’ सार्वजनिक भएको थियो । त्यसयता, विभिन्न सामाजिक सञ्जालमा सेलेब्रिटी तथा चर्चित व्यक्तिका अनुहार पोर्न भिडियोमा जोडेर बदनाम गर्ने गतिविधि बढ्न थालेको छ। हाल भने यो राजनीतिक लाभ–हानिका विषयमा पनि जोडिन थालेको छ। यसको पछिल्लो उदाहरण हो, ट्रम्प र ह्यारिसको भिडियो। एआईमार्फत कुनै पनि व्यक्तिको वास्तविक भिडियो, तस्बिर वा अडियो प्रयोग गरेर दोस्रो व्यक्तिको जस्तो सामग्री बनाउने कार्य डिपफेक हो। डिपफेक बनाउनका लागि जेनेरेटर र डिस्क्रिमिनेटर गरी दुई वटा एल्गोरिदमको प्रयोग गरिन्छ।

डिपफेकका कारण सामाजिक सञ्जाल वा इन्टरनेट प्रयोगकर्ताहरू सही र सत्य सामग्रीबाट छुट्याउन नसकिने नक्कली भिडियो वा तस्बिरसम्म पुग्ने गरेका छन् । पछिल्लो समय अधिकांश मानिस समाचार सामग्रीका लागि सामाजिक सञ्जालमै भर पर्न थालेका कारण पनि डिपफेकको असर बढ्दो छ। टिकटक, रिल्स, सर्ट्स, स्न्यापच्याट र इन्स्टाग्रामजस्ता प्लेटफर्महरूमा डिपफेकको प्रयोग धेरै हुने गरेको छ। यस्ता प्लेटफर्ममार्फत सञ्चार हुने डिपफेकका कारण मतदाताको विश्वास कमजोर पार्ने मात्र नभई, चुनावी परिणाम नै परिवर्तन गर्न सक्ने देखिएको छ। जसका कारण अमेरिकाजस्तो विकसित देश र उन्नत ठानिएको लोकतन्त्रसमेत डिपफेक सामु निरीह देखिएको छ ।

डिपफेकसँगै ह्याकिङ र फिसिङ पनि अर्को ठूलो चिन्ताको विषय बनेको छ। सोमबार मात्रै अमेरिकी राष्ट्रपतीय चुनावका दुवै उम्मेदवार (ट्रम्प र ह्यारिस) का निर्वाचन अभियानमा साइबर आक्रमण भएको जनाइएको छ। नेसनल इन्टेलिजेन्स (ओडीएनआई), संघीय अनुसन्धान ब्युरो (एफबीआई) र साइबर सुरक्षासम्बन्धी एजेन्सी (सीआईएसए) ले संयुक्त विज्ञप्ति जारी गर्दै त्यस्तो आक्रमण प्रयासका लागि इरानलाई जिम्मेवार ठहराएका छन्।

डेमोक्रेटिक पार्टीका तर्फबाट वर्तमान उपराष्ट्रपति ह्यारिसलाई औपचारिक रूपमा उम्मेदवार घोषणा गर्न लागिएको सम्मेलनको पूर्वसन्ध्यामा उक्त विज्ञप्ति सार्वजनिक भएको हो। इरानसँग सम्बन्धित विभिन्न व्यक्ति तथा संस्थाले ह्यारिस र ट्रम्पका निर्वाचन अभियानमा साइबर आक्रमणको प्रयास गरेको विज्ञप्तिमा उल्लेख छ । साथै, विभिन्न प्लेटफर्म प्रयोग गरेर अमेरिकी लोकतान्त्रिक संस्थामाथिको विश्वास घटाउने र एकआपसको विवादलाई भड्काउने काममा लागेको अमेरिकी सरकारको आरोप छ।

‘नियो थिंकर’ जस्ता नाम राखेर इरानको रिभोलुसनरी गार्ड वा अन्य प्रभावशाली समूहसँग सम्बन्धित अनलाइन समूहहरूले राष्ट्रपतीय उम्मेदवारलाई गालीगलौज गर्ने, भ्रामक हल्ला फैलाउने, फिसिङ वा ह्याकिङको उद्देश्यले संक्रामक इमेलहरू पठाउने, विभिन्न स्थानीय संरचनाहरूमा अनधिकृत पहुँच बनाउने र बट एकाउन्टहरूको प्रयोग गरेर संगठित रूपमा मुद्दा भड्काउने प्रयास गरिरहेको माइक्रोसफ्टको रिपोर्टमा उल्लेख छ। संयुक्त राष्ट्रसंघका लागि इरानी मिसनले भने अमेरिकी सरकारका आरोपहरूलाई अस्वीकार गरेको छ। 

इरानको रिभोलुसनरी गार्ड, जसलाई इस्लामिक रिभोलुसनरी गार्ड कोर (IRGC) पनि भनिन्छ, इरानको एक प्रमुख सैन्य संगठन हो। यो संगठन १९७९ मा इरानी इस्लामिक क्रान्तिपछि स्थापित भएको थियो। यसको मुख्य उद्देश्य इरानको इस्लामिक शासनको रक्षा गर्नु हो। IRGC ले इरानको सैन्य, राजनीतिक, र आर्थिक क्षेत्रमा महत्वपूर्ण भूमिका खेल्छ ।

विज्ञप्तिको प्रतिक्रिया दिँदै इरानले अमेरिकी आरोपमा कुनै आधार नभएको बताएको छ। ‘हामीले यसअघि पनि भनेका छौं, अमेरिकी राष्ट्रपतीय निर्वाचनमा प्रभाव पार्ने हाम्रो कुनै चाहना वा उद्देश्य छैन।’ यसअघि सन् २०१६ र २०२० का राष्ट्रपति निर्वाचनहरूमा पनि रुसलगायत विभिन्न विदेशी सरकारहरूले प्रभावित पारेको र व्यापक रूपमा मतदाताहरू सम्म भ्रामक सूचनाहरू पुर्‍याएको सार्वजनिक भएको थियो ।   

(Source: Various Websites and News Agencies)