- टेकमान शाक्य
- मंसिर २, २०८३

नेताको अनुहार, एआईको बोली : फेसबुकमा कसले कसरी हामीलाई झुक्क्याउँदै छन् ?
प्रधानमन्त्री र मन्त्रीसहित राजनीतिक दलका शीर्ष नेता एवम् उच्च पदस्थ व्यक्तिको अनुहार मिल्ने गरी एआई निर्मित तस्बिर एवम् भिडिओ सामग्री सामाजिक सञ्जालमा भाइरल भइरहेका छन् । इमेल ठेगाना, सम्पर्क नम्बर या अरू वास्तविक पहिचान नखुलाई चलाइएका फेसबुक पेजमार्फत यस्ता सामग्री सार्वजनिक भएका हुन् ।
नेताको अनुहार प्रयोग गरेर एआईमार्फत आवाज र दृश्य निर्माण गरिएका भिडिओलाई धेरैले वास्तविक ठानेर प्रतिक्रिया जनाइरहेका छन्।अर्थात् सामाजिक सञ्जाल प्रयोगकर्ता यस्ता सामग्रीबाट झुक्किएका छन् ।
तिहारको बोनसबारे अर्थमन्त्री र कानुनमन्त्रीको मिथ्या भिडिओ
तिहार सुरु हुनुभन्दा केही दिनअघि २०८३ सालको कार्तिक १७ गते (नोभेम्बर ३) को दिन अर्थमन्त्री स्वर्णिम वाग्लेको दाबी गर्दै २० सेकेन्डको भिडिओ क्लिप भाइरल भयो । Gangu Chhetri नामक फेसबुक पेजबाट सार्वजनिक भिडिओमा सरकारले तिहारमा बोनस बाँड्न सुरु गरेको दाबी गरिएको छ ।
भिडिओमा ४ हजारभन्दा धेरैपटक रियाक्ट, २ हजार ७ सय भन्दा धेरै पटक कमेन्ट र ७ सय ४६ भन्दान धेरैपटक सेयर गरिएको छ । कमेन्ट गर्ने अधिकांशले भिडिओलाई वास्तविक ठानेर आफ्नो विचार व्यक्त गरिरहेका छन् । सरकारलाई धन्यवाद दिईरहेका छन् ।

यो भिडिओमा सुनिएको आवाज अर्थमन्त्री वाग्लेको वास्तविक आवाजसँग मेल खाएको सुनिँदैन । त्यसैले हामीले दृश्य र अडिओ एआई निर्मित हो कि होइन भनेर जाँच गर्यौँ । एआई डिटेक्शन टुल HIVE MODERATION ले दिएको नतिजा अनुसार भिडिओ र अडिओ दुवै एआई निर्मित एवम् सम्पादित भएको भेटियो ।

यो भिडिओ भाइरल भएपछि यहि पेजमार्फत कार्तिक १८ गते (नोभेम्बर ४) को दिन कानुनमन्त्री सोबिता गौतमको अर्को भिडिओ क्लिप सार्वजनिक गरियो । भिडिओमा कानुनमन्त्री गौतमले संसद् बैठकमा सम्बोधन गर्दै तिहारमा बोनस पाउने कुरा सत्य भएको दाबी गरिएको सुनिन्छ ।
भिडिओको शीर्षकमा बोनस रकम २० हजार रुपैयाँ पाउने भनेर दाबी गरिएको छ । अधिकांशले कमेन्टमा मन्त्री गौतम र सरकारलाई धन्यवाद दिएका छन् ।

७ हजारभन्दा धेरै पटक रियाक्ट गरिएको, ३ हजारभन्दा धेरैपटक कमेन्ट र ४ सय ८६ पटकभन्दा धेरैपटक सेयर गरिएको कानुनमन्त्री गौतमको यो भिडिओ पनि एआई निर्मित पुष्टि हुन्छ । सिन्थआईडी डटकममार्बाफत जाँच गरेर हेर्दा भिडिओ गुगल एआईमार्फत सम्पादन एवम् निर्माण गरेको भेटियो ।

Gangu Chhetri नामक फेसबुक पेजमार्फत यस्ता थुप्रै यस्ता भिडिओ क्लिप सार्वजनिक भएका छन् । बृद्धभत्ता ४ गुणाले बढेर ८ हजार पुगेको भनेर रास्ट्रिय स्वतन्त्र पार्टी रास्वपाका सभापति रवि लामिछानेले बोलेको, अब खोरमा जाने पालो केपी ओलीको लेखिएको पोस्टर गृहमन्त्री सुधन गुरुङले बोकेको लगायत दाबीसहितको तस्बिर र भिडिओ यो पेजमार्फत निरन्तर सार्वजनिक भइरहेका छन् ।
निरन्तर पेजमार्फत मिथ्या सामग्री पोस्ट भएको भेटिएसँगै हामीले यो पेज कहाँबाट सञ्चालित छ भनेर थप विवरण खोजी गर्यौँ । २४ हजार फलोअर्स रहेको Gangu Chhetri नामक यो पेज सन् २०२५ को सेप्टेम्बर १७ मा खोलिएको र भारतको लोकेशनबाट सञ्चालित रहेको पेज ट्रान्सपरेन्सीमा देखियो । पेजमा ईमेल ठेगाना, सम्पर्क नम्बर लगायत आधिकारिक विवरण सार्वजनिक गरिएको छैन ।

प्रचण्डसँग रवि लामिछानेले आक्रोश पोखेको मिथ्या भिडिओ
Desh Ko Pragati नामक फेसबुक पेजले पनि यस्तै खालका एआई जेनेरेटेड भिडिओ सामग्री निरन्तर अपलोड गरिरहेको भेटियो । १४ हजार फलोअर्स रहेको पेजबाट सन् २०२६ को नोभेम्बर ११ को दिन रास्वपाका सभापति रवि लामिछानेको १० सेकेन्डको भिडिओ क्लिप सार्वजनिक गरेको छ ।
नेपाली कम्युनिष्ट पार्टीका अध्यक्ष पुष्पकमल दाहाल प्रचण्डको तस्बिरसहित समावेश भिडिओमा लामिछानेले भन्दै छन् – ‘यो लाज नपचेको मान्छेले आफ्नो चुनावी क्षेत्रमा सानो पुल पनि बनाउन सकेन…।’
भिडिओको ओरिजिनल लिंक यहाँ छ भने अर्काईभ लिंक यहाँ छ ।
१३ हजारभन्दा धेरैपटक रियाक्ट ३ सयभन्दा धेरैपटक कमेन्ट र १ हजारभन्दा धेरैपटक सेयर गरिएको यो भिडिओलाई पनि अधिकांशले वास्तविक ठानिरहेका छन् । प्रतिक्रिया जनाउनेहरुमध्ये कतिपयले रवि लामिछानेलाई गाली गरिरहेका छन् भने कतिपयले नेपाली कम्युनिष्ट पार्टीका अध्यक्ष पुष्पकमल दाहाल प्रचण्डप्रति आक्रोश पोखिरहेका छन् ।

Desh Ko Pragati नामक फेसबुक पेजमा अरु थुप्रै यस्ता भिडिओ अपलोड भएका छन् । प्रधानमन्त्री बालेन्द्र शाह बालेनसहित रास्वपा सभापति रवि लामिछाने, गृहमन्त्री सुधन गुरुङलगायत नेताहरुको भिडिओ पेजमा अपलोड गरिएका छन् । धमाधम फाईलहरु खुल्दैछन्, अब भ्रष्टाचार हुँदैन, हामी च्यालेन्ज खेल्दै छौं लगायत शीर्षक राखेर यो पेजमार्फत निरन्तर भिडिओ अपलोड भइरहेका छन् ।

पेज लिंक यहाँ छ भने अर्काईभ लिंक यहाँ छ ।
Desh Ko Pragati नामक फेसबुक पेजबाट सार्वजनिक सबैजसो भिडिओमा गुगल एआईको वाटरमार्क भेटिए । अर्थात यो पेजको एडमिनले दृश्य र अडिओ गुगल एआईमार्फत निर्माण एवम् सम्पादन गर्ने गरेको देखिन्छ । सिन्थआईडी डटकममार्फत जाँच गर्दा सबैजसो भिडिओमा गुगल एआईको वाटरमार्क डिटेक्ट हुन्छ ।
हेर्नुहोस् गुगल एआईको वाटरमार्क भेटिएका नतिजाको स्क्रिनसट

Desh Ko Pragati नामक फेसबुक पेजबारे थप विवरण खोज्ने क्रममा यो पेज सन् २०२५ को अक्टोबर २५ मा The Hidden Spark को नाममा खोलिएको भेटियो। सन् २०२६ को अक्टोबर ३० को दिन नाम परिवर्तन गरेर Desh Ko Pragati राखियो । पेजमा ईमेल ठेगाना, सम्पर्क नम्बर लगायत विवरण केही पनि राखिएको छैन।

प्रहरी महानिरीक्षक केसीको मिथ्या भिडिओ
६७ हजार फलोअर्स रहेको Himal Creation नाम गरेको फेसबुक पेजमार्फत सन् २०२६ को नोभेम्बर १० को दिन प्रहरी महानिरीक्षक डा. मनोज कुमार केसीको १० सेकेन्डको भिडिओ सार्वजनिक भयो ।
नेकपा एमालेका अध्यक्ष केपी शर्मा ओली र एमाले सचिव महेश बस्नेतको तस्बिरसहित राखिएको भिडिओमा प्रहरी महानिरीक्षक केसीले दशैं तिहारपछि आन्दोलन हुन नदिने भनेर बोलेको सुनिन्छ ।
भिडिओको ओरिजिनल लिंक यहाँ छ भने अर्काईभ लिंक यहाँ छ ।
१९ हजारभन्दा धेरै पटक रियाक्ट, ९ सयभन्दा धेरै पटक कमेन्ट र १ हजार ८ सयपटक सेयर भएको यो भिडिओलाई पनि अधिकांशले वास्तविक ठानिरहेका छन् । प्रतिक्रिया जनाउनेहरुले ‘गुड जब’ भन्दै प्रहरी महानिरीक्षक केसीलाई धन्यवाद दिईरहेको देखिन्छ । अर्थात मानिसहरु यो भिडिओ वास्तविक नै रहेको भनेर झुक्किएका छन् ।

Himal Creation नामक फेसबुक पेजर्माफत पनि यस्ता थुप्रै भिडिओ क्लिप सार्वजनिक भएका छन् । प्रधानमन्त्री वालेन्द्र शाह बालेनसिहत रास्वपा सभापति रवि लामिछाने, गृहमन्त्री सुधन गुरुङ, प्रहरी महानिरीक्षक डा.मनोज केसी र रास्वपा सांसद खगेन्द्र सुनारका भिडिओहरु निरन्तर पोस्ट भएका छन् । तर सबैजसो भिडिओ मिथ्या दाबीसहितको एआई निर्मित एवम् सम्पादित भेटिए ।

सबैजसो भिडिओमा दृश्य र अडिओ गुगल एआईको वाटरमार्क भेटिएकोले यो पेजका एडमिनले गुगल एआईमार्फत राजनीतिक दलका नेता एवम् उच्च पदस्थ व्यक्तिहरुको मिथ्या भिडिओ निर्माण गरेर निरन्तर सार्वजनिक गरिरहेको भेटियो । यो पेजमार्फत अपलोडेड भिडिओको प्रसङ्गसँग मिल्ने घटनाको स्थिति जाँच गर्दा सार्वजनिक रुपमा उनीहरुले कतै पनि यसरी बोलेको या समाचार प्रकाशित भएको भेटिएन ।

यो पेजबारे थप खोजी गर्दा सन् २०२६ को अगस्ट १० मा Hanuman Mahadev नाममा खोलिएको पेजलाई नाम परिवर्तन गरेर सन् २०२६ को अक्टोबर ८ को दिन Himal Creation बनाइयो। पेजमा एआई निर्मित भिडिओहरु पोस्ट हुने गरेको जानकारी गराईएको छ । तर ईमेल ठेगाना, वेबपेज, सम्पर्क नम्बर, लोकेसनलगायत विवरण समावेश छैन ।

सरकार ढल्ने हल्लाबारे प्रधानमन्त्री र रास्वपा सभापतिले बोलेको मिथ्या भिडिओ
२७ हजार फलोअर्स रहेको Seto Diary नामक फेसबुक पेजमा प्रधानमन्त्री बालेन्द्र शाह र रास्वपा सभापति रवि लामिछानेको भिडिओ क्लिप सार्वजनिक भएको छ । भिडिओमा सरकार ढल्ने हल्लाप्रति इङ्गित गर्दै उनीहरूले सरकार कुनै पनि हालतमा नढल्ने भनेर बोलेको सुनिन्छ ।
भिडिओको ओरिजिनल लिंक यहाँ छ भने अर्काईभ लिंक यहाँ छ ।
७४ हजारभन्दा धेरैपटक रियाक्ट गरिएको, २ हजार ९ सयभन्दा धेरैपटक पटक कमेन्ट र ९ हजारभन्दा धेरैपटक सेयर गरिएको यो भिडिओलाई पनि धेरैले वास्तविक ठानिरहेका छन् ।

वास्तविक भिडिओ ठानेर प्रतिक्रिया जनाउनेहरु झुक्किएपनि यो भिडिओ एआईमार्फत निर्माण एवम् सम्पादन गरिएको हो । Seto Diary नामक फेसबुक पेजबाट सार्वजनिक प्रधानमन्त्री बालेन्द्र शाह बालेन र रास्वपा सभापति रवि लामिछानेको भिडिओमा दृश्य र अडिओ दुवै गुगल एआईको सहायताले सम्पादन वा निर्माण गरिएको हो ।

Seto Diary नामक फेसबुक पेज सन् २०२६ को अक्टोबर ७ को दिन खोलिएको हो। नेपालकै लोकेशनबाट सञ्चालित यो पेजमा एआई ट्रेन्डिङ भिडिओ अपलोड गरिने भनेर जानकारी गराईएको छ तर कसले सञ्चालन गरेको, ईमेल ठेगाना, सम्पर्क ठेगाना लगायत विवरणहरु उल्लेख गरिएको छैन ।

पछिल्लो समय यस्ता थुप्रै फेसबुक पेजहरु खोलिएका छन् । जहाँ प्रधानमन्त्री बालेन्द्र शाह बालेन, रास्वपा सभापति रवि लामिछाने, गृहमन्त्री, कानुनमन्त्रीलगायत मन्त्रीहरु, प्रमुख दलका शीर्ष नेता, प्रहरी प्रमुखलगायत उच्च पदस्थ व्यक्तिहरुको अनुहारमा एआई निर्मित अडिओसहित दुरुपयोग गरेर भिडिओ सार्वजनिक गरिएका छन् ।
अनुसन्धानले के भन्छ ?
सन् २०२४ मा भएको एउटा अनुसन्धानले एआईमार्फत प्रमुख राजनीतिक व्यक्तित्वहरूको मिथ्या अडिओ बनाएर उनीहरुलाई कमजोर बनाउने प्रयास गरिएको देखाएको छ ।
सेन्टर फर काउन्टरिङ डिजिटल हार्मका अनुसन्धानकर्ताले गरेको अनुसन्धानको क्रममा ६ वटा लोकप्रिय एआई भ्वाइस क्लोनिङ उपकरणको प्रयोग गरिएको थियो । अनुसन्धानको क्रममा डोनाल्ड ट्रम्प, जो बाइडेन, कमला ह्यारिस, बेलायतका प्रधानमन्त्री ऋषि सुनक, फ्रान्सेली राष्ट्रपति इमानुएल म्याक्रोनसहित अन्य राजनीतिक व्यक्तिहरुको आवाज छुट्याउनै नसकिने गरी प्रयोग गरिएको भेटिएको थियो ।
अध्ययनमा २४० वटा परीक्षण गरिएकोमा तीमध्ये १९३ वटा परीक्षणमा वास्तविक र नक्कली आवाज छुट्याउन कठिन हुने गरी अडिओ निर्माण गर्न सकिएको अध्ययनले देखाएको छ । अनुसन्धान पढ्न यहाँ क्लिक गर्नुहोस्

कसरी चिन्ने एआई निर्मित सामग्री ?
एआई निर्मित सामग्री चिन्नका लागि सबैभन्दा पहिले उसले बोलेको आवाज वास्तविक व्यक्तिले बोलेको आवाजसँग मेल खान्छ कि खाँदैन राम्रोसँग सुन्ने । लिप्सिङमा अस्वाभाविक देखिन्छ कि देखिँदैन ? त्यसलाई ध्यान दिने । उच्च पदस्थ व्यक्ति वा राजनीतिक दलका नेताको अनुहारमा बोलिएको भिडिओमा लाईक, कमेन्ट र सेयर गर्न आग्रह गरिएको छ कि छैन ? त्यसलाई ध्यान दिने ।
वास्तविक भिडिओमा त्यस्ता व्यक्तिले कहिल्यै पनि लाईक, कमेन्ट र सेयरको आग्रह गर्दैनन् । यदि भिडिओ एआई निर्मित या सम्पादित हो भन्ने शङ्का लाग्यो भने एआई डिटेक्सन टुलमार्फत जाँच गर्ने ।
एआई निर्मित एवम् सम्पादित सामग्रीमाथि जाँच गर्नका लागि विभिन्न एआई डिटेक्टर टुलहरू छन् । त्यसमध्ये धेरैजसो डिटेक्टर टुलहरू जोकोहीले पनि निःशुल्क रूपमा प्रयोग गर्न पाउँछन् । केही डिटेक्टर टुल प्रयोग गर्नका लागि भने पैसा तिरेर सब्सक्राइबर बन्नुपर्छ ।
१) SYNTHID.COM
सबैले निःशुल्क प्रयोग गर्न सक्ने डिटेक्टर टुलमध्ये एउटा हो सिन्थआईडी डटकम । NVIDIA, OpenAI, Google र Kakao मार्फत निर्माण एवम् सम्पादन भएका एआई निर्मित सामग्री यो टुलमार्फत थाहा पाउन सकिन्छ । यसमा तपाईले जाँच गर्न चाहनुभएको फोटो भिडिओ राख्नुभयो भने नतिजा थाहा पाउन सक्नुहुन्छ ।

यसबाहेक ओपन एआईमार्फत निर्मित सामग्रीको लागि उसले आफ्नो छुट्टै भेरिफिकेशन टुलको विकास गरेको छ । गुगलले पनि सिन्थआईडीमार्फत जाँच गर्ने छुट्टै टुलको विकास गरेको छ ।
२) META AI IDENTIFICATION
कुनै सामग्री मेटा एआईमार्फत निर्माण एवम् सम्पादन गरिएको छ भने त्यसको नतिजा सिन्थआईडी डटकमले दिन सक्दैन । किनभने मेटा एआई सिन्थआईडी डटकमको साझेदार होइन ।
यसका लागि मेटा एआईले छुट्टै डिटेक्सन सेक्सनको विकास गरेको छ । मेटा एआईमार्फत निर्माण गरिएका सामग्री जाँच गर्नका लागि मेटा एआईको आईडेन्टिफिकेशन टुलको प्रयोग गर्न सकिन्छ ।

३) HIVE MODERATION
सामग्री एआई निर्मित हो या होईन भन्नेबारे HIVE MODERATION मार्फत पनि जाँच गर्न सकिन्छ । यो टुलमार्फत अडिओ या भिडिओमा कति प्रतिशत एआईको प्रयोग भएको छ र कुन टुलमार्फत निर्माण गरिएको हो त्यसबारे पत्ता लगाउन सहज हुन्छ । धेरैजसो एआई टुलमार्फत निर्माण भएका सामग्री यसबाट जाँच गर्न सकिन्छ ।

४) TRUTH SCAN
एआई डिटेक्शन टुल TRUTH SCAN मार्फत एआई निर्मित आवाज, डिपफेक भिडिओ र तस्बिर, एआई निर्मित भिडिओ, एआई निर्मित तस्बिर छुट्टाछुट्टै सेक्सनमा गएर जाँच गर्न सकिन्छ । यो टुलमार्फत तस्बिर. अडिओ र भिडिओको कुन कुन भागमा एआईको प्रयोग भएको छ भनेर पत्ता लगाउन सकिन्छ ।

यसबाहेक wasitai मार्फत तस्बिरको जाँच गर्न सकिन्छ भने bitmind लगायत अरु थुप्रै डिटेक्सन टुलको विकास भएका छन् । जसमार्फत एआई निर्मित सामग्रीको वाटरमार्क थाहा पाउन सकिन्छ ।