नई दिल्ली: एआई तकनीक जितनी तेजी से आगे बढ़ रही है, उतनी ही तेजी से डीपफेक और फर्जी तस्वीरों का खतरा भी बढ़ रहा है। इन्हें रोकने के लिए मेटा (Meta) समेत कई बड़ी टेक कंपनियां एआई डिटेक्शन टूल बना रही हैं। लेकिन क्या ये टूल वास्तव में AI से बनी हर तस्वीर की पहचान कर सकते हैं? क्या सिर्फ एक मामूली एडिटिंग या क्रॉपिंग से इन्हें चकमा दिया जा सकता है? मेटा के नए इमेज डिटेक्टर पर हुई एक जांच ने ऐसे ही कई सवाल खड़े कर दिए हैं।
दरअसल हाल ही में एक जांच में मेटा का एआई डिटेक्शन टूल से जुड़ी बड़ी खामी सामने आई। एक जांच में पाया गया कि म्यूज इमेज/Muse Image (एआई की मदद से बनाई गई तस्वीरें) तस्वीर को क्रॉप करने पर यह टूल 55 प्रतिशत एआई इमेज की पहचान ही नहीं कर सका। समाचार एजेंसी रॉयटर्स की जांच में सामने आया कि मेटा का नया एआई डिटेक्टर मूल (Original) एआई तस्वीरों को तो 100 प्रतिशत सही पहचान लेता है, लेकिन उन्हीं तस्वीरों को उनके मूल आकार के लगभग एक-तिहाई या आधे हिस्से तक क्रॉप करने के बाद यह 55 प्रतिशत मामलों में उन्हें AI से बनी तस्वीर के रूप में पहचान ही नहीं पाया।
क्या है पूरा मामला, जांच में क्या निकला?
मेटा ने इसी हफ्ते अपने नए एआई इमेज जनरेटर म्यूज इमेज के साथ एक एआई इमेज डिटेक्शन टूल का प्रीव्यू संस्करण पेश किया। कंपनी का दावा था कि यह टूल एआई जेनरेटेड इमेज की पहचान कर सकेगा, भले ही उनमें सामान्य स्तर की एडिटिंग की गई हो।
इसके लिए कंपनी हर एआई तस्वीर में ‘Content Seal’ नाम का एक अदृश्य वॉटरमार्क जोड़ती है। यही वॉटरमार्क डिटेक्टर को यह बताता है कि तस्वीर मेटा के एआई मॉडल से बनाई गई है। रॉयटर्स ने मेटा को म्यूज इमेज 40 एआई तस्वीरें तैयार कीं। पहले इन सभी तस्वीरों को डिटेक्टर में डाला गया, जहां टूल ने सभी तस्वीरों की सही पहचान कर ली।
इसके बाद उन्हीं तस्वीरों को सामान्य सोशल मीडिया इस्तेमाल की तरह क्रॉप कर दिया गया और फिर दोबारा जांच की गई। इस बार डिटेक्टर 55 प्रतिशत तस्वीरों को पहचानने में नाकाम रहा। यानी केवल तस्वीर का आकार छोटा कर देने से ही अदृश्य वॉटरमार्क इतना कमजोर हो गया कि एआई डिटेक्टर उसे पढ़ नहीं सका।
Meta ने क्या सफाई दी?
रॉयटर्स की रिपोर्ट पर प्रतिक्रिया देते हुए मेटा ने कहा कि उसका डिटेक्शन टूल अभी प्रीव्यू स्टेज में है। कंपनी के मुताबिक, कंटेंट सील को इस तरह डिजाइन किया गया है कि वह सामान्य एडिटिंग के बाद भी बना रहे, लेकिन यदि तस्वीर को बहुत ज्यादा क्रॉप कर दिया जाए तो वॉटरमार्क का सिग्नल खत्म हो सकता है। यानी कंपनी ने स्वीकार किया कि भारी क्रॉपिंग की स्थिति में उसका डिटेक्टर एआई तस्वीरों की पहचान करने में असफल हो सकता है।
दिलचस्प बात है कि यह समस्या केवल मेटा तक सीमित नहीं है। गूगल और ओपेन एआई भी पहले स्वीकार कर चुके हैं कि उनके एआई डिटेक्शन सिस्टम भी तस्वीरों में बदलाव होने पर हमेशा सही नतीजे नहीं देते।
गूगल का SynthID और मेटा का Content Seal जैसे वॉटरमार्किंग सिस्टम फिलहाल AI तस्वीरों की पहचान का सबसे लोकप्रिय तरीका हैं, लेकिन विशेषज्ञ मानते हैं कि इन्हें पूरी तरह भरोसेमंद नहीं कहा जा सकता।
विशेषज्ञों ने क्यों जताई चिंता?
स्टेट यूनिवर्सिटी ऑफ न्यूयॉर्क (बफेलो) के कंप्यूटर साइंस प्रोफेसर सिवेई ल्यू, जो एआई इमेज फॉरेंसिक पर शोध करते हैं, का कहना है कि वॉटरमार्क आधारित तकनीक तब तक प्रभावी रहती है, जब तक तस्वीर में मौजूद वॉटरमार्क सुरक्षित रहता है।
उनके अनुसार, यदि तस्वीर को क्रॉप, रीसाइज, अधिक कंप्रेस या एडिट किया जाता है, तो वॉटरमार्क कमजोर या पूरी तरह खत्म हो सकता है, जिससे डिटेक्टर की क्षमता भी घट जाती है।
वहीं, यूसी बर्कले की एआई शोधकर्ता सारा बैरिंगटन का मानना है कि वॉटरमार्किंग में सीमाएं जरूर हैं, लेकिन फिर भी यह उपयोगी तकनीक है। उनके मुताबिक, यदि कोई सिस्टम 100 प्रतिशत नहीं बल्कि 90 प्रतिशत मामलों में भी फर्जी तस्वीरों को पकड़ लेता है, तो यह बिना किसी सुरक्षा व्यवस्था के मुकाबले कहीं बेहतर है।
इस खुलासे की टाइमिंग भी बेहद महत्वपूर्ण मानी जा रही है। अमेरिका में अगले चुनावों (मिडटर्म) की तैयारियां शुरू हो चुकी हैं और आशंका है कि एआई से बनी फर्जी तस्वीरों और डीपफेक का इस्तेमाल मतदाताओं को प्रभावित करने के लिए किया जा सकता है।
इसी साल मार्च में मेया के ओवरसाइट बोर्ड ने भी कंपनी से कहा था कि वह अपने प्लेटफॉर्म पर बढ़ रहे भ्रामक एआई कंटेंट से निपटने के लिए और मजबूत तकनीक विकसित करे। हालांकि, कुछ ही महीनों बाद मेटा के नए डिटेक्टर की यह कमजोरी सामने आने से उसकी प्रभावशीलता पर सवाल उठने लगे हैं।
क्या केवल वॉटरमार्क पर्याप्त है?
विशेषज्ञों का कहना है कि वॉटरमार्किंग एआई कंटेंट की पहचान में मदद जरूर करती है, लेकिन इसे अंतिम समाधान नहीं माना जा सकता। क्योंकि जो लोग जानबूझकर AI तस्वीरों को असली बताकर फैलाना चाहते हैं, वे सबसे पहले तस्वीर में ऐसे बदलाव करेंगे जिससे वॉटरमार्क कमजोर हो जाए। यही वजह है कि एआई विशेषज्ञ अब केवल वॉटरमार्क पर निर्भर रहने के बजाय कई स्तरों वाली पहचान प्रणाली विकसित करने की जरूरत पर जोर दे रहे हैं।
