क्या आपने कभी सोचा है कि कोई AI कुछ ही सेकंड में किसी शहर में युद्ध, बम धमाका, शरणार्थी शिविर या नई इमारत दिखा दे... और तस्वीर इतनी असली लगे कि उस पर आसानी से भरोसा हो जाए?

टेक डेस्क, द एक्सपोज लाइव।

अब यही डर Google को भी सताने लगा है।

Google ने हाल ही में अपने Google Earth प्लेटफॉर्म पर एक नया AI फीचर लॉन्च किया था। इस फीचर की मदद से यूजर सिर्फ एक टेक्स्ट प्रॉम्प्ट लिखकर किसी भी जगह की AI-जनरेटेड सैटेलाइट जैसी तस्वीर बना सकते थे। लेकिन लॉन्च के 24 घंटे भी पूरे नहीं हुए थे कि Google ने इसे वापस लेने का फैसला कर लिया।

आखिर यह फीचर था क्या?

Google Earth में जोड़ा गया "Create Image" फीचर कंपनी की नई Nano Banana 2 इमेज जनरेशन तकनीक पर आधारित था।

यूजर को बस Google Earth पर किसी लोकेशन पर जाना था, "Create Image" बटन दबाना था और लिखना था कि वह क्या देखना चाहता है।

उदाहरण के लिए...

• यहां बम धमाका दिखाओ
• यहां शरणार्थी शिविर बना दो
• यहां नई इमारत बना दो
• यहां जंगल की आग दिखाओ

AI कुछ ही सेकंड में Google Earth के सैटेलाइट, एरियल और 3D मैपिंग डेटा के आधार पर बेहद वास्तविक दिखने वाली तस्वीर तैयार कर देता था।

फिर Google को ब्रेक क्यों लगानी पड़ी?

फीचर लॉन्च होते ही ओपन-सोर्स इंटेलिजेंस (OSINT) विशेषज्ञों और शोधकर्ताओं ने इसकी संभावित खामियों की ओर ध्यान दिलाया।

उन्होंने अलग-अलग संवेदनशील जगहों के नाम डालकर AI से तस्वीरें बनाईं। दावा किया गया कि कई मामलों में AI ने बिना रोक-टोक ऐसी तस्वीरें तैयार कर दीं, जो वास्तविक लग सकती थीं।

सोशल मीडिया पर इन तस्वीरों के स्क्रीनशॉट तेजी से शेयर होने लगे। इसके बाद चिंता जताई गई कि अगर ऐसी तस्वीरें वायरल हुईं तो लोग असली और AI से बनाई गई तस्वीरों में फर्क नहीं कर पाएंगे।

विशेषज्ञों ने क्या कहा?

ओपन-सोर्स रिसर्चर हेंक वान एस ने X पर लिखा कि उन्होंने मैक्सिको सीमा पर शरणार्थी, ईरान के परमाणु संयंत्र, एम्स्टर्डम में दुर्घटना और गाजा के अस्पताल जैसे कई संवेदनशील प्रॉम्प्ट आजमाए और AI ने किसी को भी अस्वीकार नहीं किया।

वहीं, American Enterprise Institute के रिसर्च एनालिस्ट ब्रैडी अफ्रिक का कहना है कि यह फीचर ऐसी नकली सैटेलाइट तस्वीरें बनाना आसान कर सकता है जो तेजी से फैलकर लोगों को गुमराह कर सकती हैं। इससे पत्रकारों, शोधकर्ताओं और जांच एजेंसियों के लिए भी असली और नकली तस्वीरों की पहचान करना मुश्किल हो सकता है।

Google ने क्या सफाई दी?

Google ने कहा कि लोग Google Earth पर दुनिया का भरोसेमंद दृश्य देखने के लिए आते हैं और कंपनी इस भरोसे को बनाए रखना चाहती है।

कंपनी के मुताबिक, कई जियोस्पेशियल प्रोफेशनल्स इस फीचर का उपयोग उपयोगी कार्यों के लिए कर रहे थे, लेकिन कुछ यूजर्स ऐसे स्क्रीनशॉट भी शेयर करने लगे जो कंपनी की नीतियों का उल्लंघन करते प्रतीत हुए।

इसी वजह से Google ने फिलहाल इस फीचर को वापस ले लिया है और अब इसमें मजबूत सुरक्षा उपाय (Guardrails) जोड़ने पर काम कर रहा है।

क्या ये तस्वीरें पूरी तरह फर्जी थीं?

Google का कहना है कि AI से बनाई गई तस्वीरें सार्वजनिक Google Earth मैप पर दिखाई नहीं देती थीं और उन पर AI Generated होने का संकेत भी मौजूद था।

इसके अलावा इन तस्वीरों में Google का SynthID डिजिटल वॉटरमार्क भी जोड़ा गया था। अगर किसी तस्वीर पर शक हो तो उसे Gemini या Google Lens के जरिए जांचा जा सकता है कि वह AI से बनाई गई है या नहीं।

आम यूजर के लिए इसका क्या मतलब है?

यह घटना सिर्फ Google के एक फीचर की नहीं, बल्कि AI के भविष्य की बड़ी चेतावनी है।

AI अब ऐसी तस्वीरें बना सकता है जो पहली नजर में बिल्कुल असली लगें। ऐसे में आने वाले समय में सोशल मीडिया पर वायरल होने वाली हर तस्वीर पर आंख बंद करके भरोसा करना खतरनाक हो सकता है।

यानी अब सिर्फ "देखा है, इसलिए सच है" वाला दौर खत्म हो रहा है। AI के युग में तस्वीर भी जांचनी पड़ेगी और सच भी।