प्ले स्टोर के एआई 'किस और हग' ऐप्स पर बाल अधिकार आयोग ने गूगल को तलब किया

राष्ट्रीय बाल अधिकार संरक्षण आयोग (एनसीपीसीआर) ने गूगल को उसके प्ले स्टोर पर मौजूद उन आर्टिफिशियल इंटेलिजेंस (एआई) ऐप्स को लेकर तलब किया है जो असली लोगों की तस्वीरों से उनके चूमने और गले मिलने के वीडियो बना देते हैं। आयोग का कहना है कि वह दिसंबर तक सोशल मीडिया, गेमिंग और एआई प्लेटफॉर्म के लिए बच्चों की सुरक्षा के दिशानिर्देश जारी करेगा।

आयोग ने कंपनी को इसी महीने बैठक के लिए बुलाया है। अगस्त में भारत में गूगल प्ले पर ऐसे दर्जनों “एआई किस और हग” ऐप पाए गए थे, जिनमें से कई को दस लाख से ज़्यादा बार डाउनलोड किया जा चुका था। ये ऐप किसी की भी तस्वीर से बिना सहमति जांचे अंतरंग वीडियो बना देते थे, बनाए गए वीडियो पर एआई का कोई लेबल नहीं होता था, और कुछ को तीन साल तक के बच्चों के लिए भी उपयुक्त बताया गया था। गूगल ने इस तलबी पर सार्वजनिक रूप से कुछ नहीं कहा है।

“सह-नियमन ही कुंजी है”

एनसीपीसीआर के सदस्य सचिव संजीव शर्मा ने बुधवार को नई दिल्ली में ट्रस्ट एंड सेफ्टी इंडिया फेस्टिवल में इस योजना के बारे में बताया। प्लेटफॉर्म्स के बारे में उन्होंने कहा, “हम उनसे पहले ही सलाह-मशविरा कर चुके हैं।” उन्होंने जोड़ा कि दिशानिर्देश “बहुत जल्द” आएंगे।

उन्होंने समझाया कि आयोग कानून बदलने के बजाय दिशानिर्देश का रास्ता क्यों चुन रहा है। शर्मा ने कहा, “अगर आप मुझसे कानून बदलने को कहेंगे, तो इसमें समय लगेगा। सह-नियमन ही कुंजी है।”

सोमवार को महिला एवं बाल विकास मंत्री अन्नपूर्णा देवी ने एक समीक्षा बैठक की और आयोग को दिशानिर्देशों के साथ-साथ दुर्व्यवहार सामग्री पकड़ने वाले एआई टूल का काम भी तेज़ करने को कहा।

नियमों में क्या हो सकता है

दिशानिर्देशों में सोशल मीडिया पर उम्र की पुष्टि पर आधारित नियंत्रण, रील्स जैसे छोटे वीडियो के लिए शिकायत के विकल्प और सभी प्लेटफॉर्म पर एआई से बनी सामग्री के लिए सख्त नियम आने की उम्मीद है। इन्हें “गतिशील” रखा जाएगा, ताकि मंत्रालय और दूसरी संस्थाएं समय के साथ इनमें जोड़ सकें।

एनसीपीसीआर इलेक्ट्रॉनिकी और सूचना प्रौद्योगिकी मंत्रालय के साथ मिलकर बाल यौन शोषण सामग्री खोजने और हटाने के लिए एक एआई आधारित टूल भी बना रहा है। यह राज्यों की पुलिस के साथ साझा किया जाएगा।

पहले से मौजूद नियम

भारत ने कृत्रिम रूप से बनाई गई सामग्री से निपटने के लिए 10 फरवरी को आईटी इंटरमीडियरी नियमों में संशोधन अधिसूचित किए थे, हालांकि यह साफ नहीं है कि ये ऐसे वीडियो बनाने वाले अलग ऐप्स पर लागू होते हैं या नहीं। डिजिटल व्यक्तिगत डेटा संरक्षण (डीपीडीपी) नियमों के तहत मई 2027 से प्लेटफॉर्म्स को 18 साल से कम उम्र के किसी भी व्यक्ति का डेटा इस्तेमाल करने से पहले माता-पिता की सत्यापित सहमति लेनी होगी।

आयोग पहली बार बड़े प्लेटफॉर्म्स से बात नहीं कर रहा। 2024 में उसने गूगल, यूट्यूब, एक्स, स्नैपचैट, शेयरचैट, रेडिट और बम्बल से मुलाकात कर उनसे माता-पिता की सहमति की व्यवस्था बनाने और कार्रवाई रिपोर्ट देने को कहा था।

दूसरी आवाज़ें

फेस्टिवल में दूसरे वक्ताओं ने संतुलन की बात की। स्नैप इंक की एशिया-प्रशांत सार्वजनिक नीति प्रमुख उथरा गणेश ने कहा कि दिशानिर्देशों में युवाओं के लिए “क्रमिक स्वायत्तता” की झलक होनी चाहिए। ऑस्ट्रेलियाई युवा संगठन प्रोजेक्ट रॉकिट की सह-संस्थापक लूसी थॉमस ने कहा कि बड़ों पर युवाओं का भरोसा अब तक के सबसे निचले स्तर पर है, “क्योंकि हमने इन तकनीकों को उन्हें शामिल किए बिना बनाया है”। नेटफ्लिक्स इंडिया की महिमा कौल ने कहा कि माता-पिता “अपने बच्चों के लिए सुरक्षित जगह चाहते हैं”।