AI से अश्लील तस्वीरें बनाने पर सरकार की सख़्ती — एलन मस्क ने लिए एक्शन, X से 600 अकाउंट्स किए डिलीट

भारत सरकार ने आर्टिफिशियल इंटेलिजेंस (AI) का दुरुपयोग कर महिलाओं और आम नागरिकों की अश्लील या मॉर्फ्ड तस्वीरें बनाने के मामलों पर कड़ा रुख अपनाया है। हाल के दिनों में सोशल मीडिया प्लेटफॉर्म्स पर ऐसे कई मामले सामने आए, जहां AI टूल्स का इस्तेमाल कर फर्जी तस्वीरें और वीडियो बनाए गए।

इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने इस पर कड़ी आपत्ति जताते हुए X (पूर्व में ट्विटर), इंस्टाग्राम और अन्य सोशल मीडिया प्लेटफॉर्म्स को ऐसे अकाउंट्स पर तुरंत कार्रवाई करने का निर्देश दिया।

सरकार की सख़्ती के बाद X के मालिक एलन मस्क ने तुरंत एक्शन लेते हुए AI-जनित अश्लील सामग्री फैलाने वाले करीब 600 अकाउंट्स को स्थायी रूप से डिलीट कर दिया। कंपनी ने यह भी कहा कि भविष्य में ऐसे मामलों पर “Zero Tolerance Policy” अपनाई जाएगी।

सूत्रों के मुताबिक, X ने भारत सरकार से मिले निर्देशों के बाद एक विशेष टीम गठित की है जो AI-आधारित मॉर्फ्ड कंटेंट और डीपफेक्स की निगरानी करेगी। वहीं, MeitY ने यह भी साफ किया है कि AI तकनीक का जिम्मेदार उपयोग ही देश में स्वीकार्य होगा।

सरकार ने दी चेतावनी:

मंत्रालय ने कहा है कि कोई भी व्यक्ति या संगठन अगर AI टूल्स का दुरुपयोग कर किसी की प्रतिष्ठा को नुकसान पहुंचाता है, तो उसके खिलाफ आईटी अधिनियम की धारा 66E, 67 और 67A के तहत कड़ी कार्रवाई की जाएगी।

एलन मस्क का बयान:

एलन मस्क ने अपने X हैंडल पर लिखा —

“हम अभिव्यक्ति की स्वतंत्रता के पक्षधर हैं, लेकिन किसी की निजता और गरिमा का उल्लंघन स्वीकार्य नहीं। AI का उपयोग रचनात्मकता के लिए हो, अपराध के लिए नहीं।”

निष्कर्ष:

AI के ज़रिए फर्जी और अश्लील सामग्री बनाना अब सिर्फ अनैतिक नहीं, बल्कि कानूनी अपराध भी है। सरकार और टेक कंपनियों की संयुक्त सख्ती से उम्मीद है कि ऐसे अपराधों पर अब प्रभावी लगाम लगेगी।