एक ऐप महिलाओं की तस्वीरों से कपड़े हटाता है और यह एक घृणित मामला है कि कैसे AI का दुरुपयोग किया जा रहा है
अस्वीकरण: इस कहानी की सामग्री 'काम के लिए सुरक्षित नहीं' है, इसलिए सावधानी से आगे बढ़ें। इसके अलावा, MensXP स्रोत या सॉफ्टवेयर को बढ़ावा देने के लिए नहीं है। कहानी के पीछे का विचार लोगों को इस बात से अवगत कराना है कि यदि इसका दुरुपयोग किया जा रहा है तो AI क्या कर सकता है।
ऐसे कई दिन हैं जब हम उन सभी तकनीकी प्रगति से अभिभूत महसूस करते हैं जिन्होंने दुनिया को बेहतर के लिए बदल दिया है। और फिर ऐसे दिन आते हैं जब हम भयानक और घृणित सोच रखते हैं जो सभी भयानक चीजें प्रौद्योगिकी के बारे में सोच सकती हैं।
आप में से अधिकांश के पास 'डीपफेक' शब्द हो सकता है, है ना? ठीक है, अगर आपको लगता है कि यह भयानक था, तो आप इस नए सॉफ़्टवेयर के बारे में जानने के लिए भयभीत होंगे, जिसे मैं नाम नहीं बताने जा रहा हूँ। यह एक घृणित सॉफ्टवेयर है और इसका कोई तरीका नहीं है कि मैं इसका नाम देने और इसे बढ़ावा देने जा रहा हूं।
यह सॉफ्टवेयर का एक टुकड़ा है जो महिलाओं की नकली नग्न तस्वीरें बनाने के लिए AI और तंत्रिका नेटवर्क की शक्ति का लाभ उठाता है। हां, मुझे पता है कि आप अभी क्या सोच रहे हैं। यह वास्तव में एक घृणित ऐप है जो पहले स्थान पर मौजूद नहीं होना चाहिए। वास्तव में, मुझे यह पता लगाने में काफी झटका लगा कि इसे डाउनलोड करना और उपयोग करना कितना आसान है। मुझे दृढ़ता से लगता है कि इसे जल्द से जल्द नीचे ले जाना चाहिए, इससे पहले कि लोग इस पर अपना हाथ डालें और इसका दुरुपयोग करना शुरू कर दें, जैसे, कार्यस्थल या सार्वजनिक स्थान। जैसे, इस बारे में सोचें कि क्या होता है / जब वह गलत हाथों में जाता है। मैं यह भी सोचना नहीं चाहता कि क्या होता है जब पेरेवेट्स और पीडोफाइल इसका उपयोग करना शुरू करते हैं।
संक्षेप में, सॉफ्टवेयर पूरी तरह से ठीक कपड़े पहने व्यक्ति की तस्वीर को एक ही व्यक्ति की यथार्थवादी दिखने वाली नग्न छवि में बदल सकता है। मेरा मानना है कि आप जानते हैं कि यह क्या करता है, इसलिए मैं इसे जोर से नहीं जा रहा हूं। यहाँ सॉफ्टवेयर क्या कर सकता है।
तो, सॉफ्टवेयर केवल महिलाओं की छवियों पर काम करता है। हां, इसे बनाने वाले लोग बहुत खास थे कि वे क्या बनाना चाहते थे, और यह आश्चर्यजनक रूप से अच्छी तरह से काम करता है। के अनुसार मदरबोर्ड , यह उन छवियों पर सबसे अच्छा काम करता है जहां व्यक्ति पहले से ही बहुत अधिक त्वचा दिखा रहा है, जैसे, एक स्विमिंग सूट, उदाहरण के लिए।
इसे बनाने वाले लोगों ने शाब्दिक रूप से मुफ्त में डाउनलोड करने के लिए सॉफ्टवेयर उपलब्ध कराने के लिए एक वेबसाइट बनाई है। सॉफ़्टवेयर का एक भुगतान किया गया संस्करण भी है जो आपको अतिरिक्त सुविधाएँ देगा। मेरे पास इसे जांचने के लिए ऐप डाउनलोड करने का कोई इरादा नहीं था, इसलिए मैंने कुछ शोध किया।
जिन लोगों ने इसका परीक्षण किया है, उनके अनुसार, सॉफ्टवेयर विंडोज और लिनक्स मशीनों दोनों पर काम करता है और किसी को भी इसका उपयोग करने के लिए बिल्कुल किसी विशेषज्ञता की आवश्यकता नहीं होती है। वे कहते हैं कि यह एक बुनियादी तस्वीर संपादक में एक छवि को आसान बनाने के लिए है। मैं अधिक छवियों को जोड़ने और ऐप को बढ़ावा देने के लिए परेशान करने वाला नहीं हूं, लेकिन मैंने जो परिणाम देखा है, उससे यह बहुत सटीक रूप से काम कर रहा है।
हिमयुग ट्रेल विस्कॉन्सिन नक्शा
यहां बताया गया है कि ऐप के अनाम निर्माता ने जब उनसे पूछा गया कि उन्होंने सॉफ्टवेयर का इतना डरावना टुकड़ा क्यों बनाया है -
लगभग दो साल पहले मैंने एआई की क्षमता का पता लगाया और बुनियादी बातों का अध्ययन शुरू किया। जब मुझे पता चला कि जीएएन नेटवर्क एक दिन की तस्वीर को एक रात में बदलने में सक्षम थे, तो मैंने महसूस किया कि कपड़े पहने हुए फोटो को नग्न में बदलना संभव होगा। यूरेका। मुझे एहसास हुआ कि एक्स-रे चश्मा संभव है! उस खोज के लिए मज़ेदार और उत्साह से प्रेरित होकर, मैंने अपने पहले परीक्षण किए, दिलचस्प परिणाम प्राप्त किए।
ईमानदारी से, इससे कोई फर्क नहीं पड़ता कि उसने इसे क्यों बनाया। हम, मनुष्यों को इस तथ्य के बारे में अधिक चिंतित होना चाहिए कि इस तरह के सॉफ़्टवेयर इस दुनिया में मौजूद हैं और किसी को भी, जैसे, सचमुच कोई भी इसे डाउनलोड कर सकता है और नकली नग्न चित्र बना सकता है जो दुख की बात है, बहुत वास्तविक लगते हैं।
खुद डीपफेक बनाने का विचार डरावना था, लेकिन यह सिर्फ चीजों को दूसरे स्तर पर ले जा रहा है। यह चिंता का एक और बड़ा कारण है कि इसका कारण यह है कि इस तरह का ऐप डीपफेक की तुलना में आसानी से सुलभ और उपयोग में आसान है। तथ्य यह है कि इसे स्थापित करना और वीडियो गेम की तरह खेलना जितना आसान है, उतना ही मुझे डराता है।
मैं वास्तव में डीपफेक का पता लगाने में बेहतर हो रही प्रणालियों को देखने की उम्मीद करता हूं। मैं केवल कल्पना करना शुरू कर सकता हूं कि गलत हाथों में पड़ने पर इसका दुरुपयोग कैसे हो सकता है। यह कहना भयानक है कि इस तरह के डीपफेक और ऐप बमुश्किल एआई की सतह को खरोंच कर सकते हैं। ऐसा लगता है कि एआई के उपयोग के लिए उचित नियमन नहीं होने पर हम बर्बाद हो जाएंगे।
स्रोत: उपाध्यक्ष
आप इसके बारे में क्या सोचते हैं?
बातचीत शुरू करें, आग नहीं। दया के साथ पोस्ट करें।
तेज़ी से टिप्पणी करना
