नई दिल्ली: आर्टिफिशियल इंटेलिजेंस (AI) को लेकर आए दिन बड़े-बड़े दावे किए जाते हैं, लेकिन ये लगातार समस्याग्रस्त भी होता जा रहा है. हाल ही में दुबई के पहले पुरुष एआई रोबोट ने एक महिला रिपोर्टर को गलत तरीके से छुआ, और अब AI टूल्स के बारे में एक और अहम बात सामने आई है कि माइक्रोसॉफ्ट के इंजीनियरों ने माइक्रोसॉफ्ट के कर्मचारियों को एक पत्र भेजकर बताया कि इमेज जेनरेट करने वाला AI टूल यौन रूप से स्पष्ट छवियों का उत्पादन करता है. बता दें कि इंजीनियर ने कंपनी के कानून निर्माताओं, कांग्रेस के सदस्यों और संघीय व्यापार आयोग को पत्र भेजा है. इस पत्र में इंजीनियर ने माइक्रोसॉफ्ट के एआई इमेजिंग टूल कोपायलट पर अपमानजनक और हिंसक छवियां बनाने का आरोप लगाया है.

इंजीनियर ने AI टूल्स के गलत तरीके के इस्तेमाल पर कहा

शेन जोन्स नाम के एक इंजीनियर ने कहा है कि उन्हें इमेजिंग जनरेटर टूल DALL-E, OpenAI का एक नया वर्जन में एक खामी का पता चला है, जिसका उपयोग सुरक्षा को बायपास करने के लिए किया जा सकता है जो झूठी और आपत्तिजनक छवियों के निर्माण को रोकता है. आपकी जानकारी के लिए DALL-E मॉडल का उपयोग कोपायलट डिज़ाइनर समेत कई Microsoft AI टूल में किया जाता है.

जोन्स के अनुसार माइक्रोसॉफ्ट कोपायलट को एक सुरक्षित छवि डिजाइनर के रूप में प्रचारित करता है और दावा करता है कि ये सभी उम्र के बच्चों के लिए सुरक्षित है, लेकिन उन्होंने माइक्रोसॉफ्ट को त्रुटि के बारे में भी बताया और कहा कि कोपायलट के डिजाइनर ने उन्हें बार-बार सेवा का उपयोग बंद करने के लिए कहा है. साथ ही जोन्स ने कहा है कि माइक्रोसॉफ्ट ने अपने टूल में संभावित खामियों के बारे में किसी को सूचित नहीं किया है.

Kriti-Pulkit: जानें कृति और पुलकित का कब और कहा शुरू होगा प्री-वेडिंग फंक्शन