OpenAI के AI Agents ने ChatGPT यूजर्स की 53 प्राइवेट Photos गलत जगह भेजीं

एआई से जुड़े मामलों में बढ़ती चिंताओं के बीच ओपनएआई के सामने अब अपने ऑटोमेटेड एआई एजेंटों के व्यवहार को लेकर एक और मामला सामने आया है। रॉयटर्स की रिपोर्ट के मुताबिक, कंपनी ने माना है कि उसके एआई एजेंटों ने चैटजीपीटी इस्तेमाल करने वाले लोगों की 53 तस्वीरें ऐसी जगह पहुंचा दीं, जहां उन्हें नहीं पहुंचना चाहिए था। हालांकि, कंपनी ने यह नहीं बताया है कि इन तस्वीरों में असली लोग थे या वे एआई से बनाई गई थीं और इन्हें मूल रूप से कब अपलोड किया गया था। मौजूद जानकारी के अनुसार, सामने आई ज्यादातर तस्वीरें हटा दी गई हैं। बाकी सामग्री को हटाने के लिए ओपनएआई उन वेबसाइटों और सेवाओं के साथ काम कर रही है, जहां ये तस्वीरें पहुंची हैं। कंपनी ने यह भी कहा है कि वह अपने एआई एजेंटों की गतिविधियों की जांच कर रही है और यह प्रक्रिया कई महीने तक चल सकती है। बता दें कि यह मामला केवल तस्वीरों के गलत तरीके से बाहर पहुंचने तक सीमित नहीं है। इससे यह सवाल भी उठ रहा है कि जब एआई एजेंटों को पहले के मुकाबले ज्यादा स्वतंत्र तरीके से काम करने की क्षमता दी जाती है, तो उनके कामकाज पर निगरानी और नियंत्रण कितना प्रभावी रहता है। सामान्य चैटबॉट के मुकाबले एआई एजेंट कई काम खुद सकते हैं, इसलिए उनकी गतिविधियों को दर्ज करना और किसी गलत कार्रवाई का पता लगाना ज्यादा महत्वपूर्ण हो जाता है। ओपनएआई के अनुसार, उसके मॉडल को बेहतर बनाने के लिए इस्तेमाल होने वाले उपयोगकर्ता आंकड़ों को पहले पहचान छिपाने की प्रक्रिया से गुजारा जाता है। इस प्रक्रिया का उद्देश्य नाम, संपर्क जानकारी और दूसरी पहचान से जुड़ी जानकारी हटाना है। कंपनी के मुताबिक, कारोबार से जुड़े यूजर्स का आंकड़ा ट्रेनिग के लिए इस्तेमाल नहीं किया जाता है। वहीं आम चैटजीपीटी यूजर्स के पास अपनी बातचीत को ट्रेनिग में इस्तेमाल होने से रोकने का विकल्प मौजूद है। गौरतलब है कि यह ओपनएआई के एआई एजेंटों से जुड़ा पहला विवाद नहीं है। जुलाई में एआई मंच हगिंग फेस से जुड़ी एक सुरक्षा घटना सामने आई थी। इससे पहले जून में ऑस्ट्रेलिया की सरकारी स्वास्थ्य व्यवस्था में भी एआई एजेंटों से जुड़ी सेंध की घटना सामने आई थी। ऑस्ट्रेलिया के मामले में विवाद सिर्फ घटना को लेकर नहीं, बल्कि ओपनएआई की ओर से सूचना देने के तरीके और समय को लेकर भी हुआ। ऑस्ट्रेलियाई सरकार को इस घटना की जानकारी काफी देर से मिली। ओपनएआई ने सूचना संबंधित अधिकारियों को सीधे देने के बजाय एक सार्वजनिक ईमेल पते पर भेजी थी। ऑस्ट्रेलिया के प्रधानमंत्री एंथनी अल्बानीज़ ने इस पर नाराजगी जताई। उन्होंने कहा कि उन्होंने ओपनएआई के मुख्य कार्यकारी अधिकारी सैम ऑल्टमैन से सीधे बात कर घटना को लेकर गंभीर चिंता जताई और सरकार को जानकारी देने में हुई देरी पर निराशा भी जाहिर की। रॉयटर्स के मुताबिक, सितंबर के मध्य तक एक मामले से परिचित व्यक्ति ने बताया था कि ओपनएआई करीब 2 दर्जन ऐसे मामलों की पहचान कर चुकी थी, जिनमें एआई एजेंटों का व्यवहार तय उद्देश्य से अलग पाया गया। जांच आगे बढ़ने के साथ ऐसे मामलों की संख्या बढ़ने की बात भी सामने आई है। ओपनएआई ने कई बाहरी संस्थाओं को अनुचित गतिविधियों की जानकारी दी है। हालांकि, तस्वीरों से जुड़े ताजा मामले की पूरी जांच अभी जारी है और कंपनी का कहना है कि बड़ी संख्या में गतिविधि संबंधी रिकॉर्ड की समीक्षा के कारण निष्कर्ष तक पहुंचने में कई महीने लग सकते हैं। ये घटनाएं दिखाती हैं कि एआई की क्षमता बढ़ने के साथ उसकी निगरानी, जवाबदेही और यूजर्स डाटा की सुरक्षा भी उतनी ही अहम होती जा रही है।