बच्चों की ऑनलाइन सुरक्षा के लिए ओपनएआई का बड़ा कदम: चैटजीपीटी में जोड़े गए नए सिक्योरिटी फीचर्स और इमेज क्लासिफायर

ओपनएआई ने चैटजीपीटी में बच्चों की ऑनलाइन सुरक्षा के लिए नए सिक्योरिटी फीचर्स और इमेज क्लासिफायर पेश किए हैं। पूरी खबर पढ़ें।

आज के डिजिटल युग में आर्टिफिशियल इंटेलिजेंस (AI) का इस्तेमाल हर उम्र के लोग तेजी से कर रहे हैं। पढ़ाई से जुड़ा सवाल हो या सेहत से जुड़ी कोई समस्या, अब बहुत से लोग तुरंत एआई की मदद लेते हैं। जैसे-जैसे एआई का इस्तेमाल बढ़ रहा है, वैसे-वैसे बच्चों की ऑनलाइन सुरक्षा को लेकर भी चिंताएं लगातार बढ़ती जा रही हैं। इसी को गंभीरता से देखते हुए लोकप्रिय एआई कंपनी OpenAI ने ChatGPT के लिए कुछ बेहद कड़े और नए सिक्योरिटी फीचर्स पेश किए हैं। चैटजीपीटी के इन नए टूल्स की सहायता से बच्चों से जुड़ी अश्लील तस्वीरों और आपत्तिजनक कंटेंट की पहचान करना बेहद आसान हो जाएगा। कंपनी ने इसके लिए एक विशेष एआई इमेज क्लासिफायर भी तैयार किया है, जो एआई से तैयार की गई ऐसी संवेदनशील तस्वीरों को भी आसानी से पकड़ लेगा।

OpenAI के अनुसार, चैटजीपीटी अब ऐसे सभी प्रॉम्प्ट्स पर तुरंत अलर्ट दिखाएगा, जिनके जरिए बच्चों को गलत तरीके से दर्शाने वाला कंटेंट तैयार करने का प्रयास किया जाएगा। इसके साथ ही, ऐप डेवलपर्स और कानून लागू करने वाली एजेंसियों के लिए भी नए टूल्स और सख्त गाइडलाइंस जारी की गई हैं।

🔍 कैसे काम करेगा ओपनएआई का यह नया इमेज क्लासिफायर सिस्टम?

OpenAI का यह नया इमेज क्लासिफायर तस्वीरों को गहराई से स्कैन करके उनमें बच्चों से जुड़े आपत्तिजनक कंटेंट की पहचान कर सकेगा। यह तकनीक एआई द्वारा जनरेटेड तस्वीरों को भी सटीक रूप से परख सकती है। इसके बाद इमेज को एक विशिष्ट स्कोर दिया जाएगा, जिससे सेफ्टी टीमों को यह समझने में आसानी होगी कि कौन सी तस्वीर की जांच करना सबसे ज्यादा जरूरी है।

इस उन्नत टूल को नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रेन (NCMEC) के साथ मिलकर संयुक्त रूप से तैयार किया गया है। शुरुआती टेस्टिंग के दौरान इस टूल ने पहले के मुकाबले 48 फीसदी कम तस्वीरों को जांच के लिए चुना, जबकि संदिग्ध और खतरनाक तस्वीरों की पहचान करने की इसकी क्षमता पूरी तरह बनी रही। फिलहाल इस टूल का इस्तेमाल कुछ चुनिंदा संस्थाएं ही एपीआई (API) के जरिए कर सकेंगी, जिनमें Tech Coalition और ROOST जैसी प्रमुख संस्थाएं शामिल हैं। OpenAI ने इसे इन संस्थाओं के लिए बिना किसी अतिरिक्त शुल्क (Extra Charge) के उपलब्ध कराया है।

⚠️ गलत प्रॉम्प्ट देने पर मिलेगा स्क्रीन अलर्ट और 24 घंटे का निलंबन

ओपनएआई चैटजीपीटी में एक नई अलर्ट स्क्रीन भी जोड़ रहा है। यदि कोई यूजर बच्चों से जुड़ा आपत्तिजनक कंटेंट बनाने का प्रयास करता है, तो उसे तुरंत स्क्रीन पर एक चेतावनी (Alert) दिखाई देगी। इसके साथ ही उसे ऐसी गतिविधियों से दूर रहने और आवश्यक सहायता लेने के लिए जानकारी भी दी जाएगी।

ऐसे गंभीर मामलों में यूजर का अकाउंट 24 घंटे के लिए तुरंत सस्पेंड कर दिया जाएगा। इन विशेष अलर्ट संदेशों को तैयार करने में ‘प्रोटेक्ट चिल्ड्रन्स’, ‘लुसी फेथफुल फाउंडेशन’ और यूनिवर्सिटी ऑफ तस्मानिया के रिसर्चर जोएल स्कैनलान की महत्वपूर्ण सहायता ली गई है।

👮 डेवलपर्स और पुलिस एजेंसियों के लिए भी जारी किए गए नए टूल्स

OpenAI ने केवल आम यूजर्स तक ही सीमाएं नहीं रखी हैं, बल्कि डेवलपर्स के लिए भी नई गाइडलाइंस जारी की हैं। इनके माध्यम से डेवलपर्स अपने स्वयं के प्लेटफॉर्म पर ऐसे हानिकारक कंटेंट की पहचान कर सकेंगे और उसकी रिपोर्ट कर सकेंगे।

वहीं दूसरी ओर, कानून लागू करने वाली एजेंसियों (Law Enforcement Agencies) को एआई आधारित टूल्स, जांच में सहायता प्रदान करने वाले प्लगइन्स और डेटा एनालिसिस की आधुनिक सुविधाएं दी जाएंगी। कंपनी जांच अधिकारियों को विशेष ट्रेनिंग और इसके इस्तेमाल से जुड़ी गाइड भी उपलब्ध कराएगी।

विशेषज्ञों का मानना है कि बीते कुछ समय से OpenAI पर बच्चों की सुरक्षा और डेटा प्राइवेसी को लेकर भारी दबाव बना हुआ था। अकेले अमेरिका के कई राज्यों के अटॉर्नी जनरल ने चैटजीपीटी के खिलाफ कानूनी मुकदमे भी दर्ज किए थे, जिनमें यह आरोप लगाया गया था कि इसके जरिए युवाओं और बच्चों पर प्रतिकूल असर पड़ रहा है। यही मुख्य कारण है कि कंपनी अब सेफ्टी और सिक्योरिटी के मोर्चे पर एक के बाद एक कड़े और बड़े फैसले ले रही है।

Leave A Reply

Your email address will not be published.