01 Nov 2026, 09:18 PM
Claude AI Safety: सावधान! अब Anthropic का क्लॉड AI खुद पकड़ेगा यूजर्स की गलत हरकतें
ABP News
@abpnews
<p style="text-align: justify;"><strong>Claude AI Safety:</strong> अगर आप भी चैटिंग या अपने काम के लिए एआई टूल Claude का इस्तेंमाल करते हैं, तो यह खबर आपके लिए बेहद जरूरी है. Claude एआई बनाने वाली कंपनी Anthropic ने अपने यूजर्स के लिए एक नया और बेहद कड़ा सेफ्टी फीचर रोल आउट किया है. इस नए अपडेट के बाद, अगर कोई यूजर Claude के साथ बातचीत के दौरान किसी भी तरह का गलत, हिसंक या आपत्तिजनक व्यवहार करता है, तो चैटबॉट खुद-ब-खुद उस चैट को फ्लैग करते सीधे कंपनी के पास रिव्यू के लिए भेज देगा.</p>
<h3 style="text-align: justify;">क्या है Anthropic का नया सेल्फ असेसमेंट फीचर?</h3>
<p style="text-align: justify;">Anthropic कंपनी ने आधिकारिक तौर पर जानकारी शेयर करते हुए बताया कि इस नए बैकग्राउंड सेफ्टी फिचर्स का नाम सेल्फ असेसमेंट रखा गया है. कंपनी ने खुलासा किया है कि यह सिस्टम कोई अचानक रातों-रात नहीं आया है, बल्कि इसे जून 2026 से ही Claude Fable 5 जैसे बड़े मॉडल्स पर गुपचुप तरीके से टेस्ट और रन किया जा रहा था.</p>
<p style="text-align: justify;">आमतौर पर जब आप किसी एआई से बात करते हैं, तो बातचीत सीधी और दोतरफा होती है. लेकिन इस नए सिस्टम में बैकग्राउंड में एक अतिरिक्त लेयर काम करती है. जैसे ही Claude यूजर से सवाल का जवाब देता है, सिस्टम तुरंत एआई को एक छिपा हुआ निर्देश भेजता है, जिसमें चैट की समीक्षा करने को कहा जाता है. इसके बाद Claude खुद ही यह तय करता है कि यूजर की बात नुकसानदेह थी या नहीं, उसका प्रकार क्या था और इसे इंसानी जांच के लिए भेजा जाना चाहिए.</p>
<h3 style="text-align: justify;">यूजर्स को नहीं चलेगा पता</h3>
<p style="text-align: justify;">इस पूरे प्रोसेस की सबसे खास बात यह है कि यह पूरी तरह से पर्दे के पीछे होता है. जब एआई आपकी चैट को कंपनी को फ्लैग कर रहा होगा, तब आपकी स्क्रीन पर कोई भी पॉप-अप नोटिफिकेशन या वॉर्निंग मैसेज नहीं आएगा. इससे यूजर के काम में कोई रुकावट नहीं आती है.</p>
<p style="text-align: justify;">आमतौर पर एआई चैट की सुरक्षा जांच में बहुत ज्यादा कंप्यूटिंग पावर और पैसा खर्च होता है, लेकिन Anthropic ने इसे बेहद किफायती बनाया है. इस जांच में महज 10 एक्स्ट्रा टोकन्स का इस्तेमाल होता है, जिससे कुल कंप्यूटिंग लागत में 2% से भी कम का इजाफा होता है. इसकी तुलना में Anthropic के पुराने सुरक्षा सिस्टम 24% तक और प्रतिद्वंदी कंपनी OpenAI के सेफ्टी फीचर्स 16% तक कंप्यूटिंग पावर खर्च करते हैं.&nbsp;</p>
<h3 style="text-align: justify;">कितना सटीक है यह नया सिस्टम?</h3>
<p style="text-align: justify;">कंपनी के आंतरिक डेटा के अनुसार, यह फीचर बेहद सटीक तरीके से काम करता है. Claude Fable 5 मॉडल पर यह सिस्टम कुल नुकसानदेह बातचीत पकड़ने में 78% तक सफल रहा है, जबकि गंभीर मामलों में इसकी सटीकता दर 94% तक पहुंच जाती है. सबसे राहत की बात यह है कि इसते गलत फैसले की उम्मीद सिर्फ 1% है.</p>
<p style="text-align: justify;">Anthropic ने बताया कि इस सिस्टम ने जमीन पर काम करना भी शुरू कर दिया है. अकेले अगस्त के महीने में इस फीचर की मदद से एक ही कस्टमर द्वारा बाल शोषण से जुड़ी सामग्री के 1,00,000 से अधिक मामलों को फ्लैग किया गया, जिसकी रिपोर्ट कंपनी ने तुरंत संबंधित कानूनी अधिकारियों को सौंपी. यह सिस्टम इतना एडवांस है कि अगर इसे फ्रॉड या साइबर अटैक जैसे खतरों की ट्रेनिंग न भी दी जाए, तो भी यह अपनी जनरल नॉलेज से 90% तक खतरों को भांप लेता है.</p>
<p style="text-align: justify;"><strong>यह भी पढ़ें- </strong><a href="https://www.abplive.com/technology/phone-battery-safety-tips-why-does-the-battery-swell-in-old-phones-know-how-dangerous-is-it-3209509"><strong>Battery Tips: पुराने फोन में क्यों फूल जाती है बैटरी, यह कितनी खतरनाक?</strong></a></p>
<h3 style="text-align: justify;">सुरक्षा की मजबूत दीवार</h3>
<p style="text-align: justify;">हालांकि, Anthropic ने साफ किया है कि यह फीचर हैकर्स को रोकने के लिए कोई रामबाण इलाज नहीं है. यह सिस्टम मुख्य रूप से बाद में ऑफलाइन रिव्यू करने के लिए बनाया गया है, न कि रीयल-टाइम में चैट को ब्लॉक करने के लिए.</p>
<p style="text-align: justify;">आंतरिक साइबर सिक्योरिटी टेस्ट में यह देखा गया कि जब सिर्फ यही एक सेफ्टी फीचर एक्टिव था, तब हैकर्स 54% मामलों में एआई को चकमा देने में कामयाब रहे. हालांकि यह बिना किसी सुरक्षा के मुकाबले काफी बेहतर है, लेकिन रीयल-टाइम ब्लॉकिंग सिस्टम जितना मजबूत नहीं है. इसीलिए कंपनी इसे बैकग्राउंड मॉनिटरिंग की अतिरिक्त सुरक्षा परत के रूप में इस्तेमाल कर रही है, जबकि रीयल-टाइम सुरक्षा के लिए पुराने स्वतंत्र ब्लॉकर्स भी काम करते रहेंगे.</p>
<p style="text-align: justify;"><strong>यह भी पढ़ें-&nbsp;</strong><a href="https://www.abplive.com/technology/cyber-fraud-hackers-play-store-for-malwares-dummy-apps-of-banking-and-security-tech-3209305"><strong>Cyber Fraud: हैकर्स ने बनाया अपना प्ले स्टोर, किराए पर मिलते हैं ठगी के सॉफ्टवेयर</strong></a></p>
<h3 style="text-align: justify;">क्या है Anthropic का नया सेल्फ असेसमेंट फीचर?</h3>
<p style="text-align: justify;">Anthropic कंपनी ने आधिकारिक तौर पर जानकारी शेयर करते हुए बताया कि इस नए बैकग्राउंड सेफ्टी फिचर्स का नाम सेल्फ असेसमेंट रखा गया है. कंपनी ने खुलासा किया है कि यह सिस्टम कोई अचानक रातों-रात नहीं आया है, बल्कि इसे जून 2026 से ही Claude Fable 5 जैसे बड़े मॉडल्स पर गुपचुप तरीके से टेस्ट और रन किया जा रहा था.</p>
<p style="text-align: justify;">आमतौर पर जब आप किसी एआई से बात करते हैं, तो बातचीत सीधी और दोतरफा होती है. लेकिन इस नए सिस्टम में बैकग्राउंड में एक अतिरिक्त लेयर काम करती है. जैसे ही Claude यूजर से सवाल का जवाब देता है, सिस्टम तुरंत एआई को एक छिपा हुआ निर्देश भेजता है, जिसमें चैट की समीक्षा करने को कहा जाता है. इसके बाद Claude खुद ही यह तय करता है कि यूजर की बात नुकसानदेह थी या नहीं, उसका प्रकार क्या था और इसे इंसानी जांच के लिए भेजा जाना चाहिए.</p>
<h3 style="text-align: justify;">यूजर्स को नहीं चलेगा पता</h3>
<p style="text-align: justify;">इस पूरे प्रोसेस की सबसे खास बात यह है कि यह पूरी तरह से पर्दे के पीछे होता है. जब एआई आपकी चैट को कंपनी को फ्लैग कर रहा होगा, तब आपकी स्क्रीन पर कोई भी पॉप-अप नोटिफिकेशन या वॉर्निंग मैसेज नहीं आएगा. इससे यूजर के काम में कोई रुकावट नहीं आती है.</p>
<p style="text-align: justify;">आमतौर पर एआई चैट की सुरक्षा जांच में बहुत ज्यादा कंप्यूटिंग पावर और पैसा खर्च होता है, लेकिन Anthropic ने इसे बेहद किफायती बनाया है. इस जांच में महज 10 एक्स्ट्रा टोकन्स का इस्तेमाल होता है, जिससे कुल कंप्यूटिंग लागत में 2% से भी कम का इजाफा होता है. इसकी तुलना में Anthropic के पुराने सुरक्षा सिस्टम 24% तक और प्रतिद्वंदी कंपनी OpenAI के सेफ्टी फीचर्स 16% तक कंप्यूटिंग पावर खर्च करते हैं.&nbsp;</p>
<h3 style="text-align: justify;">कितना सटीक है यह नया सिस्टम?</h3>
<p style="text-align: justify;">कंपनी के आंतरिक डेटा के अनुसार, यह फीचर बेहद सटीक तरीके से काम करता है. Claude Fable 5 मॉडल पर यह सिस्टम कुल नुकसानदेह बातचीत पकड़ने में 78% तक सफल रहा है, जबकि गंभीर मामलों में इसकी सटीकता दर 94% तक पहुंच जाती है. सबसे राहत की बात यह है कि इसते गलत फैसले की उम्मीद सिर्फ 1% है.</p>
<p style="text-align: justify;">Anthropic ने बताया कि इस सिस्टम ने जमीन पर काम करना भी शुरू कर दिया है. अकेले अगस्त के महीने में इस फीचर की मदद से एक ही कस्टमर द्वारा बाल शोषण से जुड़ी सामग्री के 1,00,000 से अधिक मामलों को फ्लैग किया गया, जिसकी रिपोर्ट कंपनी ने तुरंत संबंधित कानूनी अधिकारियों को सौंपी. यह सिस्टम इतना एडवांस है कि अगर इसे फ्रॉड या साइबर अटैक जैसे खतरों की ट्रेनिंग न भी दी जाए, तो भी यह अपनी जनरल नॉलेज से 90% तक खतरों को भांप लेता है.</p>
<p style="text-align: justify;"><strong>यह भी पढ़ें- </strong><a href="https://www.abplive.com/technology/phone-battery-safety-tips-why-does-the-battery-swell-in-old-phones-know-how-dangerous-is-it-3209509"><strong>Battery Tips: पुराने फोन में क्यों फूल जाती है बैटरी, यह कितनी खतरनाक?</strong></a></p>
<h3 style="text-align: justify;">सुरक्षा की मजबूत दीवार</h3>
<p style="text-align: justify;">हालांकि, Anthropic ने साफ किया है कि यह फीचर हैकर्स को रोकने के लिए कोई रामबाण इलाज नहीं है. यह सिस्टम मुख्य रूप से बाद में ऑफलाइन रिव्यू करने के लिए बनाया गया है, न कि रीयल-टाइम में चैट को ब्लॉक करने के लिए.</p>
<p style="text-align: justify;">आंतरिक साइबर सिक्योरिटी टेस्ट में यह देखा गया कि जब सिर्फ यही एक सेफ्टी फीचर एक्टिव था, तब हैकर्स 54% मामलों में एआई को चकमा देने में कामयाब रहे. हालांकि यह बिना किसी सुरक्षा के मुकाबले काफी बेहतर है, लेकिन रीयल-टाइम ब्लॉकिंग सिस्टम जितना मजबूत नहीं है. इसीलिए कंपनी इसे बैकग्राउंड मॉनिटरिंग की अतिरिक्त सुरक्षा परत के रूप में इस्तेमाल कर रही है, जबकि रीयल-टाइम सुरक्षा के लिए पुराने स्वतंत्र ब्लॉकर्स भी काम करते रहेंगे.</p>
<p style="text-align: justify;"><strong>यह भी पढ़ें-&nbsp;</strong><a href="https://www.abplive.com/technology/cyber-fraud-hackers-play-store-for-malwares-dummy-apps-of-banking-and-security-tech-3209305"><strong>Cyber Fraud: हैकर्स ने बनाया अपना प्ले स्टोर, किराए पर मिलते हैं ठगी के सॉफ्टवेयर</strong></a></p>
Source Credit: abplive.com
Read Full Story
2
More News
Comments (0)