मुख्य तथ्य
वॉल स्ट्रीट जर्नल की रिपोर्ट के अनुसार, Amazon के CEO Andy Jassy ने Treasury Secretary Scott Bessent और अन्य सरकारी अधिकारियों को बताया कि Amazon के शोधकर्ताओं ने Anthropic के Claude Fable 5 मॉडल का उपयोग करके ऐसी जानकारी प्राप्त की जिसका उपयोग साइबर हमलों में किया जा सकता है। इसके बाद सरकार ने Fable 5 और Mythos 5 मॉडलों पर निर्यात नियंत्रण प्रतिबंध लगा दिया।
विवरण
Amazon के प्रवक्ता ने एक बयान में कहा कि सरकारों के लिए सुरक्षा जोखिमों पर हमारी सलाह लेना असामान्य नहीं है, लेकिन कंपनी ऐसी चर्चाओं का विवरण साझा नहीं करती। प्रवक्ता ने यह भी बताया कि AWS इस मॉडल कटऑफ से प्रभावित हुआ है। The Information और Reuters ने भी रिपोर्ट किया कि Amazon (जो Anthropic का एक प्रमुख निवेशक है) ने Anthropic के मॉडलों की सुरक्षा के बारे में चिंताएं व्यक्त की थीं।
प्रभाव
इस घटनाक्रम से AI सुरक्षा और सरकारी नियमन के बीच संतुलन पर सवाल उठते हैं। David Sacks, जो पूर्व AI सार और अब President's Council of Advisors on Science and Technology के सह-अध्यक्ष हैं, ने दावा किया कि एक विश्वसनीय भागीदार ने जेलब्रेक की सूचना दी। Sacks ने कहा कि प्रशासन ने Anthropic CEO Dario Amodei से जेलब्रेक को ठीक करने या मॉडल को हटाने के लिए कहा, लेकिन Dario ने मना कर दिया।
पाठकों को क्या जानना चाहिए
- Amazon CEO Andy Jassy ने सरकार को Anthropic AI मॉडल की सुरक्षा कमजोरियों के बारे में बताया।
- इसके परिणामस्वरूप Claude Fable 5 और Mythos 5 मॉडलों पर प्रतिबंध लगा।
- Anthropic का कहना है कि ये क्षमताएं अन्य सार्वजनिक मॉडलों में पहले से मौजूद हैं।
अक्सर पूछे जाने वाले प्रश्न
Amazon CEO ने किन सरकारी अधिकारियों से बात की?
Amazon CEO Andy Jassy ने Treasury Secretary Scott Bessent और अन्य सरकारी अधिकारियों से बात की।
किन AI मॉडलों पर प्रतिबंध लगाया गया?
Anthropic के Claude Fable 5 और Mythos 5 मॉडलों पर निर्यात नियंत्रण प्रतिबंध लगाया गया।
Anthropic ने इस पर क्या प्रतिक्रिया दी?
Anthropic ने कहा कि जिन क्षमताओं के बारे में सरकार चिंतित है, वे पहले से ही अन्य सार्वजनिक मॉडलों में उपलब्ध हैं।