Компанія Anthropic заявила, що вимкнула доступ до своїх нових моделей штучного інтелекту Fable 5 і Mythos 5 після директиви уряду США щодо обмеження доступу для іноземних громадян. Про це повідомляє Reuters.
За даними компанії, влада США послалася на міркування національної безпеки, однак не надала детальних пояснень. В Anthropic зазначили, що уряд висловив занепокоєння через можливість обходу захисту Fable 5 та використання моделі для пошуку вразливостей у програмному забезпеченні.
Компанія не погодилася з таким рішенням і заявила, що усні пояснення про можливий обхід захисту не мають бути підставою для відкликання комерційної моделі, якою користувалися багато людей.
«Потенційний вузький jailbreak», — так, за даними Anthropic, уряд США описав один із ризиків.
Рішення посилило напругу між компанією та урядом США. Раніше Anthropic відмовлялася дозволити Збройним силам США використовувати її моделі для внутрішнього стеження та повністю автономних систем озброєння.
Окреме занепокоєння у Вашингтоні викликала модель Mythos, яка має розширені можливості для аналізу складних систем і потенційного виявлення вразливостей. Через це уряд США застосував механізми експортного контролю, щоб обмежити доступ до найпотужніших моделей за межами країни.
Anthropic заявляє, що продовжує діалог з владою та сподівається на перегляд обмежень. Водночас ситуація стала одним із найпомітніших прикладів того, як уряди посилюють контроль над передовими системами штучного інтелекту.
Anthropic знаменита створенням Claude — одного з найпотужніших та найбезпечніших штучних інтелектів у світі, який є головним конкурентом ChatGPT і найкраще за всіх пише програмний код.
