Anthropic ограничила доступ к самым мощным ИИ-моделям по требованию властей США

Американская компания Anthropic оказалась в центре нового витка дискуссий о безопасности искусственного интеллекта.

Разработчик семейства моделей Claude сообщил о вынужденном ограничении доступа к своим наиболее производительным нейросетям Fable 5 и Mythos 5 после получения соответствующего распоряжения от властей США.

Согласно заявлению компании, ограничения распространяются на всех иностранных пользователей без исключения. Под действие директивы попали не только клиенты за пределами Соединенных Штатов, но и иностранные сотрудники самой Anthropic, работающие на территории страны. Для соблюдения требований компания была вынуждена оперативно отключить доступ к новым моделям, оставив без изменений работу остальных ИИ-решений своего портфеля.

В Anthropic подчеркивают, что решение было принято не по собственной инициативе. Более того, компания открыто выразила несогласие с позицией регуляторов. По мнению разработчика, причиной столь жестких мер мог стать обнаруженный специалистами потенциальный способ обхода защитных механизмов Fable 5. При этом в компании отмечают, что абсолютной защиты от джейлбрейков сегодня не существует ни у одной современной языковой модели.

Перед запуском Fable 5 система проходила масштабное тестирование совместно с американскими государственными структурами. Проверки продолжались тысячи часов и были направлены на оценку устойчивости модели к различным сценариям злоупотребления. В Anthropic утверждают, что по уровню встроенной защиты новая разработка заметно превосходит все предыдущие продукты компании.

Особое внимание привлекает сама модель Fable 5. Она считается самым мощным публично доступным ИИ компании и предназначена для решения сложных аналитических задач, программирования, научных исследований, работы с мультимедийными данными и выполнения длительных автономных процессов. Модель способна сохранять контекст на протяжении продолжительного времени, выполнять многоэтапные операции и демонстрировать высокий уровень рассуждений при решении комплексных задач.

Не менее интересной выглядит Mythos 5, которая обладает аналогичными возможностями, однако распространяется в рамках ограниченной программы Project Glasswing и ориентирована на узкий круг пользователей и корпоративных партнеров.

Ситуация вызывает серьезные вопросы о будущем регулирования искусственного интеллекта. Если подобный подход станет отраслевым стандартом, разработчики могут столкнуться с существенными трудностями при выводе новых моделей на рынок. В Anthropic считают, что запрет на использование коммерчески доступных ИИ-систем из-за отдельных потенциальных уязвимостей способен существенно замедлить развитие всей индустрии.

Новость появилась на фоне подготовки компании к одному из самых ожидаемых событий ИИ-рынка. В начале июня Anthropic конфиденциально подала документы на проведение IPO в США. Возможное размещение акций может стать одним из крупнейших событий в сфере искусственного интеллекта за последние годы и усилить конкуренцию с OpenAI за инвестиции, вычислительные ресурсы и корпоративных клиентов. На этом фоне ограничения вокруг Fable 5 и Mythos 5 могут стать важным сигналом для всего рынка, показывая, насколько тесно развитие передовых ИИ-технологий начинает зависеть от государственной политики и вопросов национальной безопасности.