OpenAI Astra: новую ИИ-модель уже называют началом эры AGI

OpenAI представила свою новую флагманскую модель GPT-6 Astra, и на этот раз компания говорит не просто о еще одном улучшении ChatGPT.

Президент OpenAI Грег Брокман заявил, что Astra можно считать искусственным общим интеллектом, или AGI. Более того, он назвал ее запуск началом новой эры в развитии искусственного интеллекта.

При этом есть важный нюанс, ведь AGI пока не имеет единого общепринятого определения, поэтому заявление OpenAI скорее стоит воспринимать как оценку самой компании, а не как официально установленный научный факт.

Что умеет Astra

Главное отличие Astra от обычных чат-ботов заключается в том, что она гораздо лучше справляется с большими и сложными задачами.

Модель умеет работать с компьютером, программами и кодом, выполнять несколько действий подряд и самостоятельно двигаться к результату. То есть вместо простого ответа на вопрос ИИ постепенно превращается в полноценного цифрового помощника, которому можно поручить целую задачу.

Именно это OpenAI считает одним из главных шагов к AGI. Причем речь идет не только о программировании, Astra получила серьезный прирост в работе с профессиональными задачами, анализе информации и использовании компьютера. Компания называет ее самой способной моделью, которую когда-либо широко выпускала.

Но есть и неприятная сторона

Самое интересное в Astra связано даже не с ее интеллектом, а с кибербезопасностью.

OpenAI официально присвоила модели уровень Critical по собственной системе оценки рисков. Это произошло впервые для модели компании, ведь по данным OpenAI, Astra способна находить ранее неизвестные уязвимости в хорошо защищенных системах и самостоятельно создавать способы их эксплуатации.

Во время тестов Astra обнаружила две ранее неизвестные уязвимости и использовала их в цепочках атак. В другом тесте модель смогла найти несколько проблем в защищенной операционной системе и объединить их в цепочку для получения повышенных прав.

Если такой ИИ попадет в руки специалиста по безопасности, он может помочь быстро найти проблемы в системе, но если те же возможности получит злоумышленник, ситуация становится намного менее приятной.

Может ли Astra стать опасной?

Да, потенциально. Причем для этого вовсе не нужен сценарий из фантастического фильма, где робот внезапно решает захватить планету.

Гораздо реалистичнее другой вариант: человек получает мощного ИИ-агента, дает ему доступ к компьютеру, сети или корпоративной инфраструктуре, а дальше модель самостоятельно выполняет большую часть работы.

Чем меньше человеку нужно делать руками, тем ниже становится порог для сложной кибератаки.

Именно поэтому OpenAI усилила защиту Astra, ограничила доступ к наиболее опасным возможностям и ввела дополнительные системы мониторинга. Компания отдельно подчеркивает, что модель должна блокировать вредоносные действия даже в том случае, если пользователь пытается направить ее в эту сторону.

AGI уже здесь?

Вот здесь я бы не спешил ставить жирную галочку. Брокман считает, что Astra соответствует AGI, а OpenAI фактически говорит о начале новой эры. Но универсального теста, после которого можно сказать «все, AGI приехал», пока нет.

Зато есть вполне конкретный факт: ИИ становится все более самостоятельным.

Он уже не просто пишет текст или отвечает на вопросы, а умеет работать с компьютером, программировать, анализировать сложные задачи и самостоятельно выполнять длинные цепочки действий.

И именно это, на мой взгляд, гораздо важнее знакового рубежа AGI.

Потому что вопрос теперь постепенно меняется с «насколько умным стал искусственный интеллект?» на «сколько самостоятельности мы готовы ему дать?» И вот на этот вопрос Astra пока отвечает довольно тревожно.