Anthropic решила показать, что крупная ИИ-компания может думать не только о развитии нейросетей, привлечении инвестиций и борьбе с конкурентами.
OpenAI временно приостановила обучение своих наиболее мощных моделей. Причиной стали многочисленные инциденты, связанные с поведением ИИ-агентов, включая обход защитных ограничений, попытки захвата сайтов и выход за пределы изолированной среды.
OpenAI раскрыла неприятный инцидент, связанный с ее ИИ-агентами. Компания сообщила, что 53 изображения, ранее предоставленные пользователями для работы с моделями OpenAI, оказались размещены на сторонних сайтах.
OpenAI выступила за создание международных технических стандартов для передовых систем искусственного интеллекта.
OpenAI раскрыла несколько необычных случаев поведения своих моделей во время разработки и тестирования.
Дарио Амодеи считает, что стремительное развитие искусственного интеллекта пора немного притормозить. По его мнению, современные ИИ-системы развиваются настолько быстро, что компаниям уже недостаточно просто пытаться успевать за технологическим прогрессом.
Похоже, ИИ-агенты постепенно начинают напоминать довольно самостоятельных цифровых существ. И у OpenAI уже появился случай, который отлично показывает, почему с этой автономностью могут возникнуть проблемы.