OpenAI предлагает международные стандарты для самых мощных ИИ-систем

OpenAI выступила за создание международных технических стандартов для передовых систем искусственного интеллекта.

В компании считают, что это становится особенно актуальным на фоне быстрого роста возможностей ИИ в программировании, научных исследованиях, инженерии и кибербезопасности.

Отдельная проблема связана с рекурсивным самоулучшением (RSI). Современный ИИ уже помогает ускорять исследования, а в будущем модели смогут выполнять значительную часть работы по созданию своих преемников. Теоретически это может запустить цепочку, в которой каждое новое поколение ИИ будет помогать разрабатывать еще более мощное.

В OpenAI считают, что полностью автономное RSI нельзя развивать без гарантий безопасности и сохранения реального человеческого контроля.

Компания предлагает США возглавить международную работу над едиными стандартами совместно с институтами безопасности ИИ из Австралии, Канады, Германии, Франции, Кении, Японии, Южной Кореи, Сингапура, Индии и Великобритании.

Такие стандарты могли бы установить общие методы оценки возможностей ИИ, отслеживания прогресса в области RSI, определения ситуаций, требующих вмешательства человека, а также классификации и раскрытия информации об инцидентах безопасности.

При этом OpenAI подчеркивает, что не предлагает обязательное лицензирование или предварительное государственное одобрение ИИ-моделей. Каждая страна сможет самостоятельно решить, как включить международные технические стандарты в свое законодательство.

Похоже, ИИ постепенно подходит к интересной границе: раньше люди создавали инструменты для разработки новых технологий, а теперь сами инструменты начинают помогать создавать следующие поколения таких инструментов.