Новости Декабрь 27, 2024
Оказывается, ChatGPT можно запутать с помощью хитрых трюков, вроде невидимого текста на веб-страницах. Этот текст не виден обычным пользователям, но отлично читается искусственным интеллектом, что и становится основой для манипуляций.
В одном эксперименте сделали фейковую страницу с негативными отзывами о камере. Сначала ChatGPT выдал честный обзор, указав и плюсы, и минусы устройства. Но как только на страницу добавили скрытый текст с позитивными комментариями, модель внезапно стала куда более оптимистичной. При этом "спрятанные" положительные отзывы оказались гораздо весомее реальных негативных.
Злоумышленники могут использовать такие уловки, чтобы продвигать свои товары или даже вредоносные сайты. В итоге люди получают искаженные результаты и могут сделать неправильный выбор, опираясь на фальшивую информацию.
Эта ситуация лишний раз доказывает, что ИИ-системы еще далеки от совершенства. Нужны новые способы защиты от манипуляций, чтобы поиск в интернете оставался честным, а пользователи – защищенными от дезинформации.
