Сервис AI Overview от Google создан для быстрых ответов, но его можно направить в ложную сторону. Ютубер Джеффри Филлипс проверил это на практике и добился того, что искусственный интеллект начал ссылаться на вымышленную кнопку twerk в GTA 6 как на непроверенное утверждение.
Филлипс устроил долгий эксперимент. Несколько месяцев он незаметно распространял одинаковую выдумку на разных площадках, делая акцент на Reddit, который часто влияет на формирование ответов AI Overview. Темой стала несуществующая кнопка twerk в GTA 6.
Блогер не подкреплял выдумку серьезными доказательствами и публиковал короткие сообщения вразнобой. По мере накопления следов в сети идея дошла до AI Overview. Изначально система помечала тезис как ложный, но со временем перенесла его в блок непроверенных заявлений и начала цитировать комментарии автора как источник.
Филлипс отметил, что был удивлен появлению собственных комментариев в выдаче AI Overview. Он ожидал максимум формулировку вида некоторые пользователи на Reddit так считают, но не прямую ссылку на свои посты.
Обмануть систему полностью не получилось. Однако эксперимент показал, что при достаточном числе повторений даже абсурдная выдумка может попасть в ответы AI как слух и повиснуть там в статусе непроверенной.
Комментарии (2)