На фоне усиливающегося давления на цифровые свободы — от законов вроде британского Online Safety Act до массового требования верификации личности на популярных платформах вроде YouTube и Discord — многие пользователи всё чаще замечают координированное сжатие свобод в интернете. К этой тревожной тенденции теперь присоединился и многопользовательский шутер Marvel Rivals от NetEase.
ИИ-модерация: всё, что вы скажете, может быть использовано против вас
Как сообщил креативный директор игры Гуанггуанг в недавнем выпуске Dev Vision Vol. 08, с 24 июля в Marvel Rivals начал работать ИИ-сервис, анализирующий все голосовые сообщения игроков в реальном времени. Цель — выявление "токсичного поведения", за которое возможны наказания. Интересно, что в видеоролике от 30 июля он говорит об этой функции как о будущей — возможно, речь о поэтапном внедрении.
Однако точные критерии, по которым ИИ будет определять "неуместные высказывания", не раскрываются. Неясно также, какое наказание ждёт нарушителей — всё остаётся на усмотрение модераторов.
Фильтрация текста и молчащие слова
Если вы подумали, что текстовый чат останется свободным, спешим разочаровать: в игре внедряется функция пользовательской фильтрации слов. Игроки смогут "заглушать" сообщения, содержащие нежелательные слова, но по словам разработчиков, наиболее часто блокируемые термины в дальнейшем могут попасть в общий список цензуры, ограничивая видимость сообщений для всех.
Сомнительный тренд или новая реальность?
Хотя подход NetEase кажется агрессивным, он далеко не уникален. Похожая система была внедрена и в Call of Duty: Black Ops 6, где ИИ анализирует голосовые и текстовые сообщения игроков в почти реальном времени. Это вызвало волну критики — геймеры считают, что такие меры вторгаются в личное пространство и отвлекают разработчиков от реальных проблем, таких как борьба с читами.
Комментарии (2)