«Коммерсант: В Роскомнадзоре возникла идея проверять все видеоигры на запрещенный контент с помощью ИИ

© СС0


Подведомственный Роскомнадзору Главный радиочастотный центр (ГРЧЦ) предложил использовать искусственный интеллект (ИИ) для мониторинга контента видеоигр, чтобы быстрее находить «запрещенные сюжеты. Речь идет о детской порнографии, экстремизме, пропаганде суицида и употребления наркотиков и тому подобном, пишет «Коммерсант.

Отметим, что сейчас все видеоигры перед релизом проходят принятые во всем мире фильтры, возрастные маркировки и отдельные проверки со стороны платформ, где они размещаются (PlayStation Store, Steam, AppStore и другие). Также существуют неформальные фильтры, когда гейм-сообщество публично обсуждает неоднозначные моменты в играх.

Исследование видеоигр провел Научно-технического центр (НТЦ) ГРЧЦ. Аналитики центра предложили использовать ИИ для защиты граждан, и в первую очередь детей, от вредоносной информации путем мониторинга внутриигрового контента. ИИ нужен, потому что игры становятся все сложнее, и человек «не может охватить всю полноту предлагаемых сюжетных развилок, пояснил идею глава НТЦ ГРЧЦ Александр Федотов. По его словам, ИИ может использоваться как рекомендательный сервис. А решение по каждому признаку нарушения должно приниматься экспертом на основании всей имеющейся информации.

Эксперты гейм-индустрии говорят, что идея ГРЧЦ может создать проблемы разработчикам игр. Подобные проверки игрового контента средствами ИИ могут занимать месяцы. Кроме того, такие проверки могут привести к ограничению доступа к игре или платформе по чисто формальным признакам.

Дело в том, что одна из особенностей современных игровых вселенных — огромное количество UGC (User Generated Content — пользовательский контент). То есть люди в игре делают то, что им интересно. При таком раскладе манипулировать «незаконным контентом станет проще: под санкции можно будет «подтянуть все что угодно, включая сообщения в игровом чате.

Напомним, по данным My.Games в 2020 году российский рынок видеоигр составил 163,4 млрд рублей.