В Google рассказали, как работает модерация отзывов в Картах
Google опубликовал статью о том, как работают отзывы в Картах. В частности, как компания разрабатывает и внедряет правила, и какую роль в модерации контента играют люди и алгоритмы.
Создание правил и обеспечение их соблюдения
В Google отметили, что, как и все остальное в мире, правила и меры защиты в Картах также развиваются и не стоят на месте. Регулярные пересмотры помогают компании адаптировать свои правила, чтобы еще лучше защищать локальные бизнесы от беспочвенных обвинений.
Например, когда государственные органы и компании начали требовать подтверждение вакцинации против COVID-19, в Google ввели дополнительные меры защиты, чтобы удалить те отзывы, в которых компании критиковались за свои политики безопасности или за соблюдение распоряжений правительства в отношении вакцинации.
В Google также рассказали, что, когда правило создано, оно становится материалом для обучения – как для сотрудников, так и для алгоритмов машинного обучения.
Модерация отзывов
Этот процесс работает на основе машинного обучения. Оставленные пользователями отклики перенаправляются в систему модерации Google сразу после отправки. Если никаких нарушений не обнаружено, отзыв публикуется. Обычно это происходит в считанные секунды.
Чтобы определить, может ли отзыв нарушать правила, системы модерации Google оценивают его с нескольких сторон:
Содержит ли отзыв оскорбительный или не имеющий отношения к теме контент.
Был ли аккаунт, оставивший отзыв, замечен в подозрительном поведении.
Имела ли место нехарактерная активность в отношении того места или бизнеса, о котором идет речь. Например, обилие отзывов за короткий период времени или недавнее освещение компании/места в СМИ, что может побудить людей оставить ложные отзывы.
Участие сотрудников Google в модерации отзывов
Модераторы ответственны за проведение проверок качества и дополнительного обучения для исключения предвзятости из моделей машинного обучения. Они также проверяют помеченный пользователями контент.
Когда Google находит фейковые отзывы, то удаляет их, а в некоторых случаях также приостанавливает те аккаунты, которые их оставили.
Проактивные меры защиты
Системы Google продолжают анализировать отзывы и отслеживать аномальные паттерны даже после публикации отзывов.
Кроме того, команда модераторов работает над определением потенциальных рисков злоупотреблений.
«Например, когда приближается событие со значительной аудиторией, такое как выборы, мы внедряем повышенную защиту для мест, связанных с этим событием, и других близлежащих бизнесов, которые люди могут искать на Картах», — объяснили в компании.
Напомним, что недавно в Google акцентировали внимание на важности всех отзывов: и положительных, и отрицательных.
