Google рассказал, как работают отзывы в Картах. Компания поделилась тем, какие функции выполняют люди и алгоритмы при проверке контента и как внедряются новые правила в систему модерации.
Создание правил и контроль их соблюдения
Правила и меры защиты в Google Картах регулярно пересматриваются и меняются. Это помогает компании эффективнее защищать локальные бизнесы от беспочвенных обвинений.
Когда правительство стало требовать от компаний проверять своих клиентов на наличие подтверждения вакцинации против COVID-19, в Google появилось много отзывов, критикующих бизнес и государственные органы за политику безопасности и следованию букве закона в отношении вакцинации. Google предпринял дополнительные меры защиты и удалил эти отзывы.
Созданное правило становится материалом для обучения и для сотрудников, и для алгоритмов машинного обучения.
Проверка отзывов
Модерация отзывов производится автоматически. Система получает отзыв сразу после его отправки пользователем. Отзыв публикуется, если не было обнаружено никаких проблем. Обычно с момента отправки отзыва до его публикации проходит всего несколько секунд.
Система оценивает отзыв по следующим критериям:
- Наличие оскорблений или не имеющего отношения к теме контента;
- Подозрительное поведение, в котором уже был ранее уличён аккаунт, оставивший отзыв.
- Нехарактерная пользовательская активность по отношению к компании, о которой был написан отзыв. Большое количество отзывов, появившихся за короткий отрезок времени, или публикация о компании в СМИ могут стать поводом для появления ложных отзывов на площадке.
Роль сотрудников Google в модерации отзывов
Модераторы занимаются проверкой качества и дополнительным обучением для исключения предвзятости из моделей машинного обучения. Сотрудники также модерируют помеченный пользователями контент.
Фейковые отзывы удаляются с площадки, а аккаунты, от лица которых они были опубликованы, могут заблокировать.
Дополнительные методы защиты
Анализ отзыва и отслеживание отрицательных паттентов продолжает производиться системами Google даже после публикации отзыва. Помимо этого, команда модераторов работает над определением потенциальных рисков злоупотреблений.
«Системы Google уделяют пристальное внимание пользовательскому поведению при приближении события, в котором должна быть задействована большая аудитория – к примеру, перед выборами. В этом случае системой внедряется повышенная защита для мест, связанных с этим событием и других близлежащих бизнесов, которые люди могут искать на Картах.», – пояснил Google.
Следите за нами
