Reddit почав застосовувати власні AI-інструменти для модерації платформи у відповідь на зростання кількості контенту, згенерованого штучним інтелектом. Компанія використовує великі мовні моделі для виявлення спаму, фейкових акаунтів і скоординованої неавтентичної активності.

Про це повідомляє Engadget.

Що роблять AI-системи Reddit

Автоматичні системи щодня блокують близько 23 млн переглядів спаму. Також вони виявляють приблизно 25 000 небажаних дописів і коментарів та скасовують майже 2 млн неавтентичних голосів. У першому кварталі 2026 року користувачі бачили на 20% менше спаму порівняно з попереднім кварталом.

Великі мовні моделі аналізують підозрілу активність ще в момент створення акаунту. Наприклад, шукають малопомітні ознаки скоординованої фейкової поведінки та штучного просування контенту. Для підозрілих автоматизованих акаунтів запровадили додаткову перевірку на те, що ними керує людина.

Швидше реагування на шкідливий контент

Окрім спаму AI-системи допомагають швидше виявляти контент із мовою ненависті та насильства. Поки що вони працюють в англомовному сегменті, але незабаром охоплення розшириться на інші мови. Час між виявленням порушення і застосуванням обмежень скоротився до менш ніж п’яти секунд. Кількість переглядів шкідливого контенту зменшилася більш ніж на 40%.

Показовий контекст

Використання ШІ для модерації виглядає особливо промовисто на тлі попередніх конфліктів Reddit із цією технологією. Наприклад, у 2025 році дослідники з університету Цюриха без згоди учасників проводили на платформі експерименти з AI-коментарями. Скандал викликав широке обговорення етики використання ШІ у соціальних дослідженнях.