Историческая фигня, иначе не скажешь. Мы долго тестировали весь невероятный арсенал нейронных сетей для задач модерации комментариев, и сегодня нам есть, что сказать. Кажется, мы стали еще дальше от бога, сингулярность и AGI неизбежны.

В TLST-comments на всех Pro-тарифах стала доступна автоматическая модерация комментариев с помощью искусственного интеллекта. В качестве базовой нейронной сети мы остановили свой выбор на Perspective Api от google. (Базовой – не значит единственной, об этом будет разговор ниже). В наших тестах она показала наилучший результат.

Немного о том, как тестировали кандидатов

Мы взяли миллион последних комментариев с разных сайтов. В выборку были включены только комменты, по которым были приняты действия модераторов: активное одобрение комментария или, наоборот, удаление. Прогнали через 7 разных нейронных сетей. Каждому комментарию AI ставил оценку от 1 до 10, где 1 — комментарий точно должен быть удален, 10 — опубликовать и отлить в граните.

С вероятностью 75% perspective api угадывал решение модератора. У остальных сетей с этим было значительно хуже, но есть нюанс. С файнтюнингом (ручной донастройкой) под конкретный сайт и пожелания модераторов ChatGpt-4o способен выдавать нужные результаты в 85% случаев.

Perspective же простой и надежный как долото, никаких доп. настроек, все работает из коробки. Он уже способен сэкономить вам десятки человеко/часов. Поэтому было решено остановиться на нем, как на универсальном солдате.

А что собственно умеет перспектив апи?

Это аишка, постоянно обучаемая издателями, как раз создана под задачи модерации пользовательского контента. Ее используют такие монстры как Disqus, Reddit, The New York Times, OpenWeb, Financial Times. (Кстати у Дискаса подключение Perspective Api будет стоить вам от 115$ в месяц. В Tlst-comments она включена в стоимость Pro-тарифа).

Модель умеет присваивать комментариям оценки по 6 шкалам (токсичность, оскорбления, ругательства, угрозы, посягательство на личность, сексуальный контент). Оценки ставятся от 1 до 10.

Мы понимаем, что у всех редакций своя политика, красные линии, искусство лавировать и не открывать ненужные двери. И наоборот, многие не подотчетные РКН блогеры любят комменты пожестче, поциничнее, немного, так сказать, на грани. Мы учли это. Вы сможете настроить веса авто-модерации под себя.

А как же это все работает?

В TLST-comments предусмотрено три возможных формата модерации.

🤖 Полная автомодерация. Можно выставить примерные нужные веса в админке и забыть про модерацию насовсем. Разве что раз в месяц заходить в админку, анализировать работу ai и подкручивать веса. Подходит для небольших блогов и бесстрашных владельцев иностранных сми.
🤖🖤💁‍♂️ С минимальным участием модератора. В настройках автомодерации вы выставляете порог рейтинга, при котором комментарий точно будет скрыт с сайта, например 8. И порог, при котором комментарий точно можно публиковать, например 3. Все комментарии, оцененные нейронкой в пределах от 3 до 8, вычитывает и принимает по ним решение живой модератор.
👨‍⚖️ Как ai-помощник модератора. В ленте модерации появилась возможность отфильтровать свежие комментарии по ai-рейтингу. Т.е модератор будет сначала вычитывать наиболее токсичные комменты. Это сильно упрощает работу и оперативность удаления нежелательного контента

С сегодняшнего дня в ленте модерации (на тарифе Pro) у каждого комментария рядом с рейтингом отображается оценка от нейронной сети. Если кликнуть на эту цифру, вы увидите расширенную оценку.

🤖 Чтобы включить полную автомодерацию, перейдите в раздел “Настройки Ai”. И выставите следующие рекомендуемые значения. (Цифры, которые подойдут именно вам, придется искать опытным путем).

Все комментарии с оценкой от нейронной сети ниже 4 будут сразу одобряться и публиковаться на сайте. Все сообщения, набравшие больше 4, — удаляться с сайта и попадать в раздел “Скрытые” админ панели. Сразу предупреждаем, что это вариант для хардкорщиков. Тонкая ирония и безобидные шуточки, скорей всего будут удаляться.

🤖🖤💁‍♂️ Вариант с минимальным участием модератора является оптимальным на наш взгляд. В настройках Ai установите следующие значения.

Комментарии в серой зоне с рейтингом от 3,5 до 7,5 будут требовать ручной проверки модератором. Все, что ниже 3,5, будет автоматически одобряться. Все, что выше 7,5, — удаляться. Фактически заглядывать придется только в раздел “На премодерации”. Комментарии из этого раздела не видны на сайте.

Напомним, если в админке кликнуть на время написания комментария, можно увидеть его статус. Кем, когда и по каким причинам он был удален или опубликован.

А так выглядит сортировка комментариев по оценке нейронной сети за определенный промежуток времени. Она работает и без включения автомодерации.

Важные уточнения

Обратите внимание! Сначала нейронка выставляет оценку комментарию, и только потом в течение минуты принимает по нему решение: скрыть, одобрить или отправить на премодерацию.
Perspective api не умеет оценивать комментарии, содержащие картинки. Поэтому на всякий случай рекомендуем вам запретить возможность добавления картинок, или отправлять такие комментарии на премодерацию. (Все это делается в разделе Настройки-Управление-Модерация админ-панели).
Если параллельно с автомодерацией на сайте включен фильтр стоп-слов, у него будет приоритет. Комментарии, содержащие стоп-слова, будут скрываться независимо от оценки нейронной сети. Если включен режим премодерации, автомодерация не будет работать. Все комментарии из раздела “Скрытые”придется публиковать или удалять вручную.
Если вы вручаете галочки верифицированных пользователей (подробнее что это такое), вы можете отключить проверку их комментариев нейронными сетями. По умолчанию автомодерация действует на всех юзеров независимо от их статуса.

Не все так однозначно…

Не каждому сайту подойдет такой формат. В больших медиа редакционная политика и политика модерации пользовательского контента — это черный ящик из которого раздаются стоны и порыкивания. Нужно быть очень изысканным и тонкочувствующим человеком, чтобы продолжать успешно рулить медиа в 2024-м году. Как же здорово, что нейронки становятся с каждым днем все ближе и ближе к человеку прямоходящему и даже мыслящему.

К примеру, если нагрузить ChatGpt 4o расширенным системным промтом, он будет работать почти как живой модератор. В состоянии отличать откровенную наивную либерду от великодержавных пророчеств. Или наоборот, ватную пургу от человеколюбивой прозападнической мысли. Это уж как вам будет угодно.

Все это мы предлагаем на тарифе Enterprise. Уже сейчас вы можете подключить нейронки от Open Ai (ChatGpt 4o), Google (gemini), Microsoft Azure (AI Content Safety), Hive AI.

Они позволяют добавлять системные промты любой сложности конкретно под вас. Пишите нам в саппорт help@tolstoycomments.com или через форму обратной связи на лендинг, поможем с консультацией, настройкой, сориентируем по цене (итоговый прайс будет зависеть от количества комментариев, публикуемых на вашем сайте).

Чтобы протестировать автомодерацию, торопитесь подключить тариф Pro до 1 декабря 2024. Мы вынуждены анонсировать повышение цен. TLST-comments существует с 2017 года, когда доллар торговался по 50 рублей, и за все это время ни разу не повышал цен. Селяви 🤷🏻‍♂️. Подробнее о новых тарифах расскажем на следующей неделе.