В Сургуте школьники борются с токсичностью в интернете с помощью ИИ

В Сургуте учащиеся школы имени Созонова разрабатывают бота-цензора для Telegram, который будет бороться с матом и учить пользователей уважительному общению. Подробнее о проекте «Цифровой защитник этики» журналисту NEFT рассказал один из его участников Вячеслав Фрей.

Бот-цензор будет работать на основе искусственного интеллекта, следить за участниками чатов и реагировать на оскорбления и нецензурную лексику. Для нарушителей интернет-этики предусмотрены два режима: лояльный и радикальный. В первом случае программа подскажет более вежливые варианты обращения, во втором — заблокирует грубияна.

Проект вышел в финал конкурса IT-технологий на предоставление гранта губернатора Югры. Разработчики рассчитывают на победу для продолжения работы.

«Проект находится на начальном этапе разработки, дальше двигаться возможности нет, так как требуются большие вычислительные мощности для обучения нейронных сетей. Мы ожидаем, что реализация этого продукта снизит количество конфликтов в интернете, повысит качество общения, улучшит репутацию и сделает общение в сети этичнее», — рассказывает Вячеслав Фрей.

В случае победы в грантовом конкурсе школьники получат более 170 тыс. рублей. Новый чат-бот они планируют выпустить до конца следующего года.

Ранее NEFT рассказывала, как учителя ХМАО разработали приложение для дистанционной помощи школьникам. Волонтеры будут помогать детям с уроками.