В компании Instagram решили бороться с онлайн-буллингом. Проблема травли в Сети существует очень давно, но без использования модераторов, что невозможно в масштабах Instagram, ранее можно было максимум запретить использование определённых слов, включая нецензурную лексику.
Однако сейчас эпоха искусственного интеллекта, так что в Instagram решили использовать эти технологии, чтобы бороться с буллингом. Для этого разработчики социальной сети создали алгоритмы, определяющие соответствующие элементы в комментариях пользователей.
Если приложение обнаружит в комментарии того или иного человека подозрительные особенности, оно предложит пользователю исправить его текст. Ранние тесты Instagram показали, что часть пользователей в такой ситуации отказывается от своего намерения оскорбить или каким-то иным образом задеть «собеседника».
Кроме того, вскоре в Instagram появится ещё одна функция, связанная с оговариваемой проблемой, но не связанная с искусственным интеллектом. У пользователей появится кнопка Restrict, которая позволит скрыть комментарии агрессивно настроенного человека таким образом, что они будут видны лишь ему одному. В дополнение к этому пользователи, отмеченные такой кнопкой, не будут видеть активность «жертвы».