Рекламные алгоритмы обвинили преподавателей Python и Pandas в торговле дикими животными

Совсем недавно произошел инцидент, который удивил образовательное сообщество программистов: преподаватели курсов по Python и Pandas оказались в числе тех, кто пострадал от действий рекламных алгоритмов крупных сетей. Ревен Лернер, преподаватель языка программирования Python, стал одной из жертв этой ошибочной блокировки.

Алгоритмы, встроенные в рекламную сеть Facebook^* , которая в России запрещена и принадлежит компании Meta^* , также признанной в России экстремистской, посчитали, что Лернер занимается распространением информации о торговле экзотическими животными. Такое недопонимание произошло из-за того, что названия используемых им технологий — Python и Pandas — переводятся как «питон» и «панды».

Лернер, пытаясь разрешить ситуацию, столкнулся с тем, что его апелляцию рассматривал не человек, а другой алгоритм, который, неудивительно, пришел к такому же выводу, что и первый. В результате профиль преподавателя был заблокирован навсегда, и теперь он лишен возможности продолжать свою деятельность в рамках этой рекламной площадки.

Лернер поделился своим опытом в личном блоге, где подробно описал всю ситуацию. Он также отметил, что подобные случаи произошли и с другими преподавателями, работающими с Python и Pandas.

Этот случай показывает проблему зависимости от алгоритмов в вопросах модерации и управления контентом. Ошибка в алгоритме или недостаточное понимание контекста может привести к необоснованным и даже абсурдным блокировкам, оставляя пострадавших без возможности быстро и эффективно решить проблему.

• * — Компания Meta (социальные сети Instagram и Facebook) - признана экстремистской организацией на территории Российской Федерации