Искусственный интеллект Amazon, отбиравший кандидатов на работу, отдавал предпочтение мужчинам

Такое поведение не было заложено при проектировании, а стало результатом обучения

Специалисты Amazon, занимающиеся машинным обучением, обнаружили неожиданный факт: созданная ими нейронная сеть, призванная помогать при отборе кандидатов на работу, отдавала предпочтение мужчинам. Когда это выяснилось, искусственный интеллект отстранили от выполнения указанной обязанности. Однако интересно вот что: указанное поведение ИИ не было заложено при проектировании, а стало результатом обучения.

Компания Amazon широко использует средства автоматизации и передовые технологии. Программа, о которой идет речь, разрабатывалась с 2014 года. О том, что она отдает предпочтение мужчинам, стало известно в 2015 году.

Причина дискриминации по половому признаку оказалась проста. В качестве базы для обучения разработчики использовали реальные резюме соискателей, принятых на работу в течение последних 10 лет. Большая часть этих резюме была написана мужчинами, что соответствовало сложившемуся состоянию рынка труда в этой сфере. Заметив, что в одобренных резюме чаще встречаются речевые обороты, выдающие в авторе мужчину, нейронная сеть посчитала это признаком лучших кандидатов и стала браковать резюме, поданные женщинами.

Кроме того, ИИ ставила рассказы о достижениях выше сведений о профессиональной подготовке. Таким образом, лучшую рекомендацию мог получить соискатель, даже не обладающий нужными навыками.

В работу системы были внесены коррективы, но гарантий, что в будущем ИИ снова не свернет на кривую дорожку, выявив менее очевидный способ выявлять и забраковывать женщин, не было. Поэтому в прошлом году проект был закрыт. Во всяком случае, официально.

Источник уточняет, что рекомендации программы никогда не были единственным основанием для принятия решений, хотя отдел кадров и принимал их во внимание.