Програма-сексист? Amazon відмовилася від алгоритму з підбору персоналу, який надавав перевагу чоловікам

Компанія Amazon відмовилася від використання штучного інтелекту для оцінки резюме, оскільки високі бали отримували переважно здобувачі-чоловіки. Компанія намагалася вирішити проблему з 2015 року, проте зараз припинила роботу над системою. 

Про це пише Reuters із посиланням на анонімне джерело в компанії, пише Центр інформації про права людини.

Команда Единбурзького інженерного центру Amazon розробляла штучний інтелект, який міг би швидко оцінити опубліковані в інтернеті резюме і знайти відповідних співробітників. Розробники створили 500 комп'ютерних моделей для різних навичок і локацій здобувачів, кожна з яких розпізнавала близько 50 тисяч слів-сигналів у резюме.

У 2015 році в Amazon помітили, що алгоритм звертав мало уваги на досвід і навички потенційних співробітників. Замість цього він віддавав перевагу тим, хто вживав властиві "чоловічим" резюме дієслова, такі як "виконав" (executed) або "захопив" (captured). Розробники пояснили це тим, що алгоритм навчався на базі резюме всіх співробітників компанії за останні десять років. Чоловіків у ній виявилося більше, тому штучний інтелект вирішив, що кандидати чоловічої статі краще. Також він часто рекомендував некваліфікований персонал.

Компанія змінила алгоритм, проте істотних поліпшень не відбулося, і до початку 2017 року Amazon відмовилася від використання системи. Хоча корпорація зупинила розроблення алгоритму, вона використовує частину напрацювань для вирішення базових завдань рекрутингу, наприклад для виключення дублікатів профілів кандидатів.