Секретний інструмент, який вибирав кандидатів, які можуть бути частиною компанії, продемонстрував цілком чіткий ухил до жінок

@abc_tecnologia Оновлено: 15.10.2018 14:10

звільняє

Пов’язані новини

Штучний інтелект (ШІ) не є неперевершеним. І Amazon вже випробував це на власному м’ясі. Хоча технологія зазвичай є союзником, не всі рішення можуть залежати від неї. З цієї причини, Amazon вирішила обійтися без штучного інтелекту, який допоміг йому набрати співробітників за явно сексуальні стосунки.

Як повідомляв Reuters, секретний інструмент на основі ШІ, за допомогою якого Amazon вибирала, хто може бути частиною компанії продемонстрував цілком чітке упередження щодо жінок.

Компанія Джефф Безос розпочато в 2014 для побудови комп’ютерних програм які розглянули резюме заявників. Метою було механізувати пошук і знайти найкращих талантів, зізналися Reuters джерела, близькі до компанії.

Автоматизація була ключовою для домінування Amazon над електронною комерцією, незалежно від того, знаходиться вона на складах або визначає цінові рішення. Експериментальний інструмент найму компанії використовував ШІ для оцінки кандидатів від однієї до п’яти зірок, оскільки продукти, які користувачі купують через веб-сайт, оцінюються.

У 2015 році компанія зрозуміла, що її нова система не відповідає кандидатам на роботу розробників програмного забезпечення та інші технічні посади гендерно нейтральним чином. Як пояснює Reuters, це тому, що ШІ отримав освіту за допомогою резюме кандидатів, зібраних протягом десяти років. Більшість з них були чоловіками, тому ШІ навчався з чітке чоловіче домінування. Таким чином, комп’ютерна система Amazon завжди вибирала чоловіків. Навчальні програми, що включали слово "жінки", карались незалежно від їхньої підготовки.

Amazon редагував комп’ютерні програми, щоб зробити їх нейтральними, але це не спрацювало. Кандидати продовжували класифікуватися дискримінаційно, тому компанія в Сіетлі остаточно розпустила ШІ на початку 2017 року, оскільки керівники втратили надію на те, що проект вдасться пройти.

Компанія ніколи не пропонувала заяв щодо цієї сексистської практики, завжди відстоюючи свою прихильність до різноманітності та рівності на роботі.

Чоловіча мова

Експеримент Amazon розпочався у вирішальний для компанії час. машинне навчання набирала популярності у світі технологій, і відділ кадрів Amazon збирався розпочати серію найму: з червня 2015 р. глобальна робоча сила компанії зросла втричі.

Зіткнувшись із цією ситуацією, він створив команду в Единбурзькому інженерному центрі, до складу якої входило дванадцять чоловік. Їхньою метою було розробити ШІ, який міг би швидко сканувати Інтернет і виявляти кандидатів, яких варто набрати, кажуть агентству Reuters джерела, близькі до компанії.

Група створена 500 комп'ютерних моделей орієнтований на конкретні робочі функції та місця. Вони вчили кожного розпізнавати близько 50 000 термінів, які з’явились у резюме минулих кандидатів. Алгоритми навчились надавати мало значення навичкам, які були поширені серед заявників. Однак технологія надавала перевагу кандидатам, які описували себе за допомогою дієслів, як правило, частіше зустрічаються в резюме чоловіків-інженерів.

Союзний інструмент

Згідно з опитуванням, проведеним у 2017 році фірмою CareerBuilder з програмного забезпечення для талантів, 55 відсотків менеджерів з персоналу США заявили, що ШІ буде регулярною частиною їх роботи протягом наступних п’яти років.

Рекрутери можуть використовувати технології для розширення рекрутингової мережі та зменшення залежності від суб'єктивних думок самих фахівців з персоналу. Ніхар шах, який викладає машинне навчання в Університеті Карнегі-Меллона, каже, що ще багато роботи. «До того, як забезпечити справедливість алгоритму, як забезпечити його справді інтерпретацію та пояснення, ще досить далеко», Говорить експерт.

Незважаючи на це, деякі компанії роблять ставку на те, щоб скористатися перевагами ШІ для найму. Наприклад, LinkedIn пропонує компаніям, які шукають кандидатів, алгоритмічний рейтинг заявників на основі відповідності їхнього профілю пропозиції.

Тим не менше, Джон Джерсін, Віце-президент LinkedIn Talent Solutions гарантував, що послуга не замінить традиційних рекрутерів. "Звичайно, ви не повинні довіряти будь-якій системі ШІ наосліп і приймати рішення про найм чи ні самостійно, оскільки технологія ще не готова", - сказав Йерсін Reuters.