Відповідь
Так, фізичні особи не повинні підлягати рішенню, яке ґрунтується виключно на автоматизованій обробці (наприклад, алгоритми) і яка є юридично обов’язковою або має значний вплив на них.
Вважається, що рішення має юридичну силу, коли це зачіпає юридичні права або правовий статус особи (наприклад, її право голосу). Крім того, обробка може мати значний вплив на людину, якщо це впливає на її особисті обставини, поведінку або вибір (наприклад, автоматична обробка може призвести до відхилення заявки на позику в Інтернеті).
Використання автоматизованого прийняття рішень дозволено лише в наступних випадках:
- необхідне рішення на основі алгоритму (тобто не існує іншого способу досягнення тієї ж мети) для укладення або виконання контракту з фізичною особою, дані якої ваша компанія/організація обробила за допомогою алгоритму (наприклад, заявка на позику в Інтернеті);
- конкретне законодавство ЄС або національне законодавство дозволяє використовувати алгоритми та забезпечує відповідні гарантії захисту прав, свобод та законних інтересів особи (наприклад, правила щодо запобігання ухиленню від сплати податків);
- особа дала свою явну згоду на рішення на основі алгоритму.
Однак, коли приймається рішення, права, свободи та законні інтереси особи повинні бути захищені шляхом вжиття відповідних захисних заходів. За винятком випадків, коли таке рішення ґрунтується на законі, особа повинна бути поінформована щонайменше про (i) процедуру, яка використовується в процесі прийняття рішень, (ii) її право на втручання людини, (iii) про можливі наслідки обробка та (iv) його право заперечувати проти рішення. Тому ваша компанія/організація повинна вжити необхідних процедурних заходів, щоб дозволити особі висловити свою думку та заперечити проти рішення.
Нарешті, слід подбати про особливу обережність, щоб алгоритм використовував спеціальні категорії персональних даних: автоматичне прийняття рішень дозволяється лише за таких обставин:
- особа дала свою або її явну згоду, або
- обробка необхідна з причин вищого суспільного інтересу відповідно до законодавства ЄС або національного законодавства.
Крім того, якщо особа є дитиною, слід уникати рішень, що приймаються виключно на основі автоматизованої обробки, що виробляє юридичні наслідки або наслідки подібного значення, оскільки діти представляють більш вразливу групу в суспільстві.
Приклад
Ваша компанія/організація - це Інтернет-банк, який пропонує позики. Клієнти вводять свої дані, і алгоритм генерує результати щодо того, надавати клієнту позику чи ні, та пропонованої процентної ставки. Ваша компанія/організація повинна переглянути рішення перед тим, як поспілкуватися з потенційним клієнтом, та повідомити їх, що вона може висловити свою думку та, за необхідності, заперечити проти рішення, маючи на увазі, що особа має право не підлягати прийняттю рішення на алгоритмах.