Європарламент ухвалив закон ЄС про штучний інтелект
13 березня 2024 року Європейський парламент схвалив закон про штучний інтелект, який гарантує безпеку та дотримання основних прав людини, одночасно стимулюючи інновації.
523 депутатів проголосували «за» документ, 46 — «проти» і 49 — «утрималися».
Згідно з пресрелізом, закон спрямований на захист фундаментальних прав, демократії, верховенства права та екологічної стійкості від ризикованого ШІ. Одночасно він має стимулювати інновації та затвердити Європу як лідера у цій галузі.
Регламент визначає зобов'язання щодо ШІ, зважаючи на його потенційні ризики та рівень впливу.
Заборони згідно із законом ЄС про ШІ
Нові правила забороняють певні застосування ШІ, які загрожують правам громадян. Зокрема, це стосується системи біометричної категоризації на основі чутливих характеристик і нецільове вилучення зображень облич з інтернету або з камер відеоспостереження для створення баз даних розпізнавання облич.
Також закон заборонить розпізнавання емоцій на робочому місці та у школах, соціальний скоринг та предиктивну поліцію. Обмеження стосуватимуться й ШІ, який маніпулює поведінкою або експлуатує вразливості людей.
Крім цього, закон забороняє правоохоронним органам використовувати системи біометричної ідентифікації (RBI). Проте існують кілька винятків, як-от цілеспрямований пошук зниклої людини або запобігання терористичному акту.
Законодавці наголошують, що використання RBI в режимі реального часу можливе лише за умови дотримання суворих запобіжних заходів та за згоди суду.
Залучення RBI постфактум вважається випадком використання з високим ступенем ризику. Це також вимагає судового дозволу, якщо воно пов'язане з кримінальним злочином.
Зобов’язання для систем високого ризику за законом ЄС про ШІ
Для систем ШІ високого ризику закон передбачає чіткі зобов'язання. До таких зараховують системи, які мають значну потенційну шкоду для здоров'я, безпеки, фундаментальних прав, навколишнього середовища, демократії та верховенства права.
Приклади використання ШІ з високим ступенем ризику:
- критично важлива інфраструктура;
- освіта та професійна підготовка;
- працевлаштування;
- основні приватні та державні послуги (охорона здоров'я, банківські послуги);
- певні системи у правоохоронних органах;
- міграція та управління кордонами;
- правосуддя та демократичні процеси (наприклад, вплив на вибори).
Розробники мають оцінювати та зменшувати ризики, вести журнали використання, бути прозорими та точними, а також забезпечувати людський нагляд.
Громадяни матимуть право подавати скарги на системи штучного інтелекту та отримувати роз'яснення щодо рішень, ухвалених на основі ШІ з високим ступенем ризику, які впливають на їхні права.
Вимоги до прозорості ШІ за законом ЄС
Системи штучного інтелекту загального призначення та моделі, на яких вони базуються, повинні відповідати певним вимогам прозорості. Зокрема, вони мають відповідати законодавству ЄС про авторське право та публікувати докладні зведення про контент, який використовується для навчання.
До більш потужних моделей, які можуть становити системні ризики, висувають додаткові вимоги. Зокрема, вони стосуються проведення оцінювання моделей, оцінки та зменшення системних ризиків, а також звітування про інциденти.
Крім того, штучні або маніпульовані зображення, аудіо- чи відеоконтент (дипфейки) мають бути чітко позначені як такі.
Наступні кроки щодо закону ЄС про ШІ
Закон ЄС про ШІ має пройти остаточний юридично-лінгвістичну перевірку. Очікується, що його остаточно ухвалять до закінчення роботи парламенту.
Закон також має офіційно схвалити Рада ЄС.
Він набуде чинності через 12 днів після опублікування в офіційному віснику. Повне застосування відбудеться через 24 місяці, за винятком:
- заборон на заборонені види діяльності (через шість місяців після дати набуття чинності);
- кодексів практики (через дев'ять місяців);
- загальних правил ШІ, включаючи управління (через 12 місяців);
- зобов'язань щодо систем високого ризику (через 36 місяців).
Раніше SPEKA писала, як нові європейські закони змінюють ІТ-компанії.
