В сряда парламентът одобри Закона за изкуствения интелект, който гарантира безопасност и спазване на основните права, като същевременно насърчава иновациите.

Регламентът, договорен в преговори със страните членки през декември 2023 г., беше одобрен от евродепутатите с 523 гласа „за“, 46 „против“ и 49 „въздържал се“.

Тя има за цел да защити основните права, демокрацията, върховенството на закона и устойчивостта на околната среда от високорисков ИИ, като същевременно стимулира иновациите и утвърждава Европа като лидер в тази област. Регламентът установява задължения за ИИ въз основа на неговите потенциални рискове и ниво на въздействие.

Забранени приложения

Новите правила забраняват определени приложения с изкуствен интелект, които застрашават правата на гражданите, включително биометрични системи за категоризиране, базирани на чувствителни характеристики и нецеленасочено изтриване на лицеви изображения от интернет или видеозаписи за създаване на бази данни за разпознаване на лица. Разпознаването на емоции на работното място и в училищата, социалното оценяване, предсказуемата полиция (когато се основава единствено на профилиране на човек или оценка на неговите характеристики) и ИИ, който манипулира човешкото поведение или използва уязвимостта на хората, също ще бъдат забранени.

Изключения от правоприлагащите органи

Използването на биометрични идентификационни системи (RBI) от правоприлагащите органи е принципно забранено, освен в изчерпателно изброени и тясно дефинирани ситуации. RBI „в реално време“ може да бъде разгърнат само ако са спазени строги предпазни мерки, например използването му е ограничено по време и географски обхват и подлежи на специално предварително съдебно или административно разрешение. Такива употреби могат да включват, например, целенасочено търсене на изчезнало лице или предотвратяване на терористична атака. Използването на такива системи постфактум („пост-дистанционен RBI“) се счита за високорисков случай, изискващ съдебно разрешение, свързано с криминално престъпление.

Задължения за високорискови системи

Предвидени са ясни задължения и за други системи с ИИ с висок риск (поради тяхната значителна потенциална вреда за здравето, безопасността, основните права, околната среда, демокрацията и върховенството на закона). Примери за високорискови употреби на ИИ включват критична инфраструктура, образование и професионално обучение, заетост, основни частни и обществени услуги (напр. здравеопазване, банкиране), определени системи в правоприлагането, управление на миграцията и границите, правосъдие и демократични процеси (напр. влияние върху избори) . Такива системи трябва да оценяват и намаляват рисковете, да поддържат регистрационни файлове за употреба, да бъдат прозрачни и точни и да гарантират човешки надзор. Гражданите ще имат право да подават жалби относно системи с изкуствен интелект и да получават обяснения относно решения, базирани на високорискови системи с изкуствен интелект, които засягат техните права.

Изисквания за прозрачност

Системите с изкуствен интелект с общо предназначение (GPAI) и моделите на GPAI, на които се основават, трябва да отговарят на определени изисквания за прозрачност, включително спазване на закона за авторското право на ЕС и публикуване на подробни резюмета на съдържанието, използвано за обучение. По-мощните модели на GPAI, които биха могли да представляват системни рискове, ще бъдат изправени пред допълнителни изисквания, включително извършване на оценки на модела, оценка и смекчаване на системни рискове и докладване на инциденти.

Освен това, изкуствените или манипулирани изображения, аудио или видео съдържание („deepfakes“) трябва да бъдат ясно етикетирани като такива.

Мерки за подкрепа на иновациите и МСП

На национално ниво ще трябва да се създадат регулаторни пясъчни кутии и тестове в реалния свят, които да бъдат достъпни за МСП и стартиращи фирми, за да се разработи и обучи иновативен ИИ преди пускането му на пазара.

Цитати

По време на пленарния дебат във вторник съдокладчикът на комисията по вътрешния пазар Брандо Бенифей (S&D, Италия) каза: „Най-накрая имаме първия в света обвързващ закон за изкуствения интелект, за намаляване на рисковете, създаване на възможности, борба с дискриминацията и осигуряване на прозрачност. Благодарение на парламента неприемливите практики на ИИ ще бъдат забранени в Европа и правата на работниците и гражданите ще бъдат защитени. Службата за изкуствен интелект сега ще бъде създадена, за да подпомага компаниите да започнат да спазват правилата, преди те да влязат в сила. Гарантирахме, че човешките същества и европейските ценности са в самия център на развитието на ИИ”.

Съдокладчикът на Комисията по граждански свободи Драгош Тудораче (Renew, Румъния) каза: „ЕС постигна успех. Свързахме концепцията за изкуствен интелект с основните ценности, които са в основата на нашите общества. Предстои обаче много работа, която надхвърля самия Закон за ИИ. AI ще ни накара да преосмислим социалния договор в основата на нашите демокрации, нашите образователни модели, пазарите на труда и начина, по който водим война. Законът за ИИ е отправна точка за нов модел на управление, изграден около технологиите. Сега трябва да се съсредоточим върху прилагането на този закон на практика”.

Следващи стъпки

Регламентът все още подлежи на последна юрист-лингвистична проверка и се очаква да бъде окончателно приет преди края на законодателния мандат (чрез т.нар. процедура по корекции). Законът също трябва да бъде официално одобрен от Съвета.

Той ще влезе в сила двадесет дни след публикуването му в официалния вестник и ще бъде напълно приложим 24 месеца след влизането му в сила, с изключение на: забрани за забранени практики, които ще се прилагат шест месеца след датата на влизане в сила; кодекси на практика (девет месеца след влизане в сила); правила за ИИ с общо предназначение, включително управление (12 месеца след влизане в сила); и задължения за високорискови системи (36 месеца).

Заден план

Законът за изкуствения интелект отговаря пряко на предложенията на гражданите от Конференцията за бъдещето на Европа (COFE), най-конкретно на предложение 12(10) за повишаване на конкурентоспособността на ЕС в стратегически сектори, предложение 33(5) за безопасно и надеждно общество, включително противодействие на дезинформацията и гарантиране, че хората в крайна сметка контролират, предложение 35 за насърчаване на цифровите иновации, (3) като същевременно се гарантира човешки надзор и (8) надеждно и отговорно използване на ИИ, определяне на предпазни мерки и осигуряване на прозрачност, и предложение 37 (3) за използване AI и цифрови инструменти за подобряване на достъпа на гражданите до информация, включително хора с увреждания.