Евродепутатите постигнаха политическо споразумение със Съвета по законопроект, за да се гарантира, че ИИ в Европа е безопасен, зачита основните права и демокрацията, докато бизнесът може да процъфтява и да се разширява.

В петък преговарящите от Парламента и Съвета постигнаха временно споразумение относно Закона за изкуствения интелект. Този регламент има за цел да гарантира, че основните права, демокрацията, върховенството на закона и устойчивостта на околната среда са защитени от ИИ с висок риск, като същевременно насърчава иновациите и прави Европа лидер в тази област. Правилата установяват задължения за ИИ въз основа на неговите потенциални рискове и ниво на въздействие.

Забранени приложения

Признавайки потенциалната заплаха за правата на гражданите и демокрацията, породена от някои приложения на ИИ, съзаконодателите се съгласиха да забранят:

биометрични системи за категоризиране, които използват чувствителни характеристики (например политически, религиозни, философски убеждения, сексуална ориентация, раса);

нецеленасочено изтриване на изображения на лица от интернет или видеозаписи за създаване на бази данни за разпознаване на лица;

разпознаване на емоции на работното място и в образователните институции;

социално оценяване въз основа на социално поведение или лични характеристики;

AI системи, които манипулират човешкото поведение, за да заобиколят свободната им воля;

AI, използван за използване на уязвимостите на хората (поради тяхната възраст, увреждане, социално или икономическо положение).

Изключения от правоприлагащите органи

Преговарящите се споразумяха за поредица от предпазни мерки и тесни изключения за използването на биометрични идентификационни системи (RBI) в обществено достъпни пространства за целите на правоприлагането, предмет на предварително съдебно разрешение и за строго определени списъци с престъпления. „Постдистанционният“ RBI ще се използва стриктно при целенасоченото издирване на лице, осъдено или заподозряно в извършване на тежко престъпление.

RBI „в реално време“ ще отговаря на строги условия и използването му ще бъде ограничено във времето и местоположението за целите на:

целенасочени издирвания на жертви (отвличане, трафик, сексуална експлоатация),

предотвратяване на конкретна и настояща терористична заплаха, или

локализирането или идентифицирането на лице, заподозряно в извършване на едно от конкретните престъпления, посочени в регламента (напр. тероризъм, трафик, сексуална експлоатация, убийство, отвличане, изнасилване, въоръжен грабеж, участие в престъпна организация, екологични престъпления).

Задължения за високорискови системи

За системите с ИИ, класифицирани като високорискови (поради тяхната значителна потенциална вреда за здравето, безопасността, основните права, околната среда, демокрацията и върховенството на закона), бяха договорени ясни задължения. Членовете на ЕП успешно успяха да включат задължителна оценка на въздействието върху основните права, наред с други изисквания, приложими също за застрахователния и банковия сектор. Системите с изкуствен интелект, използвани за влияние върху резултата от изборите и поведението на избирателите, също се класифицират като високорискови. Гражданите ще имат право да подават жалби относно системи с изкуствен интелект и да получават обяснения относно решения, базирани на високорискови системи с изкуствен интелект, които засягат техните права.

Предпазни огради за системи с общ изкуствен интелект

За да се отчете широкият набор от задачи, които AI системите могат да изпълнят, и бързото разширяване на техните възможности, беше постигнато съгласие, че AI системите с общо предназначение (GPAI) и моделите GPAI, на които се основават, ще трябва да се придържат към изискванията за прозрачност, тъй като първоначално предложен от парламента. Те включват изготвяне на техническа документация, спазване на закона за авторското право на ЕС и разпространение на подробни резюмета за съдържанието, използвано за обучение.

За моделите на GPAI със силно въздействие със системен риск преговарящите в Парламента успяха да осигурят по-строги задължения. Ако тези модели отговарят на определени критерии, те ще трябва да извършат оценки на модела, да оценят и смекчат системните рискове, да проведат състезателни тестове, да докладват на Комисията за сериозни инциденти, да осигурят киберсигурност и да докладват за тяхната енергийна ефективност. Членовете на ЕП също така настояха, че докато не бъдат публикувани хармонизирани стандарти на ЕС, GPAI със системен риск могат да разчитат на кодекси на практика, за да се съобразят с регламента.

Мерки за подкрепа на иновациите и МСП

Евродепутатите искаха да гарантират, че предприятията, особено малките и средни предприятия, могат да разработват AI решения без ненужен натиск от индустриални гиганти, контролиращи веригата на стойността. За тази цел споразумението насърчава така наречените регулаторни пясъчни кутии и тестове в реалния свят, създадени от националните органи за разработване и обучение на иновативен AI преди пускане на пазара.

Санкции и влизане в сила

Неспазването на правилата може да доведе до глоби, вариращи от 35 милиона евро или 7% от световния оборот до 7,5 милиона евро или 1,5% от оборота, в зависимост от нарушението и размера на компанията.

Цитати

След сделката съдокладчикът Брандо Бенифей (S&D, Италия) каза: „Беше дълго и интензивно, но усилията си заслужаваха. Благодарение на устойчивостта на Европейския парламент, първото хоризонтално законодателство в света относно изкуствения интелект ще спази европейското обещание – гарантирайки, че правата и свободите са в центъра на развитието на тази новаторска технология. Правилното прилагане ще бъде от ключово значение - Парламентът ще продължи да следи отблизо, за да осигури подкрепа за нови бизнес идеи с пясъчни кутии и ефективни правила за най-мощните модели.

Съдокладчикът Драгош Тудораче (Renew, Румъния) каза: „ЕС е първият в света, който въведе стабилна регулация относно ИИ, насочвайки неговото развитие и еволюция в ориентирана към човека посока. Законът за ИИ определя правила за големи, мощни модели на ИИ, като гарантира, че те не представляват системни рискове за Съюза и предлага силни предпазни мерки за нашите граждани и нашите демокрации срещу всякакви злоупотреби с технологии от страна на публичните органи. Той защитава нашите МСП, укрепва капацитета ни да правим иновации и да водим в областта на ИИ и защитава уязвимите сектори на нашата икономика. Европейският съюз има впечатляващ принос към света; Законът за изкуствения интелект е друг, който ще повлияе значително на нашето цифрово бъдеще“.

Пресконференция

Водещите евродепутати Брандо Бенифеи (S&D, Италия) и Драгош Тудораче (Renew, Румъния), държавният секретар по цифровизацията и изкуствения интелект Карме Артигас и комисарят Тиери Бретон проведоха съвместна пресконференция след преговорите. Изявлението на г-н Benifei е достъпно тук , а на г-н Tudorache тук . Още екстракти са достъпни тук.

Следващи стъпки

Договореният текст сега ще трябва да бъде официално приет както от Парламента, така и от Съвета, за да стане закон на ЕС. Комисиите по вътрешен пазар и по граждански свободи на парламента ще гласуват споразумението на предстоящо заседание.