Нови правила забраняват приложения на AI, които застрашават правата на гражданите

Европейският парламент одобри регламент, наречен Закон за изкуствения интелект, който има за цел да гарантира, че бързо променящата се технология остава безопасна и в съответствие с основните права на човека, но също така стимулира иновациите.

Регламентът, договорен в преговорите с държавите членки през декември миналата година, беше одобрен от евродепутатите с 523 гласа "за", 46 гласа "против" и 49 гласа "въздържал се", се казва в съобщение за пресата на уебсайта на парламента.

"Европа СЕГА е световен стандартизатор в областта на изкуствения интелект", написа в X (по-рано Twitter) Тиери Бретон, европейски комисар по вътрешния пазар.

Според доклада законодателството разделя технологията на категории риск, вариращи от "неприемливи" - което би довело до забрана на определени приложения - до висока, средна и ниска опасност.

Новите правила забраняват определени приложения на изкуствения интелект, които застрашават правата на гражданите, като например биометрични системи за категоризация, базирани на чувствителни характеристики и нецеленасочено извличане на лицеви изображения от интернет или кадри от видеонаблюдение, за да се създадат бази данни за разпознаване на лица. Разпознаването на емоции на работните места и в училищата, социалното оценяване, прогнозната полицейска дейност (когато се основава единствено на профилиране на човек или оценка на неговите характеристики) и AI, който манипулира човешкото поведение или експлоатира уязвимостта на хората, също ще бъдат забранени.

Законът за изкуствения интелект също така забранява по принцип използването на биометрични системи за идентификация от правоприлагащите органи, освен в изчерпателно изброени и тясно определени ситуации. "В реално време" RBI може да бъде внедрена само ако са изпълнени строги предпазни мерки.

"Най-накрая имаме първия в света обвързващ закон за изкуствения интелект, за да намалим рисковете, да създадем възможности, да се борим с дискриминацията и да внесем прозрачност", заяви съдокладчикът на комисията по вътрешен пазар Брандо Бенифей по време на пленарния дебат във вторник. Той подчерта, че неприемливите практики на ИИ вече ще бъдат забранени в ЕС и правата на работниците и гражданите ще бъдат защитени.

Очаква се регламентът да влезе в сила в края на законодателния орган през май, след като премине окончателните проверки и получи одобрение от Европейския съвет.

Законът на ЕС за изкуствения интелект идва на фона на нарастващите глобални опасения относно потенциала за злоупотреба с технологията, включително възможността за "дълбоки фалшификати" или такива форми на изкуствен интелект, които генерират фалшиви събития, включително снимки и видеоклипове. Някои страни, включително Китай и Индия, издават насоки за регулиране на ИИ. Някои градове и щати в САЩ също приеха законодателство, ограничаващо използването на технологията в определени области като полицейски разследвания и наемане.