Temes com el reconeixement facial, que utilitza tècniques d’intel·ligència artificial (IA), provoquen certs temors entre la ciutadania, temors que comparteixen legisladors i experts en tecnologia.
A la Xina, per exemple, aquesta tecnologia s’utilitza per controlar més estretament la ciutadania, negant-li alguns drets bàsics, i per això posar límit és a acció que activistes de tot el món han demanat, i per la qual cosa la Unió Europea ha proposat un marc regulador comú per als països membres que, en el cas que sigui aprovat, s’establirà a les regulacions nacionals dels diferents estats.
L’enfocament de la UE és el de salvaguardar les llibertats dels ciutadans europeus, al mateix temps que es manté com un territori atractiu per a la recerca i desenvolupament en aquest sector.
Per això, les aplicacions de la IA seran categoritzades en quatre nivells, segons el nivell de risc que impliquin: mínim, limitat, alt, i inacceptable. Les aplicacions que s’estableixen en aquest últim tram són aquelles susceptibles de convertir-se en una amenaça per la seguretat, la integritat i els drets dels ciutadans. No obstant això, els usos militars queden exclosos d’aquest sistema de puntuació.
Els sistemes de reconeixement facial en temps real són considerats com d’alt risc, i quedaran prohibits per al seu ús en zones públiques, encara que amb algunes excepcions subjectes a autorització judicial com, per exemple, casos en els quals se sospiti d’activitat terrorista, o en general per poder seguir i detenir un presumpte criminal acusat d’un delicte greu.
A més, la Comissió Europea actualitzarà el seu Pla Coordinat per a la intel·ligència artificial, de manera que s’alineï amb les prioritats marcades en l’European Green Deal, accelerant les inversions que destinarà a les aplicacions de la IA i que han de servir per dirigir la recuperació econòmica i social dels efectes de la pandèmia.
La nova regulació no només afecta la intel·ligència artificial, sinó també altres aspectes amb els quals està relacionada, com els robots, les impressores 3D, la maquinària de construcció o les línies de producció.
Aquests elements incorporen cada vegada més automatismes i funcionalitats intel·ligents, i l’objectiu de la Comissió Europea és que això garanteixi la seguretat tant dels usuaris, com dels consumidors.
