El Consell de Ministres va aprovar el passat 26 de maig el projecte de Llei Orgànica per al bon ús i la governança de la intel·ligència artificial.
Aquesta norma adapta l’ordenament jurídic espanyol al Reglament Europeu d’Intel·ligència Artificial (RIA o AI Act), vigent des de l’agost de 2024.
Com es regulen els sistemes d’IA?
La normativa classifica els sistemes d’intel·ligència artificial en funció del risc potencial que representen per als drets fonamentals de les persones. Prohibeix aquells sistemes que comporten un risc inacceptable per a la seguretat, la salut o els drets fonamentals, i estableix les obligacions que han de complir la resta abans de la seva comercialització o posada en servei al mercat europeu.
Quins sistemes estan prohibits?
A més dels sistemes ja classificats com a prohibits pel Reglament Europeu d’Intel·ligència Artificial, també es prohibeixen aquells que:
- Utilitzin tècniques subliminals o manipuladores.
- Explotin les vulnerabilitats d’una persona o d’un col·lectiu.
- Avaluïn o classifiquin persones mitjançant sistemes de puntuació social (social scoring).
- Avalin el risc que una persona pugui cometre un delicte.
- Creïn o ampliïn bases de dades de reconeixement facial.
- Inferesquin emocions en l’àmbit laboral o educatiu.
- Classifiquin persones mitjançant dades biomètriques segons la raça, les opinions polítiques, les creences religioses o l’orientació sexual.
- Realitzin identificació biomètrica en temps real en espais d’accés públic.
A petició d’Espanya i amb el suport de França, el passat 7 de maig la Unió Europea va acordar incorporar dues noves pràctiques prohibides:
- Els sistemes que generin deepfakes de caràcter sexual.
- Els sistemes que generin pornografia infantil.
Règim sancionador
Les sancions poden arribar fins als 35 milions d’euros o el 7 % del volum de negoci anual en els casos més greus, i fins als 500.000 euros o el 0,5 % del volum de negoci en les infraccions lleus.
L’aplicació de les sancions s’adaptarà a factors com la gravetat de la infracció, la intencionalitat, la reincidència i la dimensió de l’empresa, incorporant mecanismes que prioritzen la correcció abans que la sanció econòmica sempre que sigui possible.
Tanmateix, les mesures previstes per la Llei no es limiten a la imposició de multes. També s’introdueix la possibilitat de retirar o desconnectar del mercat aquells sistemes d’intel·ligència artificial que hagin provocat incidents greus, com ara la mort d’una persona.
Com complir amb la normativa?
La clau per complir la normativa sobre intel·ligència artificial i evitar sancions és el coneixement.
És essencial identificar quins sistemes d’intel·ligència artificial utilitza l’organització, conèixer-ne la finalitat i classificar-los segons el seu nivell de risc (mínim, limitat, alt risc o prohibit). Aquesta classificació permet aplicar les mesures de compliment exigides pel Reglament Europeu d’Intel·ligència Artificial.
A DATAX disposem d’un servei especialitzat en Intel·ligència Artificial dissenyat per acompanyar professionals i organitzacions en la implantació i l’ús segur dels sistemes d’IA, garantint que aquesta tecnologia s’utilitzi com una eina fiable, sota supervisió humana i en ple compliment del Reglament Europeu d’Intel·ligència Artificial.
Realitzem una anàlisi exhaustiva dels sistemes d’intel·ligència artificial per classificar-los segons el seu nivell de risc, definir les mesures de control adequades i ajudar les organitzacions a complir totes les obligacions establertes per l’AI Act, així com les recomanacions de l’Autoritat Espanyola de Supervisió de la Intel·ligència Artificial.
