La Llei europea d'IA va introduir canvis importants el 2 de febrer de 2025, que van il·legalitzar certes pràctiques d'IA a tota la UE. Les empreses neerlandeses ara han de complir normes estrictes sobre quins sistemes d'IA poden utilitzar.
Les empreses que no eliminin les eines d'IA prohibides s'enfronten a fortes multes i a possibles accions legals per part de qualsevol persona que pateixi danys.
A partir del febrer de 2025, els sistemes d'IA que manipulen persones, utilitzen puntuacions socials, categoritzen individus basant-se en dades biomètriques o utilitzen el reconeixement facial en temps real en espais públics estan prohibits als Països Baixos. Aquestes prohibicions també inclouen la tecnologia de reconeixement d'emocions en llocs de treball i escoles, juntament amb la recopilació no dirigida d'imatges facials d'Internet per crear bases de dades de reconeixement.
Les normes s'apliquen immediatament, sense donar a les empreses cap període de gràcia per eliminar gradualment aquests sistemes. Entendre quines pràctiques d'IA estan prohibides i quins passos ha de prendre la vostra organització és essencial per evitar sancions.
Aquesta guia explica les prohibicions específiques, descriu els vostres deures de compliment com a empresa neerlandesa i cobreix els requisits de formació necessaris per mantenir les vostres operacions legals segons la nova llei.
Resum de les prohibicions del febrer de 2025
El Reglament (UE) 2024/1689, conegut com la Llei d'IA de la UE , va introduir prohibicions específiques sobre determinades pràctiques d'intel·ligència artificial que van entrar en vigor el 2 de febrer de 2025. Aquestes normes s'apliquen a la vostra empresa neerlandesa si desenvolupeu, implementeu o utilitzeu sistemes d'IA dins dels Països Baixos o dins de la Unió Europea en general.
Àmbit de les pràctiques prohibides d'IA
La Llei d'IA prohibeix pràctiques específiques d'IA que representen riscos inacceptables per als drets fonamentals i els valors europeus. L'article 5 del Reglament (UE) 2024/1689 identifica aquestes pràctiques prohibides en funció del seu dany potencial en lloc de la tecnologia en si.
Les principals categories prohibides inclouen:
- Sistemes d'IA manipulatius que exploten les vulnerabilitats de grups específics
- Sistemes de puntuació social per les autoritats públiques
- Identificació biomètrica remota en temps real en espais d'accés públic per a llei aplicació (amb excepcions limitades)
- Sistemes de categorització biomètrica que infereixen atributs sensibles
- Raspament no dirigit d'imatges facials d'Internet o imatges de CCTV
El vostre negoci està subjecte a aquestes prohibicions, tant si opereu com a proveïdor, implementador o distribuïdor d'IA als Països Baixos. L'Autoritat de Protecció de Dades dels Països Baixos treballa juntament amb altres organismes de la Unió Europea encarregats de fer complir la normativa per garantir el compliment de la normativa.
L'incompliment comporta multes de fins al 7% de la facturació anual mundial.
Dates d'entrada en vigor i períodes de transició
Les prohibicions de l'article 5 van entrar en vigor el 2 de febrer de 2025. Això significa que la vostra empresa ha de complir aquestes normes immediatament si utilitzeu o desenvolupeu sistemes d'IA pertinents.
El marc d'aplicació segueix un calendari esglaonat. Les sancions completes, les estructures de governança i les disposicions de confidencialitat entren en vigor a partir del 2 d'agost de 2025.
Això dóna a la vostra organització un període de sis mesos en què les normes s'apliquen, però encara s'estan establint els mecanismes complets d'aplicació. La Comissió Europea va publicar les directrius oficials el 4 de febrer de 2025 per aclarir com funcionen aquestes prohibicions a la pràctica.
Les autoritats de vigilància del mercat, inclosa l'Autoritat de Protecció de Dades dels Països Baixos, van adquirir la responsabilitat de supervisar i fer complir aquestes normes a partir de la data d'inici del febrer.
Definicions clau: Sistemes i pràctiques d'IA
Segons la Llei d'IA, un sistema d'IA significa programari que utilitza l'aprenentatge automàtic, enfocaments basats en la lògica o mètodes estadístics per generar resultats com ara prediccions, recomanacions o decisions. Aquesta definició és deliberadament àmplia per incloure les tecnologies actuals i emergents.
Una pràctica prohibida d'IA fa referència a maneres específiques de desplegar o utilitzar la intel·ligència artificial que la Unió Europea ha considerat inacceptables. La prohibició s'aplica a la pràctica en si mateixa, no a la tecnologia subjacent.
Això significa que podríeu utilitzar el mateix sistema d'IA per a finalitats permeses mentre teniu prohibit l'accés a certes aplicacions. La vostra empresa ha de distingir entre el sistema d'IA (la tecnologia) i la seva pràctica (com l'utilitzeu).
Un sistema d'IA per al reconeixement facial podria ser legal per al control d'accés a edificis, però prohibit per a la vigilància en temps real en espais públics. El context i l'aplicació determinen la legalitat segons el Reglament (UE) 2024/1689.
Llista detallada de pràctiques d'IA prohibides
La Llei d'IA de la UE prohibeix aplicacions específiques d'IA que representen riscos inacceptables per als drets fonamentals i la seguretat. Aquestes pràctiques prohibides es divideixen en tres categories principals: sistemes que manipulen el comportament humà, els que exploten els grups vulnerables i els mecanismes que permeten la vigilància massiva mitjançant la puntuació social.
Sistemes manipulatius i enganyosos
La Llei d'IA prohibeix qualsevol sistema d'IA que utilitzi tècniques subliminals per distorsionar materialment el comportament humà de manera que causi danys. Aquests són mètodes que funcionen més enllà de la teva consciència per influir en les teves decisions o accions.
Les pràctiques manipulatives prohibides inclouen:
- Sistemes d'IA que despleguen components subliminals que no pots detectar
- Sistemes dissenyats per explotar les vulnerabilitats relacionades amb l'edat en els infants
- Tecnologies que manipulen el comportament per causar danys físics o psicològics
No podeu utilitzar la IA per enganyar deliberadament la gent de maneres que causin danys importants . Això significa que la vostra empresa no pot implementar chatbots o assistents virtuals que enganyin els usuaris sobre la seva naturalesa d'IA quan aquest engany podria causar danys.
La prohibició s'estén als sistemes d'IA que utilitzen patrons foscos o manipulació psicològica per empènyer els usuaris cap a decisions nocives. La llei protegeix les persones de les pràctiques d'IA que eviten la presa de decisions racional.
Si el vostre sistema d'IA influeix en el comportament mitjançant manipulació oculta en lloc d'informació transparent, infringeix la Llei.
Explotació de persones vulnerables
Els sistemes d'IA que exploten vulnerabilitats relacionades amb l'edat, la discapacitat o les circumstàncies socials o econòmiques estan estrictament prohibits. No es pot utilitzar la IA per aprofitar-se de persones que no tenen la capacitat d'entendre o resistir la manipulació.
Aquesta prohibició cobreix la IA que té com a objectiu la inexperiència dels nens o el deteriorament cognitiu de les persones grans. La vostra empresa no pot implementar sistemes que aprofitin les discapacitats físiques o mentals per manipular el comportament.
La IA que s'aprofita de la desesperació econòmica o l'aïllament social també entra dins d'aquesta prohibició.
Els grups vulnerables protegits inclouen:
- Nens i menors
- Persones grans amb deteriorament cognitiu
- Persones amb discapacitats físiques o mentals
- Persones amb dificultats econòmiques
La prohibició s'aplica quan el vostre sistema d'IA causa o és probable que causi danys importants a través de l'explotació. Heu d'avaluar si les vostres aplicacions d'IA podrien dirigir-se injustament a poblacions vulnerables.
Puntuació social i perfilació del comportament
La Llei d'IA prohibeix els sistemes d'IA que avaluen o classifiquen les persones en funció del seu comportament social o de les seves característiques personals. No es poden utilitzar mecanismes de puntuació social que comportin un tracte injust o danys.
La puntuació social implica avaluar els individus en funció de la seva conducta, relacions o comportament previst. Això crea perfils que determinen l'accés a serveis, oportunitats o drets.
Les activitats de puntuació social prohibides inclouen:
- Classificació dels ciutadans en funció del seu comportament social o professional
- Creació de puntuacions de fiabilitat a partir de dades personals
- Predicció de comportaments criminals basats en la creació de perfils
- Denegació de serveis basant-se en avaluacions de comportament
No es poden implementar sistemes d'IA que assignin puntuacions per determinar si algú rep atenció mèdica, educació, feina o serveis financers. La prohibició s'aplica independentment de si opereu aquests sistemes com a autoritat pública o com a empresa privada.
La identificació biomètrica remota en temps real en espais públics també està subjecta a prohibicions estrictes, amb excepcions limitades per a les forces de l'ordre.
Prohibicions sobre biometria, reconeixement facial i IA emocional
La Llei d'IA de la UE prohibeix diversos tipus de sistemes biomètrics i de reconeixement facial que representen riscos per als drets fonamentals . Aquestes prohibicions afecten la manera com les empreses neerlandeses poden utilitzar dades biomètriques , bases de dades de reconeixement facial, eines de reconeixement d'emocions i sistemes d'identificació en temps real en espais públics.
Categorització biomètrica i ús de dades
No podeu utilitzar sistemes d'IA que classifiquen les persones en funció de les seves dades biomètriques per inferir la seva raça, opinions polítiques, afiliació sindical, creences religioses o orientació sexual. Aquesta prohibició s'aplica quan poseu aquests sistemes al mercat, els poseu en servei o els utilitzeu per a aquest propòsit específic.
La prohibició té com a objectiu els sistemes que fan inferències sensibles sobre individus mitjançant anàlisis biomètriques. La vostra empresa s'enfronta a multes de fins al 7% de la facturació anual mundial per incompliment.
Hi ha una excepció a aquesta regla. Podeu etiquetar o filtrar conjunts de dades biomètriques adquirits legalment, com ara imatges, basant-vos en dades biomètriques en contextos d'aplicació de la llei.
Fora de les forces de l'ordre, aquestes pràctiques de categorització romanen completament prohibides.
Restriccions a les tecnologies de reconeixement facial
No podeu crear ni ampliar bases de dades de reconeixement facial mitjançant l'extracció no específica d'imatges facials d'Internet o imatges de CCTV. Aquesta prohibició va entrar en vigor el 2 de febrer de 2025.
Perquè aquesta prohibició s'apliqui, cal que es compleixin quatre condicions:
- La pràctica implica la col·locació, el manteniment o l'ús d'un sistema d'IA
- L'objectiu és crear o ampliar bases de dades de reconeixement facial
- El mètode utilitza el raspat no dirigit d'imatges facials
- Les fonts de dades són Internet o les imatges de CCTV
La paraula clau és «no dirigit». No es poden recopilar imatges facials de manera àmplia i indiscriminada.
Això vol dir que no podeu desplegar càmeres en supermercats o zones públiques que rastregin automàticament les cares per crear bases de dades de reconeixement sense criteris de segmentació específics.
Reconeixement d'emocions en l'ocupació i l'educació
No es poden utilitzar sistemes d'IA per inferir les emocions de les persones en llocs de treball ni en institucions educatives. Aquesta prohibició afecta directament els departaments de recursos humans, les escoles i els centres de formació que podrien considerar eines de detecció d'emocions.
La prohibició cobreix qualsevol sistema d'IA dissenyat per llegir o interpretar estats emocionals en aquests entorns específics. Tant si utilitzeu anàlisi facial, reconeixement de patrons de veu o altres indicadors biomètrics no fa cap diferència.
Hi ha una excepció estreta. Podeu utilitzar la IA de reconeixement d'emocions si serveix per a finalitats mèdiques o de seguretat.
Per exemple, el control de l'alerta del conductor per motius de seguretat o la detecció de patiment d'un pacient en entorns sanitaris pot qualificar sota aquesta excepció.
Limitacions de la identificació biomètrica remota
No es poden utilitzar sistemes d'identificació biomètrica remota en temps real en espais d'accés públic amb finalitats policials, excepte en circumstàncies estrictament definides. Aquestes excepcions inclouen la cerca de víctimes de segrest o tràfic de persones, la prevenció d'amenaces imminents a la vida o atacs terroristes i la localització de sospitosos de delictes greus castigats amb almenys quatre anys de presó.
Cada ús requereix l'autorització prèvia d'una autoritat judicial o d'un òrgan administratiu independent. En situacions d'urgència, podeu començar a utilitzar-lo sense autorització, però heu de sol·licitar l'aprovació en un termini de 24 hores.
Si les autoritats rebutgen l'autorització, heu de deixar d'utilitzar el sistema immediatament i suprimir totes les dades. Els Països Baixos poden establir les seves pròpies normes detallades per a aquestes excepcions dins de la legislació nacional.
La vostra empresa ha de notificar cada ús a l'autoritat de vigilància del mercat pertinent i a l'autoritat nacional de protecció de dades. Els estats membres presenten informes anuals sobre l'ús de la identificació biomètrica remota en temps real a la Comissió Europea.
Obligacions de compliment per a les empreses neerlandeses
Les empreses neerlandeses han de prendre mesures concretes per aconseguir el compliment de la normativa d'IA identificant els sistemes prohibits, eliminant-los de les operacions i mantenint la documentació adequada. L' Autoritat de Protecció de Dades dels Països Baixos (DPA) i l'Autoritat Neerlandesa per a la Infraestructura Digital faran complir aquests requisits amb sancions importants per les infraccions.
Identificació de la IA prohibida dins de les operacions
Cal que realitzeu avaluacions de riscos exhaustives a tota la vostra organització per localitzar sistemes d'IA que puguin infringir les noves normes. Això significa examinar qualsevol tecnologia que utilitzi tècniques de manipulació, exploti vulnerabilitats, implementi puntuacions socials o faci identificacions biomètriques en temps real en espais públics.
Comença per crear un inventari de tots els sistemes d'IA que s'utilitzen actualment. Documenta què fa cada sistema, com processa les dades i a qui afecta.
Presteu especial atenció als sistemes que interactuen amb clients, empleats o el públic. Les vostres avaluacions de riscos han d'avaluar si algun sistema podria perjudicar els drets fonamentals.
Això inclou comprovar si els sistemes d'IA prenen decisions sobre les persones basant-se en el comportament, les característiques personals o les connexions socials. Els sistemes que rastregen o perfilen individus sense transparència requereixen una revisió immediata.
Treballeu amb els vostres equips tècnics per entendre com funciona cada sistema d'IA. No us podeu basar només en les descripcions dels proveïdors.
L'autoritat de protecció de dades dels països Baixos ha deixat clar que sou responsables del compliment normatiu, independentment de si heu creat el sistema o el heu comprat a un tercer.
Eliminació gradual o eliminació dels sistemes d'IA prohibits
Heu de deixar d'utilitzar pràctiques d'IA prohibides immediatament. La llei no permet cap període de gràcia per als sistemes prohibits.
Si la vostra avaluació de riscos identifica una pràctica prohibida, heu de desactivar-la immediatament. Creeu un pla d'eliminació que abordi tant els impactes tècnics com els operatius.
Alguns sistemes poden estar integrats en plataformes més grans o connectats a diversos processos. Haureu d'assegurar-vos que l'eliminació dels elements prohibits no interrompi les funcions empresarials essencials.
Abans de tancar un sistema, identifiqueu com gestionareu les tasques que realitzava anteriorment. Això pot significar tornar a processos manuals, implementar una tecnologia diferent o redissenyar completament els fluxos de treball.
Documenta cada pas del procés d'eliminació. Registra quan vas descobrir la pràctica prohibida, quines accions vas dur a terme i quan el sistema es va desactivar completament.
Els reguladors esperaran proves clares que vau actuar amb promptitud un cop vau identificar la infracció.
Registre i documentació
Heu de mantenir documentació tècnica que demostri el compliment de les normes de prohibició. Això inclou registres de les vostres avaluacions de riscos, decisions sobre sistemes d'IA i qualsevol canvi que hàgiu fet per aconseguir el compliment.
La vostra documentació ha de cobrir:
- Inventaris del sistema amb descripcions de cada aplicació d'IA
- Informes d'avaluació de riscos mostrant la vostra anàlisi de possibles infraccions
- Registres de retirada detallant quan i com vau desactivar els sistemes prohibits
- Avaluacions d'impacte sobre els drets fonamentals per a qualsevol cas límit
Conserva aquests registres durant almenys cinc anys. L'autoritat policial neerlandesa els pot sol·licitar durant inspeccions o investigacions.
La documentació incompleta o incorrecta pot comportar multes de fins a 7,500,000 € o l'1% de la facturació global anual. La documentació tècnica ha de ser prou detallada perquè els reguladors puguin entendre què fan els vostres sistemes d'IA i per què compleixen la llei.
Les descripcions genèriques o els materials de màrqueting no compleixen aquest requisit. Incloeu-hi les especificacions tècniques, els fluxos de dades i els processos de presa de decisions.
Actualitzeu la documentació sempre que modifiqueu sistemes d'IA o en desplegueu de nous. Necessiteu processos continus per garantir que els sistemes futurs no introdueixin pràctiques prohibides.
Requisits d'alfabetització en IA i formació del personal
A partir del 2 de febrer de 2025, les empreses neerlandeses que proporcionen o implementen sistemes d'IA han de garantir que el seu personal tingui uns coneixements adequats d'IA. Aquesta obligació s'aplica independentment de si utilitzeu sistemes d'IA d'alt o de baix risc.
Els programes de formació documentats s'han d'adaptar a les funcions i els coneixements tècnics dels vostres empleats.
L'obligació d'alfabetització en IA explicada
L'article 4 de la Llei d'IA de la UE imposa l' obligació legal a tots els proveïdors i implementadors d'IA de garantir una alfabetització suficient en IA entre el seu personal. Heu de prendre mesures per garantir que el personal i els contractistes que treballen amb sistemes d'IA entenguin la tecnologia amb què treballen.
L'obligació d'alfabetització en IA cobreix qualsevol persona que operi, utilitzi o prengui decisions sobre sistemes d'IA en nom vostre. Això inclou el personal tècnic que construeix o manté sistemes d'IA, així com els empleats no tècnics que utilitzen eines d'IA en la seva feina diària.
Heu d'adaptar la formació en alfabetització en IA al rol, els coneixements tècnics, l'experiència, l'educació i el context específic de cada persona en què utilitza els sistemes d'IA. Un desenvolupador de programari que implementa models d'IA requereix una formació diferent de la d'un representant d'atenció al client que utilitza chatbots basats en IA.
L'obligació requereix que feu els vostres "millors esforços" per garantir uns nivells d'alfabetització adequats. No podeu simplement oferir formació simbòlica i afirmar que ho feu.
Desenvolupament de programes de formació eficaços
El vostre programa d'alfabetització en IA hauria d'abordar els sistemes d'IA específics que utilitza la vostra organització en lloc de proporcionar informació genèrica. El personal ha d'entendre com funcionen les eines d'IA particulars amb què treballen, les seves limitacions i els riscos potencials.
El contingut de la formació ha de cobrir:
- Conceptes bàsics d'IA rellevants per als vostres sistemes
- Com utilitzar correctament les eines d'IA
- Possibles biaixos i errors en els resultats de la IA
- Quan cal la supervisió humana
- Polítiques i procediments d'IA de la vostra organització
Heu de tenir en compte el nivell de coneixements inicial de cada empleat. El personal tècnic pot necessitar formació avançada sobre el desenvolupament i les proves de models, mentre que els usuaris generals necessiten orientació pràctica sobre la interpretació dels resultats de la IA i el reconeixement de quan els resultats semblen incorrectes.
La impartició de formació pot adoptar diverses formes, com ara tallers, cursos en línia, coaching en el lloc de treball o programes externs. El format importa menys que garantir que el personal adquireixi realment els coneixements i les habilitats necessàries.
Documentació d'activitats d'alfabetització en IA
Heu de mantenir registres de les vostres activitats de formació en alfabetització en IA per demostrar el compliment de la Llei d'IA de la UE. Aquesta documentació serveix com a prova que heu complert les vostres obligacions legals.
Els vostres registres han d'incloure:
- Contingut i materials del programa de formació
- Llistes de treballadors que han completat la formació
- Dates i durada de les sessions de formació
- Resultats de l'avaluació (si escau)
- Com has determinat els nivells d'alfabetització adequats per a diferents rols
Documenteu el vostre procés per identificar les necessitats d'alfabetització en IA a tota la vostra organització. Això inclou com heu avaluat quin personal necessita formació i quins coneixements específics necessiten en funció de la seva interacció amb els sistemes d'IA.
Mantingueu registres de com actualitzeu la formació a mesura que els vostres sistemes d'IA canvien o a mesura que s'incorpora nou personal a la vostra organització. L'alfabetització en IA no és un requisit puntual, sinó una obligació contínua que s'ha d'adaptar a l'ús en evolució de la tecnologia d'IA.
Supervisió, aplicació i sancions
La Llei d'IA de la UE estableix una estructura d'aplicació multinivell amb sancions econòmiques significatives per incompliment. Les empreses neerlandeses s'enfronten a la supervisió de les autoritats nacionals i europees, amb multes que arriben fins al 7% de la facturació anual mundial per pràctiques d'IA prohibides.
Autoritats supervisores neerlandeses i de la UE
L'Autoritat Neerlandesa de Protecció de Dades és el principal organisme nacional de supervisió per a l'aplicació de la Llei d'IA als Països Baixos. Aquesta autoritat treballa juntament amb altres organismes neerlandesos designats per controlar el compliment del reglament.
A nivell europeu, la Comissió Europea supervisa l'aplicació de la Llei d'IA a tots els estats membres. L'Oficina Europea d'IA, establerta dins de la Comissió, coordina les activitats d'aplicació i proporciona assessorament tècnic.
El Comitè Europeu de Protecció de Dades dóna suport a l'aplicació coherent de la Llei, especialment quan els sistemes d'IA impliquen el tractament de dades personals. Aquestes autoritats col·laboren per garantir una aplicació uniforme a tota la Unió Europea.
Si opereu sistemes d'IA en diversos països de la UE, podeu ser sotmesos a l'escrutini dels organismes de supervisió de cada jurisdicció on els vostres sistemes estiguin desplegats o tinguin efecte.
Sancions i responsabilitat civil
Les infraccions de les pràctiques prohibides de l'article 5 comporten sancions de fins a 35 milions d'euros o el 7% de la facturació anual total mundial, el que sigui més alt. Aquestes multes s'apliquen a partir del 2 de febrer de 2025.
El Tribunal de Justícia de la UE (TJUE) té l'autoritat definitiva per interpretar les disposicions de la Llei d'IA. Els tribunals nacionals poden plantejar preguntes al TJUE quan sorgeixin controvèrsies sobre què constitueix una pràctica prohibida.
Més enllà de les multes administratives, podeu afrontar reclamacions de responsabilitat civil per part de particulars o organitzacions perjudicades per sistemes d'IA no conformes. Els estats membres poden establir sancions addicionals en virtut de la seva legislació nacional.
Orientacions d'organismes europeus i nacionals
La Comissió Europea va publicar les directrius sobre les pràctiques prohibides d'IA el 4 de febrer de 2025. Aquests documents expliquen com interpretaran les autoritats les prohibicions de l'article 5 i proporcionen exemples pràctics per al seu compliment.
Tot i que aquestes directrius no són vinculants, ofereixen informació valuosa sobre les prioritats en matèria d'aplicació de la llei. Només el TJUE pot proporcionar interpretacions jurídiques autoritàries.
Les autoritats supervisores neerlandeses poden emetre directrius nacionals addicionals adaptades als contextos empresarials locals. Heu de seguir les actualitzacions dels organismes europeus i neerlandesos a mesura que evolucionen els enfocaments d'aplicació de la normativa.
Les directrius estan disponibles en totes les llengües de la UE per facilitar la comprensió transfronterera.
Preguntes freqüents
La Llei europea d'IA introdueix requisits i restriccions específics que afecten les empreses neerlandeses a partir del febrer de 2025. Aquestes regulacions prohibeixen certes pràctiques d'IA, exigeixen mesures de compliment i estableixen sancions per infraccions.
Quines són les noves regulacions sobre l'ús de la intel·ligència artificial a les empreses neerlandeses a partir del febrer del 2025?
La Llei europea d'IA va entrar en vigor l'1 d'agost de 2024, i el primer conjunt de prohibicions va entrar en vigor el 2 de febrer de 2025. Aquestes regulacions s'apliquen a totes les empreses neerlandeses que desenvolupin, implementin o utilitzen sistemes d'IA dins de la Unió Europea.
La llei prohibeix els sistemes d'IA manipulatius que utilitzen tècniques subliminals per influir en decisions que la gent normalment no prendria. També estan prohibits els sistemes d'IA que exploten vulnerabilitats basades en l'edat, la discapacitat o l'estatus socioeconòmic.
Els sistemes de puntuació social que jutgen els individus en funció del seu comportament social o característiques personals s'enfronten a una prohibició completa. Les regulacions també prohibeixen les avaluacions de riscos basades en la IA que prediuen delictes únicament mitjançant l'anàlisi de perfils o trets de personalitat en lloc de fets relacionats amb l'activitat delictiva.
No es permeten sistemes de categorització biomètrica que dedueixin la raça, les opinions polítiques, l'afiliació sindical, les creences religioses o l'orientació sexual a partir d'imatges facials o empremtes dactilars. La identificació biomètrica remota en temps real en espais públics està prohibida, excepte en situacions estrictament definides amb autorització legal específica.
Com afecten les directrius neerlandeses sobre IA del febrer de 2025 a la privadesa de dades i la protecció dels consumidors?
La Llei d'IA funciona juntament amb les regulacions de protecció de dades existents, inclòs el RGPD. L'Autoritat de Protecció de Dades dels Països Baixos proporciona orientació sobre com els sistemes d'IA han de complir les normes de protecció de dades, especialment pel que fa a la presa de decisions automatitzada.
Es prohibeix l'extracció no específica d'imatges facials d'Internet o de gravacions de càmeres per crear o ampliar bases de dades de reconeixement facial. Aquesta restricció protegeix els drets de privadesa de les persones i impedeix la recopilació no autoritzada de dades biomètriques.
Els sistemes d'IA han de respectar els drets fonamentals al llarg de tot el seu cicle de vida. Les autoritats públiques i les entitats que presten serveis públics han de dur a terme una avaluació d'impacte sobre els drets fonamentals quan utilitzen sistemes d'IA d'alt risc.
Quines activitats basades en la IA ja no poden dur a terme les empreses neerlandeses a causa dels canvis legislatius recents?
La vostra empresa no pot utilitzar sistemes de reconeixement d'emocions en entorns laborals o educatius. Aquests sistemes estan prohibits independentment dels beneficis o casos d'ús que es pretenguin.
No es poden desplegar sistemes d'IA que manipulin les persones mitjançant tècniques subliminals ni explotin les seves vulnerabilitats. Això inclou sistemes que es dirigeixen a individus en funció de la seva discapacitat, estatus social o edat per influir en el seu comportament.
Els sistemes de categorització biomètrica que classifiquen les persones en funció de característiques sensibles estan prohibits. No es pot utilitzar la IA per inferir la raça, les opinions polítiques, les creences religioses o l'orientació sexual d'una persona a partir de les seves dades biomètriques.
Els sistemes de puntuació social estan completament prohibits. No es pot implementar una IA que avaluï o classifiqui les persones en funció del seu comportament social o de les seves característiques personals.
La identificació biomètrica remota en temps real en espais d'accés públic està prohibida per a ús comercial. Les forces de l'ordre només poden utilitzar aquests sistemes en circumstàncies estrictament definides amb l'autorització legal adequada.
Quins passos han de prendre les empreses neerlandeses per alinear els seus sistemes d'IA amb els estàndards de compliment establerts el febrer de 2025?
Heu d'identificar tots els sistemes d'IA que la vostra organització utilitza o implementa actualment. Aquest inventari ha de classificar cada sistema segons les classificacions de risc definides a la Llei d'IA.
Reviseu els vostres sistemes d'IA en relació amb la llista de pràctiques prohibides. Si feu servir algun sistema prohibit, heu d'eliminar-lo immediatament per evitar sancions reglamentàries.
Documenteu els propòsits, les fonts de dades i els processos de presa de decisions dels vostres sistemes d'IA. Aquesta documentació ajuda a demostrar el compliment de les normes i dóna suport a les avaluacions d'impacte necessàries.
Per als sistemes d'IA d'alt risc, calen mesures de compliment addicionals. Les autoritats públiques han de registrar els sistemes d'alt risc a la base de dades europea abans del 2 d'agost de 2026 i dur a terme avaluacions d'impacte sobre els drets fonamentals.
Formeu el vostre personal sobre els nous requisits i establiu processos interns per al seguiment continu del compliment normatiu. El vostre programa de compliment hauria d'incloure revisions periòdiques dels sistemes d'IA per garantir que es mantinguin dins dels límits reglamentaris.
Hi ha alguna prohibició específica del sector sobre la IA que les empreses neerlandeses haurien de conèixer arran de les noves regulacions?
Les organitzacions del sector educatiu s'enfronten a restriccions específiques. No es poden utilitzar sistemes de reconeixement d'emocions per controlar els estudiants ni avaluar els seus estats emocionals, independentment del benefici educatiu previst.
Els entorns laborals tenen limitacions similars. Els empresaris no poden implementar la IA de reconeixement d'emocions per controlar els estats emocionals o les reaccions dels empleats durant les activitats laborals.
Les forces de l'ordre tenen excepcions limitades per als sistemes d'identificació biomètrica. Aquestes excepcions requereixen una autorització legal estricta i només s'apliquen a situacions específiques com ara la cerca de víctimes de segrest, la prevenció d'amenaces imminents o el rastreig de sospitosos de delictes greus.
Les autoritats públiques que presten serveis públics s'enfronten a requisits addicionals més enllà de les prohibicions generals. Heu de dur a terme avaluacions d'impacte sobre els drets fonamentals per a tots els sistemes d'IA d'alt risc i registrar aquests sistemes a la base de dades europea.
Quines són les sancions per l'incompliment de les restriccions neerlandeses sobre la IA introduïdes el febrer de 2025?
Els reguladors poden imposar multes substancials per l'incompliment de la Llei d'IA. L'estructura de sancions segueix un enfocament escalonat basat en la gravetat de la infracció.
L'ús de sistemes d'IA prohibits representa la categoria d'infracció més greu. La vostra organització s'arrisca a patir sancions econòmiques importants si continueu operant sistemes prohibits després de la data límit del febrer del 2025.
Els imports exactes de les sancions depenen de si la vostra organització es qualifica com a petita i mitjana empresa o com a empresa més gran. Les autoritats reguladores tenen en compte factors com la naturalesa de la infracció, la seva durada i qualsevol dany causat.
Més enllà de les sancions econòmiques, l'incompliment pot danyar la reputació de la vostra organització. Les persones perjudicades pels sistemes d'IA prohibits poden emprendre accions compensatòries addicionals a través de procediments civils.
L'Autoritat de Protecció de Dades dels Països Baixos i altres organismes reguladors tenen poders d'aplicació. Poden investigar queixes, dur a terme auditories i exigir el cessament immediat de les pràctiques prohibides.
