La Llei d'IA de la UE de 2025: el costat jurídic de la intel·ligència artificial

El panorama legal de la intel·ligència artificial a la UE està sent remodelat per la Llei d'IA de 2025. No es tracta només d'una altra legislació; és el primer marc legal integral del món dissenyat específicament per a la IA. Funciona amb un principi simple: un enfocament basat en el risc. En resum, les normes que un sistema d'IA ha de seguir estan directament relacionades amb el nivell de risc que representa per a la nostra salut, seguretat i drets fonamentals.

Què és la Llei d'IA de la UE? Introducció pràctica

Penseu en la Llei d'IA de la UE com un nou conjunt de lleis de trànsit per a l'era digital. De la mateixa manera que tenim normes diferents per a bicicletes, cotxes i camions pesants, la Llei estableix regulacions clares per a diferents tipus d'intel·ligència artificial. L'objectiu principal no és frenar la innovació, sinó guiar-la per un camí segur, transparent i ètic. Això garanteix que, a mesura que la IA esdevé una part més important de les nostres vides, ho fa d'una manera que protegeix les persones i genera confiança.

Per a qualsevol empresa que operi a la Unió Europea, adaptar-se a aquest marc ja no és una opció, sinó essencial. De la mateixa manera que el Reglament general de protecció de dades (RGPD) es va convertir en la referència mundial per a la privadesa de dades, la Llei d'IA farà el mateix per a la intel·ligència artificial. Podeu llegir més informació sobre els principis de la seguretat de les dades a la nostra guia: https://lawandmore.eu/blog/general-data-protection/.

Per què aquest reglament és important ara

El moment és crucial, especialment per a un mercat com els Països Baixos, que és un dels líders europeus en l'adopció de la IA. A partir del 2025, uns tres milions d'adults neerlandesos utilitzaven eines d'IA cada dia, i un increïble 95% de les organitzacions neerlandeses tenien programes d'IA en funcionament. Aquest ràpid creixement posa de manifest una bretxa important entre la innovació i la supervisió formal, ja que els organismes nacionals de supervisió encara estan en procés de creació.

La llei intervé per omplir aquest buit creant un conjunt únic de normes per a tots els estats membres. Això evita un mercat caòtic on cada país té les seves pròpies lleis d'IA, cosa que només portaria a confusió i frenaria els negocis transfronterers. En canvi, ofereix un entorn legal predictible per a tothom.

Per ajudar a aclarir-ne l'objectiu, aquí teniu un breu resum del que pretén fer la Llei.

Objectius clau de la Llei d'IA de la UE: breu resum

Aquesta taula desglossa els objectius principals de la Llei d'IA de la UE, donant-vos una idea clara de la seva missió.

En establir aquestes normes bàsiques, la Llei ofereix a les empreses un camí clar i fiable a seguir.

La Llei d'IA de la UE està dissenyada per ser un marc de confiança. En establir límits clars per a les aplicacions d'alt risc i exigir transparència, proporciona a les empreses un pla per construir IA en què els clients i els socis poden confiar.

Aquesta regulació proporciona una claredat molt necessària. També val la pena assenyalar que la IA està canviant la mateixa professió jurídica, amb eines per a la revisió de documents legals basats en la IA cada cop més comunes, i aquestes eines també poden estar subjectes a les noves normes. En establir un marc comú, la Llei ajuda a tothom, des de les startups fins a les grans corporacions, a comprendre les seves responsabilitats i a innovar amb confiança. Treu eficaçment la IA d'una fase de desenvolupament no regulat del "salvatge oest" i la situa en un ecosistema estructurat on la seguretat i els drets fonamentals són el primer.

Els quatre nivells de risc de la IA explicats

En essència, l' aspecte legal de la intel·ligència artificial a la UE (Llei d'IA de 2025) adopta un enfocament senzill i basat en el risc. S'assembla molt als sistemes de certificació de seguretat que tenim per als productes d'ús quotidià. Una cadireta de cotxe per a nens, per exemple, ha de complir uns estàndards molt més estrictes que un simple casc de bicicleta perquè el potencial de danys és molt més gran. La Llei d'IA aplica exactament aquesta mateixa lògica a la tecnologia, classificant els sistemes d'IA en quatre nivells diferents en funció dels danys potencials que podrien causar.

Aquesta estructura està dissenyada per ser pràctica. Centra les regulacions més estrictes en les aplicacions més perilloses, alhora que permet que la innovació de baix risc prosperi amb poca interferència. Per a qualsevol empresa, esbrinar a quina categoria pertanyen les vostres eines d'IA és el primer pas, i el més crucial, cap al compliment normatiu. Aquesta classificació ho dictarà tot, des de prohibicions absolutes fins a simples avisos de transparència.

Risc inacceptable: la llista de prohibits

La primera categoria és simple: Risc inacceptable . Es tracta de sistemes d'IA que es consideren una clara amenaça per a la seguretat, els mitjans de subsistència i els drets fonamentals de les persones. La llei no només els regula, sinó que els prohibeix completament del mercat de la UE.

Aquesta prohibició té com a objectiu aplicacions que manipulen el comportament humà per eludir el lliure albir d'una persona o que exploten les vulnerabilitats de grups específics. També prohibeix l'extracció indiscriminada d'imatges facials d'Internet o imatges de CCTV per crear bases de dades de reconeixement facial.

Alguns exemples clàssics de sistemes prohibits inclouen:

• Puntuació social liderada pel govern: Qualsevol sistema utilitzat per les autoritats públiques per classificar les persones en funció del seu comportament social o trets personals, la qual cosa porta a un mal tracte que reben.
• Identificació biomètrica en temps real en espais públics: L'ús d'aquesta tecnologia per a la vigilància massiva està prohibit, amb només excepcions molt estrictes per a llei aplicació en casos penals greus.

Sistemes d'IA d'alt risc: s'apliquen normes estrictes

La categoria d'alt risc és on realment entren en joc la majoria de les normes i obligacions detallades de la Llei d'IA. Es tracta de sistemes que, tot i no estar prohibits, podrien afectar greument la seguretat o els drets fonamentals d'una persona. Si la vostra empresa desenvolupa o utilitza una IA d'aquesta categoria, us enfrontareu a requisits estrictes tant abans com després que surti al mercat.

Aquests sistemes sovint són els que prenen decisions crítiques en àrees sensibles. Una eina d'IA utilitzada per diagnosticar afeccions mèdiques a partir d'exploracions, per exemple, entra en aquesta categoria. També ho fa el programari utilitzat per avaluar l'adequació d'un candidat per a una feina. El potencial de danys (un diagnòstic erroni o una decisió de contractació esbiaixada) és prou significatiu per justificar una supervisió estricta.

Segons la Llei d'IA, els sistemes d'alt risc no només tracten sobre algoritmes complexos. Es tracta de l'impacte real en la vida de les persones, des de la seva salut i educació fins a les seves perspectives laborals i l'accés a la justícia.

Exemples comuns d'IA d'alt risc inclouen:

• Aparells mèdics: Programari d'IA que influeix en les decisions diagnòstiques o terapèutiques.
• Programari de contractació: Eines que filtren currículums o classifiquen els sol·licitants de feina.
• Puntuació de crèdit: Algoritmes que determinen l'elegibilitat per a préstecs o serveis financers.
• Infraestructura crítica: Sistemes que gestionen serveis essencials com ara les xarxes d'aigua o electricitat.

Risc limitat: la transparència és clau

A continuació, hi ha els sistemes d'IA de risc limitat . Amb aquestes aplicacions, la principal preocupació no és el dany directe, sinó el potencial d'engany si els usuaris no s'adonen que estan interactuant amb una IA. L'obligació principal aquí és simplement la transparència.

Heu d'assegurar-vos que els usuaris sàpiguen que estan tractant amb un sistema artificial. Això els permet prendre una decisió informada sobre si volen continuar la interacció.

Un exemple perfecte és un chatbot per a l'atenció al client. L'empresa que l'utilitza ha d'indicar clarament que l'usuari està parlant amb una màquina, no amb una persona. La mateixa regla s'aplica als deepfakes; qualsevol contingut d'àudio, imatge o vídeo generat per IA que mostri persones reals ha de ser etiquetat com a creat artificialment.

Risc mínim: Innovació lliure

Finalment, tenim la categoria que cobrirà la gran majoria dels sistemes d'IA que s'utilitzen avui dia: Risc mínim . Aquestes aplicacions representen poca o cap amenaça per als drets o la seguretat dels ciutadans. Penseu en els filtres de correu brossa basats en IA, els sistemes de gestió d'inventari o els videojocs.

Per a aquests sistemes, la Llei d'IA no imposa noves obligacions legals. Les empreses són lliures de desenvolupar-los i utilitzar-los sense cap obstacle addicional. L'objectiu de la UE aquí és evitar sufocar la innovació, permetent als desenvolupadors crear eines útils i de baix impacte sense quedar encallats en una regulació innecessària. És un enfocament lleuger dissenyat per fomentar l'adopció generalitzada de la IA on sigui segur fer-ho.

Navegant pels requisits del sistema d'IA d'alt risc

Si la vostra empresa desenvolupa o utilitza un sistema d'IA d'alt risc, esteu entrant en el territori més regulat de la Llei d'IA de la UE. Aquí és on el marc legal esdevé més exigent, i amb raó. Les obligacions són estrictes perquè l'impacte potencial en la vida de les persones és significatiu.

Imagineu-vos-ho com posar a punt un vehicle comercial per a la carretera. No n'hi ha prou que funcioni; ha de passar una sèrie d'inspeccions de seguretat rigoroses que ho abasten tot, des del motor fins als frens. La Llei d'IA estableix una llista de comprovació similar per als sistemes d'alt risc, garantint que siguin robustos, transparents i justos abans que puguin operar al mercat de la UE. No són només obstacles burocràtics; són la base mateixa per construir una IA fiable.

Per a qualsevol organització que treballi amb IA d'alt risc, comprendre aquestes obligacions és el primer pas cap a un compliment normatiu satisfactori. Equivocar-se no només comporta multes elevades, sinó que també pot erosionar la confiança dels clients i danyar permanentment la vostra reputació.

Els pilars bàsics del compliment normatiu

La llei descriu diverses obligacions clau que formen l'eix vertebrador de la governança de la IA d'alt risc. Cadascuna està dissenyada per abordar un punt potencial de fallada específic, des de dades esbiaixades fins a la manca de control humà.

El vostre procés de compliment normatiu se centrarà en el domini d'aquests requisits bàsics:

• Sistema de gestió de riscos: Heu d'establir, implementar i mantenir un procés continu de gestió de riscos durant tot el cicle de vida del sistema d'IA. Això implica identificar els possibles riscos per a la salut, la seguretat i els drets fonamentals, i després prendre mesures concretes per mitigar-los.
• Governança i qualitat de les dades: Les dades d'alta qualitat, rellevants i representatives no són negociables. Les dades utilitzades per entrenar el vostre model d'IA s'han de gestionar acuradament per minimitzar els riscos i els biaixos. La vella dita "si entra brossa, surt brossa" ara té greus conseqüències legals.
• Documentació tècnica: Cal que creeu i mantingueu documentació tècnica detallada que demostri que el vostre sistema d'IA compleix amb la Llei. Penseu en això com el vostre fitxer de proves, llest per a la seva inspecció per part de les autoritats nacionals en qualsevol moment.
• Registre i manteniment de registres: El vostre sistema d'IA ha d'estar dissenyat per registrar automàticament els esdeveniments mentre està en funcionament. Aquests registres són crucials per a la traçabilitat i permeten investigacions posteriors a incidents, mostrant què va fer el sistema i quan.
• Transparència i informació a l'usuari: Cal proporcionar als usuaris informació clara i completa sobre les capacitats del sistema d'IA, les seves limitacions i el que està destinat a fer. No es permeten caixes negres.
• Supervisió humana: Això és crític. Heu de dissenyar el vostre sistema de manera que els humans puguin supervisar-ne el funcionament de manera efectiva i, sobretot, intervenir-lo o aturar-lo si cal. Aquesta és la salvaguarda contra les situacions de "l'ordinador diu que no" en què les persones es queden sense recursos.

Aquests pilars no són només suggeriments; són requisits obligatoris. Representen un canvi fonamental cap a la responsabilitat, obligant els desenvolupadors i implementadors a demostrar que els seus sistemes són segurs per disseny, no només per casualitat.

La supervisió humana, un element innegociable

De tots els requisits, la supervisió humana és probablement la salvaguarda més important contra els danys automatitzats. L'objectiu és garantir que un sistema d'IA mai no tingui la paraula final i inqüestionable en una decisió que afecta significativament una persona.

Això significa construir mecanismes reals i funcionals per a la intervenció humana. Per exemple, una IA utilitzada en la contractació que rebutja automàticament el currículum d'un candidat ha de tenir un procés perquè un gestor de recursos humans revisi i anul·li aquesta decisió. Es tracta de mantenir un humà informat, sobretot quan hi ha molt en joc.

El sector públic neerlandès ofereix un cas pràctic convincent sobre la dificultat —i la importància— d'aquestes normes. Segons l'institut de recerca TNO, l'administració pública neerlandesa ha provat més de 260 aplicacions d'IA , però només un 2% s'han ampliat completament. Aquest lent desplegament posa de manifest la dificultat de passar de projectes pilot a solucions a gran escala que compleixin la normativa.

Atès que les autoritats neerlandeses ara exigeixen als organismes públics que garanteixin l'alfabetització i la responsabilitat dels empleats en matèria d'IA, la pressió per implementar una supervisió sòlida és cada cop més gran. Podeu llegir més sobre aquestes troballes i l'oportunitat de la IA per a l'administració electrònica als Països Baixos. Aquest exemple del món real demostra que, fins i tot amb una gran ambició, els obstacles pràctics i legals per als sistemes d'alt risc són substancials.

Comprensió de l'aplicació i la governança

Conèixer les normes de la Llei d'IA de la UE de 2025 és una cosa, però entendre qui les aplica realment és una altra cosa completament diferent. La llei crea un sistema de dos nivells per garantir que les normes s'apliquin de manera coherent a tots els estats membres, evitant un mosaic confús de diferents enfocaments nacionals.

A dalt de tot, hi ha el Consell Europeu d'IA . Aquest consell està format per representants de cada estat membre i actua com a coordinador central. Penseu-hi com l'òrgan que garanteix que tothom llegeixi la mateixa guia, emet orientacions i harmonitza la manera com s'interpreta la Llei.

Per sota del Consell d'IA, cada país ha de nomenar les seves pròpies Autoritats Nacionals de Supervisió . Aquestes són les autoritats sobre el terreny: els organismes locals responsables de l'aplicació directa, la supervisió i la gestió dels problemes de compliment en el seu propi territori. Per a les empreses, aquestes autoritats nacionals seran el seu principal punt de contacte.

Actors clau en la governança de la IA

Aquesta estructura està dissenyada per combinar una coherència d'alt nivell amb l'expertesa pràctica local. Mentre que el Consell Europeu d'IA supervisa el panorama general, són les autoritats nacionals les que gestionaran les realitats quotidianes de la vigilància del mercat.

Els rols clau es divideixen de la següent manera:

• Consell Europeu d'IA: La seva funció principal és proporcionar opinions i recomanacions per garantir que la Llei s'apliqui de la mateixa manera a tot arreu. Actua com a òrgan assessor clau de la Comissió Europea.
• Autoritats nacionals de supervisió: Aquests són els encarregats de fer complir la llei. Tenen la tasca de comprovar si els sistemes d'IA compleixen la llei, investigar qualsevol sospita d'infracció i imposar sancions quan sigui necessari.
• Odiesrgans notificats: Es tracta d'organitzacions independents i externes. Els estats membres les designen per dur a terme avaluacions de conformitat per a sistemes d'IA d'alt risc abans que puguin ser venuts o posats en servei.

Això significa que, tot i que les normes són europees, l'aplicació és local. Per a les empreses dels Països Baixos, això acosta el procés regulador a casa. Tanmateix, l'enfocament neerlandès encara s'està finalitzant. Un informe del novembre de 2024 suggeria un model coordinat, amb l'Autoritat de Protecció de Dades (DPA) neerlandesa prenent el lideratge com a principal "supervisor del mercat" per a la IA d'alt risc. Altres organismes específics del sector supervisarien la IA en camps com l'atenció mèdica i la seguretat dels consumidors. A mitjans de 2025, aquestes autoritats no havien estat nomenades formalment, cosa que creava un període d'incertesa reguladora per a les empreses.

El cost elevat de l'incompliment

La Llei d'IA té un pes considerable. Les sancions econòmiques per equivocar-se són de les més importants de qualsevol regulació tecnològica, cosa que converteix el compliment normatiu en una preocupació de màxima importància per a qualsevol empresa. Les multes són escalonades, basades directament en la gravetat de la infracció.

Les sancions estan dissenyades per ser "efectives, proporcionades i dissuasives", cosa que fa que sigui molt més car ignorar la llei que complir-la.

Això és el que podrien estar afrontant les empreses:

1. Fins a 35 milions d'euros o el 7% de la facturació anual global per utilitzar aplicacions d'IA prohibides o per no complir els requisits de dades per a sistemes d'alt risc.
2. Fins a 15 milions d'euros o el 3% de la facturació anual global per incomplir qualsevol de les altres obligacions que estableix la Llei d'IA.
3. Fins a 7.5 milions d'euros o el 1.5% de la facturació anual global per proporcionar informació incorrecta o enganyosa a les autoritats.

Aquestes xifres mostren fins a quin punt hi ha molt en joc. Per a una petita o mitjana empresa, una penalització d'aquesta magnitud podria ser catastròfica. També obre la porta a disputes legals, un tema que explorem més a fons al nostre article sobre la possibilitat de litigis digitals . En poques paraules, els riscos financers i legals són massa grans per deixar el compliment a l'atzar.

Amb la data límit del 2025 per a la Llei d'IA de la UE a punt d'arribar, simplement entendre la teoria ja no és suficient. És hora de passar del coneixement a la pràctica. Tot i que la preparació per a aquesta important llei pot semblar aclaparadora, podeu dividir-la en una sèrie de passos clars i pràctics.

La clau és plantejar el compliment normatiu no com una càrrega reguladora, sinó com un avantatge estratègic. Si us avanceu, podeu convertir aquests requisits legals en una manera poderosa de construir la confiança profunda i duradora que els clients ara exigeixen. Aquesta mentalitat proactiva us diferenciarà en un mercat on la IA responsable s'està convertint ràpidament en un factor innegociable.

Comença amb un inventari d'IA

No es pot gestionar allò que no s'ha mesurat. El primer que cal fer ha de ser crear un inventari complet de tots els sistemes d'IA que la vostra empresa utilitza, desenvolupa o pensa implementar. Penseu en això com el vostre mapa fonamental, i cal que sigui detallat.

Això va més enllà de simplement enumerar els noms del programari. Per a cada sistema, cal documentar la informació clau per obtenir una imatge clara del seu paper i del seu impacte potencial.

Per a cada eina d'IA de la vostra organització, el vostre inventari hauria de respondre:

• Quina és la seva finalitat? Sigues específic. Automatitza les consultes d'atenció al client o analitza les dades de contractació?
• Qui és el proveïdor? Es tracta d'un producte estàndard d'un tercer o d'alguna cosa que el vostre equip ha creat internament?
• Quines dades utilitza? Identificar els tipus de dades amb què es va entrenar el sistema i què processa en les seves operacions diàries.
• Qui són els usuaris? Anota quins departaments o persones específiques interactuen amb el sistema.

Aquesta auditoria inicial proporciona la claredat que necessitareu per a la fase més important: l'avaluació de riscos.

Realitzar una avaluació exhaustiva de riscos

Un cop tingueu a mà l'inventari d'IA, la següent tasca és classificar cada sistema segons els quatre nivells de risc de la llei. Aquesta és la part més crítica del procés, ja que la vostra classificació determinarà les obligacions legals específiques que la vostra empresa ha de complir.

Posa't el barret d'inspector de seguretat i avalua cada eina segons les definicions de la Llei. Aquest nou chatbot de màrqueting és només una comoditat de Risc Mínim ? O entra dins del Risc Limitat , és a dir, que has de ser transparent sobre el seu ús? I què passa amb el programari de recursos humans que fas servir per seleccionar candidats? Es qualifica com a Alt Risc?

L'objectiu aquí no és només marcar una casella. Es tracta d'obtenir una comprensió profunda i pràctica de com l'ús de la IA podria afectar les persones i identificar exactament on cal centrar els esforços de compliment normatiu.

Aquesta classificació s'ha de fer amb cura. Classificar erròniament un sistema d'alt risc com a mínim podria comportar sancions greus i, igualment perjudicial, una pèrdua completa de la confiança del client.

Realitzar una anàlisi de bretxes

Amb els vostres sistemes d'IA correctament classificats, és hora de fer una anàlisi de bretxes. Aquí és on compareu les vostres pràctiques actuals amb els requisits específics per a cada categoria de risc. Per a qualsevol sistema d'alt risc que hàgiu identificat, aquesta anàlisi ha de ser especialment exhaustiva.

Crea una llista de comprovació basada en les obligacions d'alt risc establertes a la Llei, com ara la governança de dades, la documentació tècnica i la supervisió humana. A continuació, repassa-la punt per punt i fes algunes preguntes sinceres:

• Tenim un sistema formal de gestió de riscos per a aquesta IA en particular?
• La nostra documentació tècnica és prou detallada per resistir una auditoria?
• Hi ha procediments clars i eficaços perquè un ésser humà pugui intervenir i supervisar les seves decisions?

Les llacunes que descobriu configuraran la vostra guia de compliment normatiu. No es tracta de trobar defectes, sinó de crear un pla clar i accionable per aconseguir que la vostra organització s'alineï completament amb els nous estàndards legals.

Reuniu el vostre equip de compliment

Finalment, recordeu que el compliment normatiu no és un esport individual. Per gestionar-ho de manera eficaç, heu de reunir un equip petit i interfuncional. Aquest grup hauria de reunir persones de diferents àmbits de l'empresa, cadascuna amb una perspectiva única.

El vostre equip ideal podria incloure persones de:

• Legal: Per interpretar la lletra petita legal específica.
• Informàtica i Ciència de Dades: Per proporcionar informació tècnica sobre com funcionen realment aquests sistemes d'IA.
• Operacions: Per comprendre l'impacte pràctic i quotidià de l'ús d'aquestes eines.
• Recursos humans: Sobretot si utilitzeu la IA en la contractació o la gestió d'empleats.

Treballant conjuntament, aquest equip pot garantir que el vostre enfocament del compliment normatiu sigui integral i pràctic, convertint el que sembla un repte legal complex en un objectiu empresarial assolible.

El vostre pla d'acció de compliment de la IA

Entendre l'aspecte legal de la intel·ligència artificial a la UE (Llei d'IA de 2025) no es tracta de frenar el progrés. Es tracta de construir innovació en la qual la gent pugui confiar, amb els humans al centre. Com hem vist, la Llei és un marc dissenyat per a un creixement responsable, no un obstacle.

El seu enfocament basat en el risc significa que l'escrutini intens es reserva per a on realment és necessari. Això permet que les aplicacions de baix risc prosperin amb una fricció mínima. Si s'aborda aquesta regulació de manera proactiva, el compliment deixa de ser una feina i es converteix en un avantatge competitiu real, que genera una confiança duradora del client.

El viatge comença ara. Esperar fins que s'acostin els terminis és un joc arriscat. Si comences avui, pots integrar el compliment normatiu en el teu cicle de vida de desenvolupament, convertint-lo en una part natural del teu procés en lloc d'una cursa d'última hora.

El missatge principal de la Llei d'IA és clar: la preparació i la rendició de comptes són els fonaments d'una IA fiable. Si comenceu ara el vostre procés de compliment normatiu, no només compliu un requisit legal; esteu invertint en un futur on la vostra tecnologia es consideri segura, fiable i ètica.

Pensa en els passos pràctics, des de la creació d'un inventari d'IA fins a la realització d'una anàlisi de bretxes, com la teva guia. Fes-los servir per avançar-te i convertir aquest canvi legal en una oportunitat estratègica. Per a una comprensió més profunda del marc més ampli en què això encaixa, et pot ser útil la nostra guia sobre compliment legal i gestió de riscos.

És hora de començar la vostra avaluació, reunir el vostre equip i entrar amb confiança en el futur de la IA regulada.

Preguntes freqüents

Pel que fa a les noves normes de la UE sobre intel·ligència artificial, sorgeixen moltes preguntes pràctiques per a les empreses. Abordem algunes de les preguntes més freqüents sobre la Llei d'IA de 2025, des del que es considera "d'alt risc" fins al que significa per a les petites empreses que utilitzen eines de tercers.

Què és un sistema d'IA d'alt risc?

En poques paraules, un sistema d'IA d'alt risc és qualsevol sistema que pugui representar una amenaça greu per a la salut, la seguretat o els drets fonamentals d'una persona. La llei estableix diverses categories específiques, com ara la IA utilitzada en infraestructures crítiques com el transport, en dispositius mèdics i en sistemes de contractació o gestió d'empleats.

Per exemple, un algoritme que selecciona currículums per preseleccionar candidats per a una entrevista de treball es considera d'alt risc . Per què? Perquè les seves decisions poden tenir un gran impacte en la carrera professional i la subsistència d'una persona. Sistemes com aquests hauran de superar avaluacions de conformitat estrictes abans que puguin ser comercialitzats per la UE.

La Llei d'IA afecta la meva petita empresa si només utilitzo eines d'IA d'altres empreses?

Sí, gairebé segur que sí. Les normes de la Llei d'IA no són només per a les grans empreses tecnològiques que construeixen la IA. Mentre que el "proveïdor" (l'empresa que crea la IA) té la càrrega de compliment més pesada, l'"usuari" (és a dir, la teva empresa, quan implementes el sistema) també té responsabilitats clares.

Si feu servir un sistema d'alt risc, sou responsable d'assegurar-vos que funcioni d'acord amb les instruccions del proveïdor, mantenint la supervisió humana i controlant-ne el rendiment. Fins i tot per a quelcom de menor risc, com ara un chatbot d'atenció al client, encara teniu l' obligació de transparència de deixar clar a la gent que estan interactuant amb una IA.

Quins són els primers passos que ha de preparar la meva organització?

El primer pas més important és crear un inventari detallat de tots els sistemes d'IA que la vostra organització utilitza actualment o té previst adoptar. Penseu en aquesta auditoria com la base de tota la vostra estratègia de compliment normatiu.

Per a cada sistema, cal anar més enllà d'enumerar-ne el nom. Cal documentar-ne la finalitat i classificar-lo segons les categories de risc de la Llei d'IA: inacceptable, alt, limitat o mínim.

Un cop hàgiu identificat els sistemes d'alt risc, el següent pas és dur a terme una anàlisi de bretxes. Això implica comparar les vostres pràctiques actuals amb els requisits específics de la Llei per a aspectes com la governança de dades, la documentació tècnica i la supervisió humana. Començar aquest procés ara és absolutament vital, ja que assolir el compliment total és una tasca detallada i que requereix molt de temps.