- El Reial decret 817/2023, de 8 de novembre, crea un entorn controlat de proves per assajar el compliment del futur reglament europeu d’intel·ligència artificial.
- Se centra en els sistemes d’alt risc i es desenvolupa amb la Comissió Europea, amb l’objectiu de generar guies pràctiques, sobretot per a pimes.
- És una norma de vigència limitada: permet provar, però no substitueix el reglament europeu, que continua en negociació.
El Butlletí Oficial de l’Estat va publicar el 9 de novembre del 2023 el Reial decret 817/2023, de 8 de novembre, que estableix un entorn controlat de proves —el que en anglès s’anomena sandbox— per assajar el compliment de la proposta de reglament europeu pel qual s’estableixen normes harmonitzades en matèria d’intel·ligència artificial. La norma va entrar en vigor el 10 de novembre. És, segons s’ha presentat, el primer exercici d’aquest tipus a la Unió, i es posa en marxa en col·laboració amb la Comissió Europea.
El reglament europeu d’intel·ligència artificial encara no està aprovat: el Parlament Europeu va fixar la seva posició al juny i les institucions negocien el text final. Mentrestant, el reial decret permet que empreses i administracions provin, en condicions controlades i sota supervisió, com complirien els requisits previstos per als sistemes d’alt risc, i que d’aquesta experiència en surtin guies pràctiques, pensades sobretot per ajudar les pimes.
Què és un entorn de proves
Un sandbox regulatori és un espai en què les empreses poden desenvolupar o provar productes innovadors sota la supervisió de l’autoritat competent, amb certa flexibilitat i orientació, abans de llançar-los al mercat. La finalitat no és rebaixar les exigències, sinó comprovar a la pràctica com es compleixen i quines dificultats sorgeixen. A Espanya ja existeixen entorns similars en l’àmbit financer.
El que crea aquest reial decret es limita a la intel·ligència artificial i als sistemes d’alt risc, és a dir, els que poden afectar de manera significativa la seguretat o els drets de les persones. Segons la proposta de reglament, aquesta categoria inclou usos com la selecció de personal, l’avaluació de la solvència, l’accés a serveis essencials o la gestió d’infraestructures crítiques. Que Espanya s’avanci a la norma europea no altera les obligacions actuals, però sí que permet als qui hi participin conèixer de primera mà com s’interpretaran els requisits.
Què s’exigirà a aquests sistemes
La proposta europea exigeix als proveïdors de sistemes d’alt risc, entre altres coses, un sistema de gestió de riscos, dades d’entrenament de qualitat, documentació tècnica, registre de l’activitat, transparència cap als usuaris, supervisió humana i nivells adequats de precisió i de ciberseguretat. Complir tot això és costós per a una empresa petita, d’aquí l’interès de disposar de guies i exemples.
El text definitiu pot canviar, i la seva aplicació efectiva arribaria anys després de l’aprovació. Per això aquest tipus d’assajos tenen valor: permeten anticipar problemes i reduir la incertesa jurídica, tant per a qui desenvolupa intel·ligència artificial com per a qui l’adquireix o l’usa en la seva activitat.
Què convé revisar
Les empreses que desenvolupen, integren o utilitzen sistemes d’intel·ligència artificial en àmbits sensibles —recursos humans, crèdit, assegurances, salut, educació— poden començar per fer un inventari dels sistemes que empren, identificar quins podrien considerar-se d’alt risc i comprovar quines dades fan servir i quina documentació hi ha. Convé també revisar els contractes amb proveïdors tecnològics, per saber qui respon de què. Documentar des d’ara com funciona cada sistema i qui el supervisa és una bona pràctica amb independència del que digui finalment la norma.
Els qui es plantegin participar en l’entorn de proves hauran de seguir les condicions i les convocatòries que s’estableixin. Per a la resta, es tracta d’un senyal de com es regularà la intel·ligència artificial a la pràctica: amb requisits documentals, supervisió i responsabilitat. Aquesta nota és informació general; per al vostre cas concret, consulteu amb el vostre assessor.
Abans que la llei europea sigui definitiva, ja es pot assajar com complir-la.
Aquest article és informació general. No és assessorament jurídic, fiscal ni d’inversió, i no té en compte les circumstàncies particulars de ningú.
