El Gobierno aprueba un real decreto para ensayar cómo cumplir el futuro reglamento europeo de inteligencia artificial en los sistemas de alto riesgo.
El Boletín Oficial del Estado publicó el 9 de noviembre de 2023 el Real Decreto 817/2023, de 8 de noviembre, que establece un entorno controlado de pruebas —lo que en inglés se llama sandbox— para ensayar el cumplimiento de la propuesta de reglamento europeo por el que se establecen normas armonizadas en materia de inteligencia artificial. La norma entró en vigor el 10 de noviembre. Es, según se ha presentado, el primer ejercicio de este tipo en la Unión, y se pone en marcha en colaboración con la Comisión Europea.
El reglamento europeo de inteligencia artificial aún no está aprobado: el Parlamento Europeo fijó su posición en junio y las instituciones negocian el texto final. Mientras tanto, el real decreto permite que empresas y administraciones prueben, en condiciones controladas y bajo supervisión, cómo cumplirían los requisitos previstos para los sistemas de alto riesgo, y que de esa experiencia salgan guías prácticas, pensadas sobre todo para ayudar a las pymes.
Qué es un entorno de pruebas
Un sandbox regulatorio es un espacio en el que las empresas pueden desarrollar o probar productos innovadores bajo la supervisión de la autoridad competente, con cierta flexibilidad y orientación, antes de lanzarlos al mercado. La finalidad no es rebajar las exigencias, sino comprobar en la práctica cómo se cumplen y qué dificultades surgen. En España ya existen entornos similares en el ámbito financiero.
El que crea este real decreto se limita a la inteligencia artificial y a los sistemas de alto riesgo, es decir, los que pueden afectar de forma significativa a la seguridad o a los derechos de las personas. Según la propuesta de reglamento, esa categoría incluye usos como la selección de personal, la evaluación de la solvencia, el acceso a servicios esenciales o la gestión de infraestructuras críticas. Que España se adelante a la norma europea no altera las obligaciones actuales, pero sí permite a quienes participen conocer de primera mano cómo se interpretarán los requisitos.
Qué se exigirá a esos sistemas
La propuesta europea exige a los proveedores de sistemas de alto riesgo, entre otras cosas, un sistema de gestión de riesgos, datos de entrenamiento de calidad, documentación técnica, registro de la actividad, transparencia hacia los usuarios, supervisión humana y niveles adecuados de precisión y de ciberseguridad. Cumplir todo ello es costoso para una empresa pequeña, de ahí el interés de contar con guías y ejemplos.
El texto definitivo puede cambiar, y su aplicación efectiva llegaría años después de su aprobación. Por eso este tipo de ensayos tienen valor: permiten anticipar problemas y reducir la incertidumbre jurídica, tanto para quien desarrolla inteligencia artificial como para quien la adquiere o la usa en su actividad.
Qué conviene revisar
Las empresas que desarrollan, integran o utilizan sistemas de inteligencia artificial en ámbitos sensibles —recursos humanos, crédito, seguros, salud, educación— pueden empezar por hacer un inventario de los sistemas que emplean, identificar cuáles podrían considerarse de alto riesgo y comprobar qué datos usan y qué documentación existe. Conviene también revisar los contratos con proveedores tecnológicos, para saber quién responde de qué. Documentar desde ahora cómo funciona cada sistema y quién lo supervisa es una buena práctica con independencia de lo que finalmente diga la norma.
Quienes se planteen participar en el entorno de pruebas deberán seguir las condiciones y las convocatorias que se establezcan. Para el resto, se trata de una señal de cómo se va a regular la inteligencia artificial en la práctica: con requisitos documentales, supervisión y responsabilidad. Esta nota es información general; para su caso concreto, consulte con su asesor.
Antes de que la ley europea sea definitiva, ya se puede ensayar cómo cumplirla.
Este artículo es información general. No es asesoramiento jurídico, fiscal ni de inversión, y no tiene en cuenta las circunstancias particulares de nadie.
