Desde hace un par de años la Unión Europea prepara una propuesta para regular la inteligencia artificial, una tecnología que está en el centro del debate público y que suscita admiración, interés y también temores.
Pero este lento proceso legislativo de repente se ha acelerado tras la irrupción del modelo de IA generativa de ChatGPT a finales del año pasado, y que, en muy poco tiempo, ha dado la posibilidad a millones de personas en todo el mundo de conocer el alcance de una tecnología que está llamada a revolucionar el mundo.
El objetivo último de la UE con esta ley de inteligencia artificial es evitar lo que pasó con las redes sociales, a las que de entrada nadie prestó atención, pero que luego han supuesto una amenaza seria para derechos fundamentales e incluso para la estabilidad de los sistemas políticos.
Índice de temas
Tramitación de la ley de inteligencia artificial y objetivos
La propuesta de ley de inteligencia artificial que se debate en el seno de la UE (concretamente en sus comisiones de Libertades Civiles y Mercado Interior) finalmente ha recibido el visto bueno del Parlamento Europeo, por mayoría abrumadora. Pero este paso no supone el final del proceso. Después será debatida por el Consejo Europeo y todavía podría sufrir alguna modificación más por parte de la Comisión o la Presidencia del Consejo, que España presidirá en el segundo semestre de 2023.
El borrador de la ley se redactó en tiempo récord (11 días) y partía de un texto previo que data de 2021. Con esta propuesta legislativa, que está recibiendo mucha atención mediática, Bruselas pretende “garantizar que los sistemas de IA sean supervisados por personas, sean seguros, transparentes, rastreables, no discriminatorios y respetuosos con el medio ambiente”.
También Europa buscará “una definición uniforme de IA diseñada para ser tecnológicamente neutral, de modo que pueda aplicarse a los sistemas de IA de hoy y de mañana”. Para evitar que la ley quede obsoleta al poco de aprobarse, los legisladores comunitarios quieren que con ella se regulen los usos, y no tanto las tecnologías que la hacen posible.
¿Qué prohíbe la ley de inteligencia artificial?
La regulación comunitaria establece cuatro niveles de riesgo para un modelo de inteligencia artificial: mínimo, limitado, alto e inaceptable. En el nivel “inaceptable” de riesgo, quedará “estrictamente prohibido” su uso. Un riesgo inaceptable será, por ejemplo, el uso de la IA para manipular cognitivamente a las personas o clasificarlas por su comportamiento.
Con la nueva ley de inteligencia artificial, Europa pretende evitar que los sistemas de IA clasifiquen a los individuos en función de información sensible como el género, la etnia, la religión o la ideología. También se prohibirá la identificación biométrica a distancia, en tiempo real y en espacios públicos. O el uso destinado a reconocer emociones por parte de fuerzas de seguridad o instituciones educativas, por ejemplo.
Asimismo, las fuerzas del orden no podrán aplicar IA para pronosticar nuevos actos ilegales. Entre otras prohibiciones reconocidas por la UE está el del social scoring, que sirve para clasificar a las personas basándose en su compartimiento social, nivel económico o características personales. También se amplía la prohibición de la identificación biométrica a entidades privadas, y no sólo a autoridades públicas.
Comité Europeo de Inteligencia Artificial y sandbox regulatorio
La propuesta legislativa establece que habrá un Comité Europeo de Inteligencia Artificial, y que cada país miembro designará a una autoridad nacional de supervisión, que recibirá las quejas de personas o colectivos que consideren que la IA infringe la ley. Además, habrá una base de datos pública para toda la UE que registrará las aplicaciones de alto riesgo.
Por otro parte, la UE se ha propuesto crear entornos controlados de pruebas (sandbox regulatorios) que testen los sistemas de IA antes de su implantación final. El objetivo siempre será proteger derechos fundamentales como la salud, la seguridad, el medio ambiente, la democracia o el Estado de Derecho. En el retrovisor está otra vez los problemas a los que han dado lugar las redes sociales.
En el verano de 2022, el Gobierno español presentó el primer piloto de sandbox de la UE, financiado con fondos europeos. El piloto contaba con un presupuesto de 4,3 millones de euros, para gastar en tres años. Y hace unas semanas Carmen Artigas, secretaria de Estado de Digitalización e Inteligencia Artificial, aseguraba que este entorno está listo para la puesta en marcha de este entorno experimental y a la espera de sea definitivamente aprobado por el Consejo de Ministros. A partir de ahí, las empresas podrán probarlo voluntariamente.
¿Qué dice la futura ley de ChatGPT?
En la propuesta del Parlamento Europeo no considera modelos de IA generativa como ChatGPT como de “alto riesgo”, pero la UE es consciente de lo imprevisible de su desarrollo e impacto, y pide a sus creadores requerimientos adicionales de transparencia.
Con la legislación europea en la mano, lo más previsible es que tecnologías como ChatGPT deban marcar sus contenidos para que se sepa que han sido generados por una inteligencia artificial. Los legisladores europeos pretenden evitar que estos sistemas generen contenidos ilegales. En cualquier caso, la propuesta de ley no insiste mucho en el espinoso asunto de los derechos de autor o copyright. Y sólo pide a sistemas de IA generativos como ChatGPT publicar resúmenes de datos protegidos que fueron utilizados por el modelo en su entrenamiento, para facilitar que los titulares de esos derechos puedan reclamarlos luego por vías legales.
NOTA: Esta información se irá actualizando a medida que avance el proceso de aprobación de la ley
