Las tecnología de lnteligencia Artificial (IA) están presentes en nuestras vidas des­de hace ya tiempo. Nos reco­miendan qué canciones escuchar, optimizan procesos producti­vos de nuestra industria, ayudan en diagnóstico clínico, arrojan resultados en nuestas búsquedas de internet, predicen el riesgo de comisión de delitos, traducen automáticamence y, más recientemente, generan contenido en forma de textos, imágenes, vídeo y audios. La lnteligencia Artificial necesita datos; especialmente en el caso del aprendizaje automarico. para entrenar el mo­delo de IA se requieren grandes conjuntos de datos que permitan la detección de patrones y el descubrimiento de co­rrelaciones. Se considera que, en general, para su «aprendizaje» necesita mil veces más datos que un ser humano.

Si los datos utilizados son persona­les, debe cumplirse la normativa de protección de datos y ,en particular, deben respetarse sus principios, que nos obligan a disponer de una base legal adecuada que nos permita tratar los datos, informar sobre lo que queremos hacer con ellos, no desviarnos de esa finalidad, usar los datos mínimos necesa­rios y garantizar una seguridad adecuada.

Recordamos que la normativa de pro­tección de datos vela por que las personas estén protegidas frente a usos de sus datos personales que puedan supo­ner un alto riesgo para sus derechos y libertades .Así, si esta normativa se respetara, una aplicación destinada a des­nudar personas de manera hiperrealista nunca debería salir al mercado, ya que no superaría la evaluación de im­pacto.

Esta normativa también establece sal­vaguardas adicionales cuando se utili­zan datos biométricos, por considerar que su tratamiento puede tener consecuencias perjudiciales (imaginemosuna suplantación de identidad o una iden­tificación no deseada,). Asimismo, regula cuándo y cómo es posible apoyarse en decisiones automatizadas que afec­tan de manera significativa a una persona (por ejemplo, para contratarla o denegarle un crédito) y exige en estos casos infornar sobre la lógica que ha aplicado la decisión automatizada. Por­que si no conocemos cómo se ha llegado a una determinada decisión ¿podría­mos rebatirla?.

Entonces ya disponemos de una normativa como la de protección de datos, que protege a las personas cuando se tratan sus datos personales, especialmente cuando son objeto de decisiones automatizadas (como las que adopta un sistema de Inteligencia Artificial), ¿relamente es necesario regular la IA de manera específica como pretende la Unión Europea?.

La respuesta, en mi opinión, es un sí rotundo.

Cuando nos montamos en un ascensor, adquirimos un juguete, utilizamos una máquma o conducimos un vehícu­lo,  confíamos en que sean seguros y que su utilización no nos cause ningún perjuicio. Esta idea de seguridad y fiabili­dad es precisamente la que subyace en la normaliva de Inteligencia Artificial que está preparando la Unión Europea y que previsiblemente se publicará a principios de año, si bien su aplicación se demorará entre uno y dos años.

Los sislemas de lnteligencia Artificial se destinan a usos muy variados, algunos de los cuales pueden suponer un alto riesgo para la salud, la seguridad o los derechos fundamentales de las per sonas. Pensemos en sistemas de IA capaces de detectar nuestras emociones a través de señales biométriras (expresiones faciales, tono de voz). o que permitan a los tribunales aplicar la ley, o que se utilicen como componente de se­guridad en el funcionamiento de una instalación crítica.

La nueva normativa europea, además de prohibir ciertas prácticas, pretende que los sistemas de IA de alto riesgo estén controlados en todo su ciclo de vida y cumplan ciertos requisitos regulatorios, que garanticen que su funcionamiento sea seguro y no vulnere derechos fundamentales.

A pesar de su bondad. este reglamen­ to .suscita algunas cuestiones. ¿Quién clasifica el sistema como de alto riesgo? ¿Qué ocurre con los sistemas preexistentes a la fecha de aAplicación del regla­mento -que, en principio, no están obligados a cumplirlo-?, ¿De qué recursos humanos y materiales dispondrán las autoridades competentes para aplicar este reglamento en sisemas de IA opacos y cornplejos? ¿Solo podremos controlar y auditar la Inteligencia Artificial con Inteligencia Artificial? ¿Como evitar los usos delictivos de la IA?

Con todo, desde nuestra experiencia asesorando legallmente en proyectos de I+D+i, la innovación y el desarrollo neurológico son posibles dentro de un marco jurídico dotado de flexibilidad, y las or­ganizaciones deben tener presente el futuro marco regulatorio e incorporar, desde el rol que les corresponda, la gestión integral de la Inteligencia Artificial y la gobernanza de datos.

Lucía Arriola

LKS Next LEGAL