La COVID-19 ha absorbido, como es normal y justificable, la mayor parte de la atención de la comunidad de protección de datos en asuntos relacionados con la pandemia, a saber, las aplicaciones de rastreo de contactos. La sentencia del Tribunal de Justicia en el llamado caso Schrems II ha dominado las discusiones este verano. Sin embargo, la Inteligencia Artificial (IA) ocupa un lugar privilegiado entre los temas candentes de protección de datos de 2020.

Aunque la IA está lejos de ser nueva, recientemente se ha convertido en la "corriente principal". Los avances en el hardware y el software de computación y transmisión han allanado el camino a la hora de incorporar los componentes de la IA en muchos productos y servicios para el público en general. Las expectativas de un uso cada vez mayor de la IA y las ventajas económicas conexas para quienes controlan las tecnologías, así como su apetito por los datos, han dado lugar a una feroz competencia por el liderazgo tecnológico. En esta competencia, la Unión Europea se esfuerza por estar a la vanguardia y, al mismo tiempo, mantenerse fiel a sus propios valores e ideales.

Como primer paso hacia un marco reglamentario de la UE para abordar las consecuencias humanas y éticas de la IA, la Comisión Europea inició dos consultas públicas: “A European strategy for data” (la Estrategia de datos) y “White Paper on Artificial Intelligence – A European approach to excellence and trust” (el Libro Blanco de IA).

El EDPS analiza los aspectos más destacados sobre la “European strategy for data” y su opinión sobre el Libro Blanco de la Inteligencia Artificial:

¿Inteligencia artificial? - Sí, pero a la manera europea

La Comisión establece un enfoque europeo de la IA, basado en los valores y derechos fundamentales de la UE, reiterando el cumplimiento de la legislación europea de protección de datos. Es igualmente importante tener un enfoque coherente en toda la Unión: cualquier nuevo marco regulador de la IA debe ser el mismo tanto para los Estados miembros de la UE como para las instituciones, oficinas, órganos y organismos de la UE.

Sin embargo, seamos prudentes. La IA conlleva sus propios riesgos y no es una herramienta inocua y mágica, que curará al mundo de forma inofensiva. Por ejemplo, la rápida adopción de la IA por parte de las administraciones públicas en hospitales, servicios públicos y de transporte, supervisores financieros y otras áreas de interés público se considera "esencial" en el Libro Blanco de la CE, pero creemos que es necesario ser prudentes. La IA, como cualquier otra tecnología, es una mera herramienta, y debe ser diseñada para servir a la humanidad. Los beneficios, cotes y riesgos deben ser considerados por cualquiera que adopte una tecnología, especialmente por las administraciones públicas que procesan grandes cantidades de datos personales.

El aumento de la adopción de la IA no ha ido acompañado (¿todavía?) de una evaluación adecuada de cuál será probablemente el impacto en los individuos y en nuestra sociedad en su conjunto. Piense especialmente en el reconocimiento facial (identificación biométrica a distancia en el Libro Blanco de la CE). Apoyamos la idea de una moratoria del reconocimiento automatizado en espacios públicos en la UE, de los rostros pero también y de manera importante de la marcha, las huellas dactilares, el ADN, la voz, las pulsaciones de teclado y otras señales biométricas o de comportamiento.

No nos apresuremos con la IA, tenemos que aclararlo para que sea justo y que sirva a los individuos y a la sociedad en general.

Una estrategia de datos para Europa

La crisis de la COVID-19 ha dejado clara la importancia de la disponibilidad de datos y la confianza de los ciudadanos. También ha revelado que la protección de los datos personales no es un problema, es parte de la solución. Si los espacios de datos se mantienen fieles a los valores europeos, podrían allanar el camino para una alternativa abierta, justa y democrática al actual modelo de negocio predominante, caracterizado por una concentración de datos sin precedentes en un puñado de actores poderosos. Si se adopta un enfoque equitativo y sostenible, los espacios de datos podrían ser el medio que falta para que las personas puedan compartir sus datos, al tiempo que se benefician de una visión general más transparente del uso múltiple de sus datos.

El contexto en el que se realizó la consulta para la Estrategia de Datos dio un lugar prominente a la función de los datos en cuestiones de interés público, incluida la lucha contra el virus. Esto es bueno y acertado, ya que la Estrategia de Datos se elaboró para que el procesamiento de los datos personales sirva a la humanidad. Existen condiciones en las que ese "procesamiento para el bien público" ya podría tener lugar, y sin las cuales no sería posible la necesaria confianza de los interesados.

Sin embargo, hay un considerable poder de persuasión en los relatos que animan a los individuos a "ofrecer voluntariamente" sus datos para abordar objetivos altamente morales. Conceptos como "Altruismo de datos" o "Donación de datos" y su valor añadido no están del todo claros y es necesario definir y establecer mejor su alcance y posibles propósitos, por ejemplo, en el contexto de la investigación científica en el sector de la salud. El derecho fundamental a la protección de datos personales no puede ser "renunciado" por el individuo en cuestión, ya sea mediante una "donación" o mediante una "venta" de datos personales. El responsable del tratamiento los datos está plenamente obligado a respetar las normas y principios relativos a los datos personales, como la limitación de la finalidad, incluso cuando se trata de datos que han sido "donados", es decir, cuando el individuo ha dado su consentimiento para el tratamiento.

Las estrategias de la Comisión sobre datos e Inteligencia Artificial están bien encaminadas a garantizar un enfoque europeo que se mantenga fiel a nuestros valores.

Será crucial ver cómo se especificarán y se actuará. De acuerdo con nuestra misión institucional, estamos dispuestos a asesorar a la Comisión y al legislador de la UE sobre cómo garantizar que el liderazgo tecnológico no se produzca a costa de socavar los derechos y libertades fundamentales.

Tanto el proyecto de reglamentación de la IA como la estrategia de datos son esfuerzos a largo plazo, y esperamos verlos evolucionar sustancialmente a la luz del flujo de contribuciones que las consultas públicas han recogido. En el marco de la estrategia del EDPS para 2020-2024 "EDPS 2020-2024 Strategy “Shaping a Safer Digital Future: a new Strategy for a new decade”, seguiremos de cerca la evolución de la situación.

Fuente: EPDS