El pasado mes de diciembre, el Consejo de Ministros eligió A Coruña como sede de la Agencia Española de Supervisión de Inteligencia Artificial  (AESIA), un organismo pionero en Europa, que situará a Galicia como referente tecnológico español, europeo e internacional.

ISMS Forum conversa con el director de la Agencia para la Modernización Tecnológica de la Xunta de Galicia (Amtega), Julián Cerviño, que explica cómo la Administración autonómica ha impulsado la candidatura gallega a esta iniciativa estatal y que ahora será el Ministerio de Asuntos Económicos y Transformación Digital el que se encargue de su desarrollo.

Nuestro interlocutor coincide con otros expertos en que “la IA nos proporciona muchos elementos innovadores”, pero también “en que hay que darse cuenta de que puede generar algunos riesgos asociados. El papel de la Agencia será el de regular esta tecnología, así como velar por un uso ético-viable de la IA, además de fomentar su uso”.

A este respecto, señaló que “es posible que Europa, a nivel de inversión, esté algo rezagada frente a otras potencias como EEUU y China”, pero sí va por delante “en poner en valor una orientación más humanista de la IA”.

Al mismo tiempo, recordó que “en Xunta de Galicia llevamos trabajando en una estrategia gallega de IA desde el 2020. La publicamos en 2021 y ahora hemos iniciado un proceso de revisión para promover el impulso y fomento de este tipo de tecnologías, adaptándola a las necesidades actuales”. En este sentido, asegura que “garantizar una inteligencia artificial ética y fiable es una prioridad para la Xunta de Galicia”.

La puesta en marcha de la AESIA se enmarca en un entorno con cambios normativos importantes como el próximo Reglamento Europeo de Inteligencia Artificial que se ultima o la aprobación de la directiva NIS2 o el Reglamento Dora, este último para empresas más financieras.

Respeto al NIS2, directiva que los países miembros tienen 21 meses para trasponerla, Cerviño comentó que “tiene un calado importante porque pretende crear en los países una estrategia global de ciberseguridad y obligar a las organizaciones a que dichas estrategias y esos procesos sean prioritarios y con responsabilidades para los Consejos de Administración”.

A nivel de ciberseguridad concretó que “estamos participando con Valencia y Cataluña en uno de los proyectos de especialización de RETECH  y que se firmó la semana pasada en León. Esa iniciativa nos va a permitir, por un parte, llegar a ciudadanos y empresas para fomentar el uso responsable de la ciberseguridad y, por otra parte, la ciberseguridad hay que verla como valor añadido que ayudará a fomentar la especialización y creación de empresas de este tipo”.

Cerviño nos aclara que “hay por medio una financiación de, aproximadamente, 19,8 millones de euros que se va a utilizar en los próximos dos años para impulsar la ciberseguridad en Galicia desde estas líneas. También apostaremos por la formación y cualificación. En este sentido, vamos a aprovechar este proyecto para, desde la Consejería de Educación, incluir nuevos cursos en Formación Profesional y másteres para lograr mano de obra cualificada en este ámbito”.

Punta de lanza en la Inteligencia Artificial

El papel de AESIA se va a centrar en la supervisión del desarrollo de la IA en nuestro país “eso hará que tenga relaciones fluidas con otras dos entidades como son INCIBE (Instituto Nacional de Ciberseguridad), en materia de ciberseguridad, y la AEPD (Agencia Española de Protección de Datos, como regulador de protección de datos en España”.

Para Cerviño, es una buena analogía ver la actividad de la AEPD, ya que “su funcionamiento va a ser similar, pero en materia de desarrollo e implementación de la IA. A este respecto es posible que cuando se haga su desarrollo reglamentario se le dote de capacidad sancionadora para aquellas entidades que cometan determinadas infracciones en el uso de estas tecnologías disruptivas”.

En este contexto, recuerda el equilibrio que debe hacerse entre el negocio y la regulación porque “de alguna manera el uso de la IA ayudará a mejorar la calidad de vida de las personas. Habrá que ver la fórmula de no coartar la innovación y el negocio cuando se trabaje en esa parte normativa”.

Para el director de la Amtega “hay que darse cuenta en que este entorno tecnológico no estamos solos, vamos a competir con EEUU, con China y tenemos que buscar ese punto de equilibrio entre regular y proteger. Desde aquí, debemos trabajar también en ayudar a fomentar la innovación y el desarrollo económico”.

En la actualidad, el Ministerio de Asuntos Económicos y Transformación Digital trabaja en la constitución de la AESIA y en su estructura normativa, “que tendrá en cuenta el próximo Reglamento Europeo de la IA, que está a punto de entrar en vigor”.

En este contexto, Julián Cerviño explica que en la Xunta de Galicia “vamos a establecer una autorregulación para los sistemas de IA. Se trata de tener unos códigos de conducta que nos permita valorar los casos de uso, para  que estén alineados con una IA ética y confiable. Al mismo tiempo, elaboraremos una Guía de Adquisición de tecnología”.

Sobre los riesgos relacionados con la implementación de la IA, el director de la Agencia autonómica gallega destaca que “desde el uso que haga cualquier Administración siempre tiene que haber una intervención humana que verifique que las actuaciones son las apropiadas”.

En este sentido, Cerviño es consciente de que “aquellos proyectos que se pongan en marcha sobre IA no perpetúen sesgos que puedan surgir en los datos, ni sesgos de los propios programadores” y garantizar que “las   actuaciones estén bien orientadas para los ciudadanos”.

Otra cuestión que nos indica es que “hay datos como el sexo, la religión o la etnia que no están permitidos en el desarrollo de la IA. A pesar de eso se pueden introducir otros datos sesgados que produzcan situaciones no deseables. En ese contexto, la AESIA tendrá que velar porque los algoritmos que se utilicen y la forma en la que se apliquen esos algoritmos a los datos garanticen la integridad ética de los resultados en los casos de uso”.