Una jornada destinada a ser referente, la que se celebró el pasado jueves en el Espacio KOI de Madrid, organizada por ISMS Forum y su Grupo de Inteligencia Artificial (GIA) y donde se analizó el fenómeno de la IA, tecnología disruptiva emergente, que las empresas utilizan para ser más eficientes y que ahora está sometida a la recién aprobada AI Act, reglamento ya en vigor que marca unas exigencias de cumplimiento importantes.  

Según palabras de Carlos Sáiz, vicepresidente de ISMS Forum y moderador de una mesa redonda sobre gobernanza y ética en materia de IA “hemos logrado interesar a nuestros asistentes desde el primer debate hasta el final, con ponencias de plena actualidad”. 

Carlos Saiz, Vice Chairman de ISMS Forum; Director del Data Privacy Institute; y Partner y Head of Privacy, Risk & Compliance en Ecix Group, junto a Carlos Manchado, CISO Acciona, Trina de Miguel, Directora de Riesgos Tecnológicos en Seguridad Digital; Bankinter, Rafael Hernández, CISO Cepsa; Board Manager ISMS Forum, Edwin Blom, CISO FCC; Board Manager ISMS Forum

Desde su punto de vista “todos los temas estaban bien enfocados con dos maestros de ceremonias como son los impulsores de este GIA, creado en ISMS Forum de la mano de  Angel Perez  CISO, Autopistas; Co-Director del Grupo de Inteligencia Artificial, ISMS Forum y Francisco Lázaro CISO y DPO, Renfe; Co-Director del Grupo de Inteligencia Artificial & Board Member, ISMS Forum. Ellos nos explicaron el origen de este Grupo y los distintos trabajos que han puesto en marcha desde noviembre del 2023 que se puso en marcha”.    

Ángel Pérez, CISO Aupistas; Director del Grupo de Inteligencia Artificial (GIA), ISMS Forum, y Francisco Lázaro, CISO y DPO Renfe; Board Member ISMS Forum

En su exposición recordaron que la IA, tanto desde su vertiente tecnológica como ahora tras la aprobación de la AI Act tras la última votación del Parlamento Europeo, afecta a todas las áreas de la empresa, por lo que las organizaciones deben revisar sus políticas de seguridad. Sobre esta cuestión abordaron el concepto de confianza digital, clave ahora en las empresas. También explicaron el funcionamiento de este Grupo en el que hay un Comité Operativo, con expertos en la materia en el seno de la Comunidad de miembros creada. 

Para Angel Pérez “el éxito esta jornada supone la confirmación al esfuerzo de los más de 40 profesionales que, ya en el primer trimestre de 2023 iniciaron la tarea de realizar un estudio sobre la relación de la IA con la ciberseguridad y que, conforme avanzaba dicho trabajo, fueron ampliando la tarea hasta acabar el ejercicio con 7 trabajos distintos y un grupo estable consolidado, el ISMS-GIA (Grupo de Inteligencia Artificial)”. 

Ángel Pérez, CISO Aupistas; Director del Grupo de Inteligencia Artificial (GIA), ISMS Forum

Este grupo de trabajo sobre IA tiene como objetivos principales: Generar y difundir conocimiento en materia de seguridad, gobernanza y cumplimiento para todos los asociados y la sociedad en general; ser un actor relevante e influyente en dicha materia ante terceros; y facilitar la participación dinámica de los asociados y stakeholders clave para lograr el objetivo anterior. 

ISMS-GIA es una iniciativa transversal que se enlaza con el resto de las áreas verticales de la organización como son: Cyber Security Center, Data Privacy Institut, Cloud Security Alliance y Cyber Resilience Center dado que la IA forma parte de todas las áreas de interés de la organización. 

 Deepfakes y fraudes 

Otra de las mesas redondas, y tema destacado, fue la que sirvió para profundiza en el fenómeno emergente de las Deepfakes y el papel de las herramientas de IA cuando impulsan este tipo de iniciativas fraudulentas.  Moderada por Jesus Muñoz, Head of Corporate Protection, El Corte Inglés, tomaron la palabra Alejandro las Heras, Ciso de Eulen, Alain Sanchez, Field CISO Emea d Fortinet, Vicente Gonzalbo, Enterprise Sales Account Manager Iberia de Netwitness y Eva Moya, Directora de Inteligencia de Mnemo. 

Jesus Muñoz, Head of Corporate Protection, El Corte Inglés, Alejandro las Heras, Ciso de Eulen, Alain Sanchez, Field CISO Emea d Fortinet, Vicente Gonzalbo, Enterprise Sales Account Manager Iberia de Netwitness y Eva Moya, Directora de Inteligencia de MnemoPara. 

En una charla posterior, Diana Molero Head of Cybersecurity Presales Engineering, Fujitsu y Miguel Angel Pérez, Gerente de Ingeniería y Consultoria de Ciberseguridad de Telefónica, explicaron a los asistentes la actividad del grupo de trabajo sobre Deepfakes que se ha creado en GIA de ISMS Forum para analizar este fenómeno, su desarrollo, y como con el uso de las herramientas de IA puede convertirse realmente en algo que pase desapercibido y que genere fraudes importantes en las empresas. 

Diana Molero Head of Cybersecurity Presales Engineering, Fujitsu y Miguel Angel Pérez, Gerente de Ingeniería y Consultoria de Ciberseguridad de Telefónica

IA y administraciones publicas 

Esta jornada también contó con la asistencia de Salvador Estevan , Director General de Digitalización e Inteligencia Artificial, del Ministerio para la Transformación Digital y Fundación Pública quien explicó cómo está abordando nuestra Administración los retos derivados de la IA, y el enfoque transversal que se están dando en la búsqueda del equilibrio entre el desarrollo de la innovación tecnológica y la protección de los derechos fundamentales de los ciudadanos. También comentó que ya hay herramientas de IA que se aplican en la lucha contra el fraude laboral, desde el Ministerio de Trabajo e Inclusión social. 

Salvador Estevan , Director General de Digitalización e Inteligencia Artificial, del Ministerio para la Transformación Digital y Fundación Pública

El evento también ofreció una entrevista a Maria Bobillo Directora de la Oficina De Apoyo Estratégico y Planificación, Agencia para la Modernización Tecnológica de Galicia (Amtega) para conocer el desarrollo de las políticas de IA en esta CCAA y el estado actual de la AESIA, regulador de IA que estará ubicado en A Coruña. 

Maria Bobillo Directora de la Oficina De Apoyo Estratégico y Planificación, Agencia para la Modernización Tecnológica de Galicia (Amtega)

Al mismo tiempo destaco que AESIA va a contar con un Comité de Evaluación que estará vinculado con la ley de contratos del sector público donde el papel del Delegado de IA va a ser clave. Desde Amtega también se van a poner en marcha una serie de incentivos económicos para que empresas de IA que están ubicadas en otras CCAA puedan deslocalizarse y llegar a Galicia.  Para María el ejemplo de Alicante con la puesta en marcha en su día de la Oficina de Patentes y el ecosistema empresarial que se ha creado es un ejemplo que se puede repetir, ahora con el fenómeno de la IA. 

Para concluir el acto, Fernando Rubio, de Microsoft, presentó el primer chatbot de ISMS Forum, entrenado con las guías publicadas hasta la fecha por el GIA-ISMS Forum.