Advirte de dúas novidades importantes:
• ChatGPT Health, onde os usuarios poden conectar os seus historiais médicos a aplicacións de saúde
• Grok Imagine, un xerador de imaxes de IA que inclúe o chamado “modo picante” que pode xerar contido para adultos
O Colexio Profesional de Enxeñaría en Informática de Galicia (CPEIG), con motivo do Día Europeo da Protección de Datos que se celebrará o vindeiro mércores, 28 de xaneiro –data proclamada pola Comisión Europea, o Consejo de Europa e as autoridades de Protección de Datos dos estados membros da Unión Europea–, pon de manifesto os desafíos da innovación e as novas tecnoloxías na protección de datos, centrando a cuestións no dereito dixital e a IA, co obxecto de “concienciar sobre a privacidade e os dereitos dos cidadáns na contorna dixital, reafirmando a protección de datos como un compromiso colectivo”.
O presidente do CPEIG, Fernando Suárez, sinala que as novidades en protección de datos xiran ao redor da IA, a vixilancia laboral con tecnoloxías biométricas e a necesidade de consentimento explícito. Nesta última premisa, o presidente aclara que a Agencia Española de Protección de Datos (AEPD) está alertando sobre os riscos da IA, prohibindo o consentimento tácito e enfatizando a privacidade de menores e persoas vulnerables, mentres busca equilibrar a IA co Regulamento Xeral de Protección de Datos (RGPD), introducindo novos dereitos dixitais e obrigas para empresas en tratamento de datos e con auditorías periódicas.
En concreto, Fernando Suárez destaca dúas cuestións fundamentais: a saúde e a creación de contidos con carácter sexual. En materia de saúde, o presidente explica que OpenAI – empresa de investigación e implementación de IA– acaba de dar un paso ao fronte que moitos anticipaban, pero que poucos esperaban tan pronto: o lanzamento de ChatGPT Health, unha nova experiencia dentro de ChatGPT deseñada para permitir que os usuarios conecten os seus historiais médicos e aplicacións de saúde como Apple Health ou MyFitnessPal para obter respostas máis personalizadas as súas preguntas sobre saúde e benestar.
A segunda novidade é, segundo Suárez, especialmente preocupante. Trátase de Grok, un asistente de IA desenvolto pola empresa xAI de Elon Musk, e integrado na plataforma X (antes Twitter), coñecido pola súa personalidade e humorística; así como outros sistemas que seguen a súa mesma política. “O problema xurdiu despois do lanzamento o pasado ano de Grok Imagine, un xerador de imaxes de IA que permite aos usuarios crear vídeos e imaxes en base a instrucións en texto, incluíndo o chamado “modo picante” que pode xerar contido para adultos” –explica–.
Fernando Suárez lembra que o problema intensificouse a finais do mes de decembro, cando Grok aparentemente comezou a conceder un gran número de solicitudes de usuarios para modificar imaxes publicadas por outros, con solicitudes como “pona nun bikini transparente”. Así, o presidente asegura que todo se amplificou porque Musk presentou o seu chatbot como unha alternativa máis atrevida e con menos salvagardas que os seus rivais, xa que as imaxes son publicamente visibles e, polo tanto, poden difundirse facilmente.