A comprensión e transparencia, alfabetización, privacidade, ciberseguridade, equidade, propiedade intelectual, desenvolvemento legal e ético, responsabilidade, sustentabilidade e participación cidadá son as propostas incluídas
Fernando Suárez, presidente: “É necesario velar porque a implantación da IA estea comprometida coa cidadanía para non correr o risco de que sexa percibida como negativa e produza un rexeitamento social, perdendo a oportunidade de aproveitar os seus beneficios”
"Por unha intelixencia artificial comprometida coas persoas" é o tema aprobado polo Comité de Impulso do Día de Internet 2024, do que forma parte o Consejo de Colegios de Ingeniería Informática (CCII), presidido por Fernando Suárez, que tamén dirixe o Colexio Profesional de Enxeñaría en Informática de Galicia (CPEIG).
Con este motivo elaborouse un manifesto que inclúe un decálogo para impulsar o acceso, uso e desenvolvemento da intelixencia artificial, co obxecto de situar ás persoas no centro dun mundo cada vez máis dixitalizado. Polo tanto, o CPEIG comprométese coas propostas recollidas no decálogo.
O CPEIG explica que a intelixencia artificial (IA) ten o potencial de transformar a forma en que se interactúa co mundo e, á vez, presenta unha serie de retos importantes e grandes oportunidades. “A IA xa se utiliza actualmente en numerosas aplicacións comerciais e de produción, que abarcan todo tipo de industrias, e as vantaxes da súa utilización son evidentes: a automatización e mellora de procesos, produtividade, control e optimización de recursos, redución de errores, etc.. Pero tamén hai desafíos que o lexislador, a industria e os propios cidadáns non poden obviar para que a IA sexa social, inclusiva e respectuosa coas persoas” –sinala Fernando Suárez–.
Entre as normas xa existentes, destaca a recente aprobación do Regulamento de intelixencia artificial (AI ACT) da Unión Europea que entrará en vigor no prazo de dous anos, que se sitúa como o primeiro marco legal integral sobre IA no mundo, fixando un momento histórico na regulación desta tecnoloxía. Esta normativa foi posta en marcha por España, país pioneiro no impulso da regulación da IA, cun entorno controlado de probas do Regulamento Europeo de Intelixencia Artificial.
Ademais da cuestión lexislativa, o CPEIG considera que para que a IA sexa aceptada é necesario que supere o filtro social, e os sistemas de IA estean aliñados e actúen de forma coherente coas crenzas e obxectivos humanos. “É necesario velar porque o desenvolvemento e implantación da IA estea comprometida coa cidadanía para non correr o risco de que estas tecnoloxías sexan percibidas como negativas e produzan un rexeitamento social, perdendo a oportunidade de aproveitar os beneficios de despregar a IA en todo o seu potencial” –asegurou Suárez–.
DECÁLOGO para impulsar unha intelixencia artificial comprometida coas persoas
1. Transparencia, comprensión, accesibilidade e control
Os resultados dos modelos utilizados pola IA deben estar documentados, ser comprensibles e accesibles para todas as persoas, independentemente da súa capacidade física, sensorial ou cognitiva, promovendo s inclusión e a igualdade de oportunidades no marco do regulamento de IA (AI ACT). É necesario impulsar a transparencia e a implantación de normas, procesos e mecanismos de supervisión que permitan comprobar que estes principios cúmprense, poñendo en valor a aqueles modelos de IA que permitan recibir comentarios e apelacións.
2. Alfabetización, desenvolvemento de competencias e emprego
Fomentar a formación de profesionais cualificados que promovan a calidade e o desenvolvemento responsable destes sistemas, impulsando a formación e capacitación sobre IA, así como o acceso a documentación que facilite o seu entendemento. Impulsar, ademais, a formación básica da cidadanía en IA, as súas posibilidades e as consecuencias derivadas dun uso inadecuado de forma que poidan tomar decisións informadas na súa relación con esta tecnoloxía con especial foco na xente nova, para que estean preparados para o acceso a empregos nos que poidan explotar todo o potencial da IA.
3. Privacidade por deseño e acceso aos datos
Integrar medidas de privacidade desde a fase inicial do desenvolvementos de produtos e servizos baseados en IA, asegurando que a recolección e o procesamento de datos realízanse conforme á normativa de protección de datos. Facilitar o acceso aos datos para poder adestrar modelos de IA incentivando o seu uso en todos os ámbitos.
4. Ciberseguridade
Implantar medidas robustas de ciberseguridade para concienciar e promover un uso seguro e responsable da IA. Do mesmo modo, utilizar a intelixencia artificial para mellorar a ciberseguridade e resiliencia de produtos, servizos, sistemas e, por ende, das empresas e a sociedade en xeral.
5. Equidade e non discriminación
Mitigar sesgos e discriminación nos conxuntos de datos utilizados para o adestramento de modelos e asegurar que a IA non perpetúe nin amplifique prexuízos existentes na sociedade. Loitar contra as brechas sociais que poidan xurdir derivadas do uso da IA.
6. Propiedade intelectual
Garantir os dereitos de propiedade intelectual nas novas situacións creadas pola IA nesta materia (marcas, deseños, patentes ou dereitos de autor).
7. Marco legal e ético
Seguir desenvolvendo marcos legais e deontolóxicos específicos que definan claramente as obrigas e responsabilidades dos desarrolladores, provedores e usuarios nos sistemas que fagan uso da IA.
8. Responsabilidade
Establecer protocolos en colaboración coa industria para o seguimento e a revisión periódica dos avances da IA, adaptándoos aos cambios normativos e legais, así como ás innovacións e desenvolvemento da tecnoloxía.
9. Sustentabilidade e impacto ambiental
O uso das tecnoloxías de IA debe avaliarse en función do seu impacto na "sustentabilidade", entendida como un concepto dinámico en constante evolución que inclúa os Obxectivos de Desenvolvemento Sostible (ODS) de Nacións Unidas.
10. Co-gobernanza e participación cidadá
A participación das partes interesadas ao longo do ciclo de vida dos sistemas de IA é necesaria para o desenvolvemento de enfoques inclusivos de gobernanza involucrando á sociedade civil neste proceso. Fomentar a colaboración entre expertos en IA, ética e outras disciplinas relevantes para abordar de maneira integral os desafíos técnicos e sociais asociados coa IA. É importante que os gobernos traballen en colaboración a nivel internacional para establecer estándares comúns, compartir mellores prácticas e abordar os desafíos transfronteirizos asociados coa IA como son a ciberseguridade e a gobernanza dos datos.
O 27 de marzo de 2006 a Asemblea Xeral das Nacións Unidas adoptou a Resolución 60/252, na que se proclamaba o 17 de maio Día Mundial das Telecomunicacións e Sociedade da Información (#diadeinternet) para promover o bo uso e difundir os enormes beneficios que brindan Internet e as tecnoloxías dixitais para todas as persoas.
Premios de Internet 2024
No marco deste Día de Internet, o pasado 17 de maio celebrouse no Senado de España en Madrid a entrega dos Premios de Internet 2024 nos que se recoñece aos mellores proxectos en materia de transformación dixital, marca persoal en redes sociais, emprendemento e investigación e iniciativas para a la cidadanía dixital a través de internet con especial apunte este ano ás propostas en materia de intelixencia artificial. Na categoría de emprendemento e investigación recibiu o galardón o estudo “Impacto da tecnoloxía na adolescencia. Relacións, riscos e oportunidades” realizado por UNICEF España, o CCII e a Universidade de Santiago.
A mostra inicial estivo composta por un total de 50.957 adolescentes de 265 centros educativos de Ensinanza Secundaria Obrigatoria (ESO) das 17 comunidades autónomas. O informe reflicte que 1 de cada 3 estudantes de ESO en España podería estar facendo un uso problemático de internet e as redes. Concluíuse que os propios adolescentes identifican o ciberacoso, a sextorsión ou o acceso a contidos inadecuados como os principais riscos. O informe está dispoñible para consulta no seguinte enlace: https://www.unicef.es/publicacion/impacto-de-la-tecnologia-en-la-adolescencia