Luces y sombras de la IA: los expertos reclaman transparencia y regulación

Con este telón de fondo, la Asociación Valenciana de Consumidores y Usuarios (Avacu) ha organizado en la sede de la Confederación Empresarial de la Comunitat Valenciana (CEV), para debatir y reflexionar sobre el presente y futuro de la IA. Expertos de distintos ámbitos compartieron sus perspectivas, subrayando la necesidad de un desarrollo tecnológico que sea transparente, ético y centrado en el ser humano.

La inauguración del evento corrió a cargo de Maribel Sáez, directora general de Consumo de la Generalitat, quien señaló que «es fundamental que la IA esté al servicio del ser humano y no por encima de los derechos de los consumidores». Sáez destacó la importancia de un desarrollo transparente y ético de la IA, advirtiendo sobre los riesgos del capitalismo de vigilancia y la mercantilización de datos.

A continuación, María José Ferrer San Segundo, concejala de Participación del Ayuntamiento de Valencia, enfatizó el impacto de la IA en la vida cotidiana: «La IA impacta en nosotros como ciudadanos y consumidores. Es crucial que su manejo sea ético y que se establezcan límites claros para su uso». Ferrer subrayó que un 42% de los consumidores ya incorporan la IA en sus decisiones diarias.

Elisa del Río, representante de la CEV, comentó que «la IA lleva conviviendo con nosotros mucho tiempo, aunque ha ganado notoriedad recientemente. Para las empresas, representa nuevas oportunidades, pero también desafíos, especialmente en términos de empleo». Del Río destacó que en la Comunitat Valenciana, un 14% de las empresas utilizan IA, superando la media nacional.

Por su parte, Fernando Móner, presidente de Avacu, insistió en la necesidad de una normativa clara que regule los límites éticos de la IA. «Debemos asegurar un desarrollo transparente de la IA y proteger eficazmente los derechos y libertades de la ciudadanía», afirmó Móner. También subrayó la importancia de la participación activa de las asociaciones de consumidores en la transformación digital.

La mesa redonda, moderada por el periodista Julián Giménez, reunió a expertos de diversos campos. Narcís Cardona, director de iTeam-UPV, alertó sobre la rapidez del desarrollo tecnológico en comparación con la legislación. «La tecnología avanza muy deprisa mientras la regulación va lenta. La IA tiene el mismo peligro que cualquier otra tecnología nueva: depende del uso que le demos», señaló Cardona.

Por su parte, Ernesto Faubel, jefe del Servicio de Ciudad Inteligente y Gestión de Datos del Ayuntamiento de Valencia, destacó el potencial de la IA para la gestión administrativa. «En el Ayuntamiento de Valencia utilizamos IA para reducir la burocracia y agilizar procesos. Sin embargo, es vital regular la IA para evitar sesgos y garantizar un uso ético», explicó Faubel.

Vidal Martínez, Senior Business Development | AI of Things de Telefónica, describió la IA como un conjunto de herramientas que permiten a las máquinas tomar decisiones basadas en datos. «Estamos trabajando para hacer la IA explicable y transparente. Los usuarios deben informarse sobre los datos que comparten y comprender la trazabilidad de la IA», indicó Martínez.

Valery Naranjo, directora de CVBLab-UPV, se centró en el ámbito médico, resaltando la importancia de comités de ética y gabinetes de protección de datos. «En el ámbito médico, la IA debe ser utilizada de manera responsable, garantizando la seguridad de los usuarios», afirmó Naranjo. También cuestionó por qué no se exige el mismo nivel de seguridad en otros sectores donde la IA se está extendiendo.

Por último, Cristina Gómez, abogada de Avacu, advirtió sobre los peligros de un uso indiscriminado de la IA. «El reglamento de la Unión Europea sobre IA aún está en desarrollo. Debemos ser cautos y establecer un protocolo de actuación adecuado para regular su uso», destacó Gómez.

La jornada organizada por Avacu evidenció la necesidad de un enfoque equilibrado hacia la inteligencia artificial, que contemple tanto sus beneficios como sus riesgos. La clave reside en una regulación ética y transparente que proteja los derechos de los consumidores y ciudadanos. Como señaló Maribel Sáez, «mientras la IA se desarrolle de manera justa y transparente, la administración estará a favor de su avance».

Fernando Móner concluyó con un llamado a la acción: «Debemos formar parte activa de esta transformación digital y sostenible, asegurando que la ética sea una prioridad en el desarrollo de la IA». La inteligencia artificial tiene el potencial de transformar diversos sectores, pero su implementación debe ser gestionada con prudencia y rigor para evitar consecuencias adversas.

En definitiva, la IA representa tanto una oportunidad como un desafío. Los ponentes concluyeron que su futuro dependerá de cómo sociedad y reguladores aborden estos retos, garantizando un desarrollo que beneficie a todos sin comprometer los principios éticos fundamentales.