¿Gobernarán nuestras mentes?

Como no podía ser de otra manera, estas tecnologías empiezan a estar presentes en ámbitos no estrictamente médicos: la psicología, la educación, el trabajo, el consumo, la política, o el ocio digital. Durante algún tiempo se pensó que solo razones médicas justificaban el 'asalto' a nuestra intimidad cerebral. Ahora, en cambio, se empieza a defender ese acceso por los motivos más variados: para mejorar la productividad laboral, alterar el estado de ánimo, condicionar las emociones o la memoria, 'leer' el pensamiento, modificar la conciencia de uno mismo, potenciar determinadas capacidades cognitivas, etc. Lógicamente, casi nadie está dispuesto a defender esas intromisiones en la mente del individuo sin su consentimiento libre e informado. Pero, aun así, no está claro que simplemente por consentirla, toda intervención en nuestro cerebro sea lícita o incluso deseable.

Ante este panorama preñado de oportunidades y amenazas, la Asamblea General de la UNESCO aprobó la semana pasada una Recomendación sobre la ética de la neurotecnología que pretende ser tanto una llamada de atención sobre los riesgos de esa tecnología para la dignidad y los derechos de la persona, como una guía sobre el modo de desarrollarla en beneficio de todos los seres humanos.

La Recomendación de la UNESCO comienza haciendo hincapié en los beneficios que aportan y seguirán aportando estas tecnologías: mejoran diagnósticos y tratamientos, personalizan la rehabilitación o incluso devuelven a las personas funciones que habían perdido. Este mismo mes de noviembre, la revista Science informaba de un sistema integrado por la IA y la neurotecnología, que permite traducir la actividad cerebral humana en descripciones textuales. Dicho de forma más sencilla, este dispositivo accede a nuestro pensamiento y consigue articularlo en palabras, aunque nosotros mismos lo hayamos hecho. Gracias a este avance es muy probable que en un futuro próximo podamos llegar a conocer lo que piensan las personas con afasia (aquellas que han perdido la capacidad de producir o comprender el lenguaje) y comunicarnos con ellas.

En un mundo en el que una de cada ocho personas sufre alguna enfermedad neurológica o trastorno mental (y en el que esta proporción seguirá creciendo como consecuencia del envejecimiento de la población y el deterioro de la salud infantil en todo el mundo), estas aplicaciones son esperanzadoras. Por eso, negar la posibilidad de desarrollarlas sería, en cierto sentido, renunciar a oportunidades reales de aliviar sufrimiento. Pero esa exigencia ética de poner el conocimiento científico al servicio de las personas, no nos puede hacer perder de vista los inmensos riesgos que comporta el desarrollo de estas tecnologías.

Y ahí es donde la Recomendación de la UNESCO centra su preocupación y sus propuestas: en los riesgos que se derivan del modo inédito en que las neurotecnologías interactúan con la mente humana. Esos dispositivos no solo son capaces de capturar informaciones extremadamente sensibles (como pensamientos apenas esbozados, emociones, patrones de atención), sino que pueden influir sobre ellos. Además, esos datos personales pasan a estar a disposición de empresas o entidades públicas que tienen los intereses más variados con relación a ellos, siendo en muchos casos contrarios a los de los mismos sujetos de los que los obtienen. Si ya resulta inquietante que ciertas plataformas digitales puedan inferir las preferencias políticas de los ciudadanos a partir de su comportamiento online, ¿qué diremos cuando puedan conocer y condicionar, con relativa precisión, en nuestras emociones, intenciones, recuerdos o vulnerabilidades psicológicas? La sombra del control sobre nuestras mentes se vislumbra en el horizonte. Para prevenir esos riesgos, la UNESCO insiste en el deber de los poderes públicos de proteger lo que denomina la «privacidad mental».

Habida cuenta del impacto que la conjunción entre IA y neurotecnologías pueden llegar a tener en la identidad y libertad personales, me pregunto si una recomendación con este tipo de propuestas basta. A mi parecer, siendo imprescindible lo que se propone, resulta insuficiente. Debería haber impulsado, con carácter previo, una reflexión y un debate. En primer lugar, una reflexión sobre las bases antropológicas que sostienen esos desarrollos tecnológicos. Mucho me temo que buena parte del impulso actual de la neurotecnología se sostiene sobre una visión del ser humano reducido a datos y de la tecnología elevada a redentora de la humanidad. Y, en segundo lugar, un debate de alcance mundial sobre cómo queremos que esa tecnología sirva a los intereses de las generaciones presentes y venideras. Aunque reconozco que es pedir la luna, si no hacemos esa reflexión y ese debate, no será fácil evitar que esta tecnología se vuelva contra nosotros mismos.