José María Lassalle: «La IA puede transformar la democracia en una ficción»

-¿La IA es un peligro para la democracia?

-Puede llegar a ser un peligro si no se regula. Puede transformar la democracia en una ficción. El poder puede finalmente encontrar mecanismos para no ser moderado ni controlado y así instaurar una auténtica 'IAcracia'. Por eso es muy importante abrir un debate sobre Inteligencia Artificial, alrededor de su impacto y ver cómo se puede aprovechar la inmensa oportunidad que representa para la Humanidad una herramienta tecnológica tan poderosa que, por eso mismo, debe beneficiar a todos y no sólo a unos pocos.

-Usted habla del modelo IA chino y el de Estados Unidos, que apuntan al Nihilismo, y el europeo que hace un esfuerzo por no distanciarse del Humanismo, ¿cómo estamos en Europa, tenemos posibilidades?

-Tendremos posibilidades si nos coordinamos y afrontamos un esfuerzo compartido y orientado a un propósito común. Se ha conseguido otras veces, la propia UE es eso. En un ámbito tan complejo como fue la industria aeronáutica Europa consiguió ganarle la batalla a EE UU y desarrollar el proyecto Airbus. Si eso ha sido posible en otros momentos, puede serlo ahora. tenemos lo recursos económicos para abordar una investigación potente en IA, si estuviera coordinada, tenemos talento y podemos tener un propósito. Podemos desarrollar una IA al servicio del ser humano, y eso sería actualizar la propia idea de Europa.

-También habla de que actuemos con responsabilidad, pero el concepto de responsabilidad lo hemos perdido. ¿Qué nos queda? 

-Educarnos para la IA y eso implica, entre otras cosas, recuperar el valor de la responsabilidad. Sin responsabilidad no puede haber gestión de la Inteligencia Artificial. El filósofo europeo Hans Jonas,hablaba en los años setenta del principio de responsabilidad como un elemento básico para entender cómo relacionarnos con la tecnología. Sólo podemos desarrollar aquellos avances que seamos capaces de gestionar responsablemente identificando los riesgos, tratando de controlarlos y orientando el propósito de la investigación y de los avances hacia fines no maléficos, que tengan en el horizonte el bien común.

-¿Somos conscientes de que ante la IA y habiendo perdido el concepto de responsabilidad, la libertad individual puede estar siendo absorbida por el Estado y así ir perdiendo la democracia liberal?

-La democracia liberal se está perdiendo porque, no tanto el Estado, sino las grandes corporaciones tecnológicas están adquiriendo un poder sin control ni regulación. En estos momentos el ser humano ve comprometida su libertad individual porque alguien conoce la previsibilidad de su comportamiento y genera el entorno para mediatizar lo que la previsibilidad del comportamiento se conoce por quien maneja el entorno. Esto está siendo un hecho cotidiano en la vida de todos los que nos asomamos a internet. Nuestra libertad ya está viéndose comprometida.

-¿En qué queda la moral en este escenario?

-Desgraciadamente uno de los grandes problemas que tenemos es que el desarrollo tan intenso de la tecnología nos está llevando al nihilismo, a la destrucción de todos los valores. Dejando que la tecnología innove sin límites ni regulación. La tecnología desarrolla un poder al que sólo le estimula la utilidad para darnos más poder de acción, pero sin propósito. Y la falta de éste es una falta de moral, de valores; un gran problema.

-¿Somos tan torpes que llegaremos a confiar tanto en la IA que nos creeremos dioses capaces de crear de la nada? 

-Uno de los problemas de la IA que no vemos con claridad es la naturaleza utópica que está en su ADN. Busca desarrollar un cerebro humano sin nuestras imperfecciones, pero las imperfecciones son parte de la condición humana, lo que nos acerca a lo que somos: criaturas perfectibles. Eso hasta ahora en términos morales ha sido provechoso porque ha hecho posible el concepto de responsabilidad, la idea de libertad, la noción del progreso, la superación, el mérito. Es decir, todo lo que representa lo mejor que el ser humano ha sido capaz de dar; incluso la culpa, que tiene, por lo menos para los países de la tradición judeocristiana, un componente fundamental para entendernos culturalmente. Y todo eso puede verse comprometido.

-¿Es una torpeza?

-Está también en la esencia de lo humano, en lo que encarna el mito de Prometeo y en Mefistófeles cuando tienta a Fausto para entregarle un conocimiento ilimitado. El conocimiento es poder, y al ser humano le seduce. Hay que tener en cuenta esto para acercarnos con sensatez a la IA, una criatura a la que no podemos detener porque puede proporcionarnos muchos provechos, pero hay que pensar los riesgos.

-En medio de la escaramuza política que tenemos ahora en España, ¿la IA podría elegir al presidente que nos conviene?

-Uy. Sería el mayor de los errores porque hay ciertas decisiones que no pueden ser dejadas a las máquinas. Hay decisiones que sólo pueden ser humanas. Y todo lo que tenga que ver con la política, más allá de la instrumentalidad de información que nos puede generar la IA, pero las decisiones deben tomarlas por humanos: en la política, en la empresa, en la educación, la gestión de la economía. Hay cosas que están diseñadas para el manejo de la inteligencia humana porque afectan a la condición humana. La política es una de ellas.

-¿Si le preguntáramos, podría volver a salir elegido Pedro Sánchez? 

-Pues no lo sé. Hay que tener en cuenta que una IA generativa trabaja sobre el archivo de información que se registra a través de artículos, audios, imágenes, libros. De todo ese acopio de información extrae un conocimiento y no sé si ese conocimiento consideraría a Pedro Sánchez persona reelegible. Pero prefiero que sean los ciudadanos quienes lo hagan porque tenemos derecho a equivocarnos.

-Claro, y a ese derecho no debemos renunciar. 

-No porque en el error está el aprendizaje. Karl Popper, uno de los grandes pensadores liberales del siglo XX, explicaba cómo al final la teoría del conocimiento que sustenta una democracia liberal se basa en el ensayo y el error. El conocimiento de lo político tiene que ver con el conocimiento de la ciencia y la ciencia avanza desde la base del ensayo y el error, la base del aprendizaje, de la constatación de nuestra fragilidad y tener derecho a equivocarse es fundamental.

-¿Seguirá habiendo poesía?

-En la medida en que seamos fieles a la condición humana, sí. El ser humano es limitado y necesitamos la imaginación para trascender nuestras limitaciones. Y una manera de hacerlo está en la imaginación, la creatividad, el arte; todo lo que tiene que ver con la cultura. La poesía es hoy más necesaria que nunca.

-¿Para hacer frente a la IA?

-Para hacer frente a todo y para enmarcar el valor añadido que el ser humano debe aportar a la IA. En un mundo en el que vamos a convivir máquinas y seres humanos, los humanos nos tenemos que significar por algo excelente y la excelencia está en nuestra capacidad de imaginar futuros porque la IA trabaja sobre pasados, sobre registros. El ser humano para ser lo que es necesita imaginar futuros que nacen de su deseo de trascender su presente o para encontrar salidas a un pasado que moralmente le puede asfixiar o necesita cancelar.

-¿Entonces las propuestas de la IA nacen trasnochadas? 

-Nacen como respuestas estándar, son respuestas que a partir de la información masiva que gestiona produce una respuesta rápida y asimilable al común de los mortales: repetible y estandarizable. Y ahí no hay excelencia porque ésta nace de la ambigüedad que toca el tejido del misterio que acompaña a la condición humana. El ser humano nunca sabe del todo la respuesta que va a dar a lo que se le pregunta, incluso cuando somos muy previsibles siempre podemos desconcertar. Desconcertamos porque somos capaces de mostrar algo que no esperaba el otro, pero que cuando lo ve descubre que era posible. Eso es lo que nos proporciona el arte, y eso nos hace especiales.

-¿O sea cuidarnos de ella es lo único que nos puede mantener un poco originales?

-Sí. La información ya la gestiona la IA, incluso el conocimiento algorítmico en muchos ámbitos, y cada vez más, es superior al conocimiento humano. Lo que no podrá ser, probablemente, y quiero creer que será así, es sabia. Y los seres humanos podemos ir más allá: podemos desarrollar pensamiento intuitivo, meditativo, artístico, una capacidad para entender el mundo desde un lugar que no nace estrictamente del cálculo y la gestión de la información. Nos da respuesta a cuestiones que nos angustian y para las que necesitamos soluciones trascendentes, esperanzadoras, porque nos sabemos limitados.

-No puedo, ni quiero, imaginar un mundo insensible, sin emociones. ¿Me paso cuando pienso esto en relación con la IA?

-Uno de los problemas de no afrontar una regulación ética que nos eduque a afrontar una IA desde otro lugar que no sea el simple y puro cálculo del poder es nuestra capacidad irrenunciable de ser sensibles. Uno de los problemas de no regular es que nos puede llevar a respuestas cada vez más crueles, más inhumanas. Entre otras cosas porque el ser humano está perdiendo por el contacto directo con la pantalla y el narcisismo que nos provoca. Nos puede robar el alma.

-¿Cómo puede afectar en el ámbito laboral, en la realidad económica y social, sobre todo en los sectores de población que siempre resultan los más perjudicados?

-Estas son las cuestiones que debería abordar la política: pensar cómo ha de gestionar la transición crítica que vamos a vivir, de una sociedad de capitalismo postindustrial a un capitalismo algorítmico que es el que va a hacer que las empresas sean sustituidas por plataformas y donde el trabajo humano será cada vez menos valioso. Esto requiere cambios estructurales en nuestro mercado laboral y en la educación. También hay que pensar en la introducción de la renta básica, en hacer pagar a las máquinas por el trabajo que quitan al ser humano y en introducir una función social en el diseño de los algoritmos. Es decir, hay que afrontar un proceso de reformas estructurales muy profundo para el que no hay agenda política en nuestra sociedad. Europa trata de ir introduciendo un reglamento de IA, de proveerse de cierta autonomía estratégica para desarrollar capacidades tecnológicas, pero es insuficiente. Tenemos que abordar políticas públicas que den un sentido a lo que se nos viene. Se nos viene algo que ya padecemos: el trabajo intelectual cada vez vale menos y eso impacta en el valor que atribuimos al PIB en las economías automatizadas. Estamos viendo cómo la clase media pierde estatus porque pierde poder económico y los hijos de la clase media renuncian a disfrutar de la prosperidad de sus padres; viven su herencia antes de que fallezcan. Todo esto debería marcar a la política un sistema de alertas que obliguen a abordar estas cuestiones antes de que se conviertan en problemas sociales muy graves.

-¿Los políticos aún no se han puesto manos a la obra? 

-Están atrapados por una política cada vez más afectada por el impacto de la digitalización, entre otras cosas porque están más pendientes de lo que se visibiliza en las redes sociales y el impacto que tiene en términos de cuenta de resultados electorales que en una mirada con profundidad hacia un horizonte de lo político que puede provocar incluso la alteración del orden social. El horizonte no puede ir más alá de una década.

-O sea, no se han puesto en marcha.

-Creo que estamos ahora regulados en Europa por un Reglamento de IA que nos dice que no hagamos determinadas cosas, pero no define los propósitos y el bien común al que debe servir el desarrollo de la IA. En España tenemos un anteproyecto de Ley inspirado en el Reglamento europeo. Creo que será prácticamente imposible, habida cuenta de las minorías y de la polarización, que salga adelante. Tenemos una carta de derechos digitales que todavía no tiene valor normativo, sólo es inspiracional.

-¿Si no leemos, dónde vamos a parar?

-Precisamente esa va a ser una de las fuentes de la desigualdad. Para las personas que no se eduquen en entornos culturales donde el libro, el pensamiento crítico, la música clásica, la formación musical, el conocimiento de la Historia, la creatividad como una experiencia que se vive cotidianamente, va a marcar una desigualdad muy grande.