Miguel Ángel Serrano advierte sobre los peligros de la IA: “Al final vamos a ser realquilados de nuestro propio pensamiento”
“Los derechos de los escritores han sido atropellados por el uso fraudulento de nuestros textos sin autorización, remuneración ni transparencia”. La sentencia es firme, y corre a cargo de Miguel Ángel Serrano, presidente de honor del Consejo Europeo de Escritores, que, tras años velando por los derechos del colectivo, ha decidido convertir la “indignación” acumulada por la deriva de la inteligencia artificial en “una reflexión mucho más profunda y amplia”. De ese proceso nace ‘Androiceno. Escribir en la era de la inteligencia artificial’ (Berenice, 21 euros), un ensayo que presenta esta tarde, a las 19.30 horas, en el Círculo de Recreo de Valladolid dentro del ciclo ‘Ensayo y pensamiento’.
En declaraciones a Ical, el autor detalla el origen del título, un término que ha acuñado para referirse al cambio de ciclo que se ha producido sin que parezcamos habernos dado cuenta, dejando atrás el Antropoceno. “Pase lo que pase, el servicio a las máquinas y a esta tecnología va a aumentar muchísimo el consumo de recursos naturales, pero también legislativos, de talento y de inversión, y va a hacer que muchas cosas empeoren, entre ellas el cambio climático. Además, no nos estamos dando cuenta de que al final vamos a ser realquilados de nuestro propio pensamiento, vamos a ceder nuestra capacidad de pensar críticamente a las máquinas y eso sí que me parece grave, además de que culturalmente es terrible y democráticamente muy peligroso”, reflexiona.
A su juicio, la IA “se está utilizando para suplantar habilidades que la gente no tiene bajo la enseña o la divisa de democratizar la creatividad”. “Lo que se hace es coger la creatividad que se ha generado durante muchos años, meterla en una máquina, masticarla y devolverla como si el que hace el ‘prompt’ hubiera creado algo, pero estas máquinas en mi opinión no crean nada, lo único que hacen es compilar”, apunta sobre una tecnología que “se puede llegar a cargar sectores enteros”.
Serrano lo tiene claro: “La cultura debería ser siempre humana, no artificial”. Para intentar frenar el impacto desmedido de esa tecnología, recalca la necesidad imperiosa de una regulación que legisle en torno a la IA, algo que considera que depende de la “voluntad política”. En Europa, relata, ya está en vigor la IA Act, el primer marco legal en torno a esta herramienta creado en todo el mundo, si bien actualmente se está desarrollando el código de prácticas de esa norma, en un proceso en el que en su opinión debería producirse “un diálogo mucho más fluido con los grupos de interés”. “Es muy meritorio que Europa se haya atrevido a legislar; no se está viendo nada similar en Estados Unidos, donde parece que lo único que importa es defender el dinero de los oligopolios, ni por supuesto en China”, señala.
Un suicidio social
Para Serrano, “si se demuestra, como parece evidente, que ha habido un hurto masivo de datos en todo el mundo por parte de los desarrolladores de este software, hay que castigar los delitos, pero no estamos viendo una decidida voluntad política de que esto ocurra. Y lo que viene ahora va a ir cada vez peor, en el sentido de que va a empezar a entrar en los colegios y eso quiere decir que que nuestros hijos no van a necesitar pensar críticamente o al menos no tanto como no hemos tenido que hacer hasta ahora. Necesitamos regulación y puesta en práctica real de la ley; no vale con hacer una ley y luego no obligar a cumplirla”.
En ese sentido, en su libro invita a pensar en lo que ha hecho internet con la cultura, instalando por ejemplo a través de Creative Commons, ideas en el imaginario colectivo como que “no existe el ‘copyright’ porque todo es producto de una mente colectiva”. “Todo ello ha hecho que el autor no sea importante para mucha gente, y pensar que un Kafka, un Cervantes o un Picasso no son importantes me parece un error mayúsculo. Un suicidio social, si me apuran”, añade.
Sobre los intereses que pueden subyacer tras la carencia de regulación específica, afirma que “existe un interés evidente de las empresas que se dedican a esto, porque el negocio no está rindiendo lo que ellos esperaban y pretenden meter a fuerza bruta una nueva regulación que les evite tener que pagar por utilizar el material de otros, pero luego también hay intereses políticos, en el sentido de que si te dicen que van a poner un centro de datos en tu autonomía, por ejemplo, de primeras te parece una inversión interesante. Luego veremos cuánta agua y electricidad gasta eso. Pero se ha comprado, por así decirlo, un discurso según el cual esto es innovación y hay que abrazarse a ello, y yo tengo mis dudas”.
El autor lamenta que el coste de la IA se esté escondiendo “claramente” a la ciudadanía. Se trata, apunta, de una tecnología que “consume electricidad de manera constante, con fuerza de computación cada vez mayor, y eso implica que hay que refrigerar, algo enormemente caro y que consume una cantidad exagerada de agua y de energía. Al final, las máquinas van a necesitar una cantidad tan enorme de recursos que no está nada claro de dónde van a salir”.
Todo ello, además, está sucediendo en un contexto global en el que muchas de las grandes corporaciones se están deshaciendo de sus equipos de ética, algo que Serrano achaca a que se vive “lo que los anglosajones llaman una ‘rat race’, en pos de algo que tampoco está claro qué va a ser”. “Correr sin tener muy claros los marcos éticos de las cosas no está bien. No se puede consentir que los derechos de todo una industria muy importante, como la cultural, se vean vulnerados para favorecer a otra. Es algo que yo no había visto nunca, pero se está debatiendo en instancias como el parlamento británico. Es realmente asombroso”, sentencia.