Entre la nota periodística, el ensayo literario y la reflexión filosófica, Pedro Salazar nos sorprende con un nuevo libro que resume sus últimos años de investigación con un tema, sin duda, seductor, pero también preocupante, que requiere atención urgente: “la reconfiguración del poder en tiempos de la inteligencia artificial”. Desde la Introducción, Pedro nos invita a no hacernos falsas ilusiones y a no pensar que nos encontramos en una suerte de “tiempo de transición” y que, dado el dictum recurrente de una “repetición de la historia”, regresaremos a un tiempo de aurora y madurez cívico-político-económica en la que el ser humano podrá recuperar el control autonómico de su conducta y la gestación creativa de un mundo mejor. Todo lo contrario. Capítulo tras capítulo, el autor nos pone en estado de alerta ante la realidad desnuda de una Inteligencia Artificial Generativa que “ha permitido la mayor concentración de poder en manos de unas cuantas personas, nunca antes vista, y creo que ni siquiera imaginada”; y, también, ante el hecho de que “nunca habían existido herramientas tan poderosas para falsear la realidad y convencernos del engaño”. Con esta advertencia comienza el recorrido del libro, en el entendido de que de ninguna manera están contemplados todos los problemas en los que incide o puede llegar a incidir la IA: medio ambiente, desigualdad, polarización, razonamiento que, como anticipa nuestro autor, quedan pendientes para una segunda edición o para otro libro. Pongo mi atención ahora en tres de los capítulos que integran el libro y dejo pendientes dos de ellos, que quedan en pausa, para retomarlos después de una charla más detenida con Pedro: “el problema de la responsabilidad” (capítulo 3) y “el problema del amor” (capítulo 5).
El poder y las formas de domesticarlo a través del Derecho han sido el leitmotiv de las preocupaciones y publicaciones de Pedro. De estas últimas, entre muchas otras, traigo a cuento su ya clásico La democracia constitucional. Una radiografía teórica, sus cinco ensayos sobre la realidad latinoamericana recogidos en Política y derecho. Derechos y garantías, y su denuncia testimonial y valiente en Crítica de la mano dura: cómo enfrentar la violencia y preservar nuestras libertades. La fundamentación y defensa de un constitucionalismo liberal, democrático y social —explícito en estas obras— ha sido el ropaje teórico desde el cual Pedro ha problematizado y dado respuesta a un vasto conjunto de problemas. Teoría o filosofía que, consistentemente —si bien necesitada hoy día de un ajuste—, late también en este último libro como ideal regulativo que acompaña cada uno de sus capítulos. En el primero de ellos, titulado precisamente “El problema del poder”, Pedro pone sobre la mesa su pedigree filosófico-político, acompañándose de pensadores como Max Weber, Ermanno Vitale, Michelangelo Bovero y Remo Bodei, tanto para “aggiornar” el pensamiento de estos autores a la luz de la nueva realidad de la IA, como para proponer conclusiones con un gran poder heurístico. Y así, si con Weber entendemos el poder como la capacidad que tiene una persona o conjunto de personas de imponer su voluntad sobre otras, ya sea para impedir o forzar a realizar una conducta, y si tal poder se puede llevar a cabo para ejercer el control de los medios de producción (poder económico), o para controlar el sistema de creencias que moldean la conducta de las personas (poder ideológico), o bien, para hacer cumplir las normas bajo un uso legítimo de la fuerza (poder político), entonces, a través de la IA, de acuerdo con Pedro, se está reconfigurando el poder de manera acelerada: “los datos se han convertido en un nuevo factor de producción”, “los algoritmos modelan las percepciones colectivas, amplifican narrativas y crean entornos informativos personalizados que pueden fortalecer la polarización o facilitar la manipulación de la opinión pública”, y “los gobiernos incorporan la IA en funciones estratégicas de seguridad, de vigilancia, de administración de justicia y de toma de decisiones regulatorias”. Asistimos hoy a una reconfiguración de las jerarquías de poder, en donde el poder político-jurídico cede de una forma descarada y cínica ante el poder de los grandes consorcios tecnológicos; situación que “no tiene parangón en la historia de la humanidad”. Con un pleonasmo, que quiere enfatizar la relevancia del tema y que se resuelve, finalmente, en una paradoja perversa que da título al libro, Pedro cierra el primer capítulo con un colofón explícito que anuncia también el contenido de los siguientes:
"Si el poder es la capacidad para condicionar voluntades y esa capacidad —económica, política e ideológica— aumenta de manera ingente y se concentra —compacta, excluyente y aviesa— en manos de unos cuantos, no quedará oxígeno para nuestras libertades, que son las libertades de las personas para vivir una vida autónoma y no la libertad del poder de los kakistócratas para arrebatárnosla. La paradoja es que tampoco habrá espacio para las primeras ni para las segundas si Bodei y Harari tienen razón y se impone el control del algoritmo/. Totalitarismo total".
Si algo parece concitar acuerdos es que la IA ha transformado el mundo de la creación artística, con claras consecuencias en la propiedad intelectual y los derechos de autor. A partir de este hecho incontestable, Pedro inicia su segundo capítulo. La actividad creadora y el ejercicio argumentativo, con todo y el cúmulo de emociones que los acompañan, han sido dos de las tradicionales “exclusivas” del ser humano, pero que hoy, cada vez con más naturalidad e irresponsabilidad, trasladamos también a la IA. ¿Es posible atribuir originalidad y hasta autenticidad a estas máquinas generativas de imágenes y conocimientos? Y, en cualquier caso, ¿dónde residiría la originalidad?, ¿en la creación del algoritmo?, ¿en el acto de pedir a la IA Generativa una respuesta a la pregunta solicitada? ¿Qué es lo que debe regularse y quedar protegido? Por supuesto, a todo ello hay que agregar un componente de justicia que no podemos soslayar, y que tiene que ver con el hecho de preguntarse quiénes pueden ahora, o quiénes podrán en un futuro, acceder a esta novedosa y versátil tecnología. Este es, sin duda, uno de los problemas más acuciantes en un entramado social contemporáneo profundamente desigualitario. Pero dejemos por ahora este problema en espera del próximo libro de Pedro e intentemos una respuesta a nuestras interrogantes: “La capacidad creativa es una cosa —afirma Pedro— y el potencial de la tecnología es otra. La primera es humana; la segunda es técnica, material, económica. Si bien están entrelazadas, son distintas y no debemos perder de vista esa diferencia”. Esto es verdad, pero es aquí precisamente donde necesitamos afinar los conceptos: ¿qué constituye al acto de creación para hacerlo humano?, ¿qué significa tener “control” del acto de creación? ¿Bastaría una “marca de agua” o “encriptar la firma” del autor, permitiendo el acceso sólo al destinatario autorizado, para considerarla una obra original y proteger su autenticidad? ¿Cuál sería el “mínimo grado de creatividad” posible y deseable? Hay más preguntas que respuestas y Pedro nos deja el escenario deliberadamente abierto.
Convengamos por un momento que el problema filosófico no ha tenido que esperar a la llegada de la IA para plantearnos esas y otras preguntas. Walter Benjamin, en un ensayo conocido, afirmaba que incluso en la reproducción tecnológica mejor acabada falta algo, es decir, falta precisamente “el aquí y el ahora de la obra de arte, su existencia irrepetible en el lugar en que se encuentra”, su originalidad, su autenticidad, y ejemplifica: la preferencia de la obra de teatro al cine, la pieza artística en su singularidad y no a través de la fotografía, la pieza musical presenciada y no grabada. Podemos cuestionar a Benjamin, como se ha hecho reiteradamente, sobre el valor artístico del cine, de la fotografía o de la grabación musical, pero hay algo que intuimos en la obra de arte y para lo cual el propio Benjamin no pudo expresar más que con un término enigmático: su “aura”, aquello que hace de una pieza artística algo único; lo demás suena a imitación, repetición, inverosimilitud. En este mismo sentido, otro autor, Marcel Proust, pensaba que sólo cuando los recuerdos y las emociones irrumpen bajo la memoria involuntaria y los recreamos a través del arte, de la expresión literaria, sólo entonces es cuando nuestra identidad deviene en algo único: cada persona se constituye así en un mundo propio, irrepetible; tiene, diría Benjamin, su propia aura. Pedro, decíamos más arriba, nos deja con la provocación y el escenario abierto, pero también con la convicción de que ese mundo inasible que abre la actividad creadora, esas dudas y experiencias únicas, ese mundo es, precisamente, el ámbito propio de lo humano. Se trata de un mundo refractario a la IA, que no sabe convivir con los recuerdos, las emociones y la incertidumbre. Quizás la educación —y vaya si esto es una verdad de Perogrullo— deba dejar de entenderse como el empeño de saturar de información y conocimientos a un alumnado y a una ciudadanía concebidos como receptáculos pasivos, y volver a concentrar más su atención en alimentar la capacidad de preguntar, de complejizar los problemas, de aprender a convivir con las perplejidades, de buscar e intuir el “aura” o el Aleph borgeano. Tarea, sin duda, titánica, porque la novedad de nuestra época, y de la que este libro nos pone en alerta, es, de nueva cuenta, la cooptación de las facultades del ser humano por parte de un poder económico insaciable, que la socióloga Shoshana Zuboff ha bautizado con el nombre nada grato de “capitalismo de la vigilancia”, es decir, un capitalismo depredador que hoy día se presenta, además, con una atractiva y placentera fuerza intrusiva en la propia intimidad de las personas.
La guerra es, quizás, el caso más claro de lo que podríamos calificar como una calamidad para distinguirla de lo que Ernesto Garzón Valdés denomina una catástrofe. La primera es producto de acciones humanas intencionales; la segunda “designa la desgracia, el desastre, la miseria provocados por causas naturales que escapan al control humano”. De esta distinción se vale Pedro en el capítulo cuarto de su libro para comprender “El problema de la guerra” no como producto de algún fenómeno natural o simplemente por el azar, sino por acciones deliberadas cuya finalidad no es otra que la destrucción o el aniquilamiento del otro, del enemigo. Una calamidad que ha acompañado al ser humano desde sus orígenes y que, por lo mismo, como bien se afirma, adquiere un carácter de “permanente”, muy distante del ideal kantiano de una “paz perpetua”. Hay algo paradójico para quienes nacimos y crecimos después de las dos grandes guerras del siglo pasado: nunca se ha llegado a reconocer y proteger jurídicamente, y de forma tan integral e institucional, los derechos humanos como ha sucedido desde la Declaración Universal hasta nuestros días y, al mismo tiempo, nunca hemos sido tan brutalmente sofisticados en sus diversas formas de violación. Un desfase abismal entre la letra y la realidad. Y, en concreto, con respecto a los conflictos bélicos, si de algo hemos podido tomar conciencia es que la vieja doctrina de “la guerra justa”, o mejor, de la posibilidad de una justificación ética de la guerra, no tiene ya —y desde hace tiempo— ningún sentido, y cualquier intento encaminado en esa dirección no puede tildarse sino de cínico y perverso. Digámoslo cuantas veces sea necesario: la guerra es una calamidad injustificable.
A riesgo de ser esquemático, pienso que las reflexiones en torno al fenómeno de la guerra en la época contemporánea han respondido a eventos que irrumpieron de forma abrupta, sacudiendo aún hasta las conciencias más distraídas. En buena medida, tales eventos hicieron su aparición de la mano de desarrollos tecnológicos: 1) la carrera armamentista durante la Guerra Fría y la proliferación de armas nucleares; 2) la aparición del terrorismo a escala mundial y su potencial destructivo, patente simbólicamente con la caída de las Torres Gemelas; y 3) el rediseño geopolítico actual a partir de la revolución operada por la IA y la llamada por algunos teóricos “guerra de los drones”. Lo dramático de estos hechos es que no se han dado de forma aislada y sucesiva, sino acumulativa, y hoy día es tan factible pensar en la activación de una guerra nuclear como en la concreción de amenazas terroristas y de una escalada tecnológica a partir de desarrollos de IA cada vez más puntuales, sofisticados y terriblemente destructivos. Nos encontramos, como se suele decir, en una “tormenta perfecta”, y es aquí, quizás hoy más que nunca, donde necesitamos poner a prueba nuestras convicciones ético-jurídicas, sin delirios utópicos, pero tampoco bajo las premisas de un realismo escéptico paralizante. Hay que releer a nuestros clásicos: Hobbes y Kant, Schmitt y Kelsen; y reflexionar con nuestros contemporáneos, como lo hace Pedro desde su formación turinesa y su vasto conocimiento en filosofía jurídica y política.
Si nos atenemos a esos tres momentos señalados —y periodizamos: I) de 1945 a 1990, con la caída del Muro y la descomposición de la Unión Soviética; II) hasta 2010, con la amenaza terrorista, el colapso del sistema financiero y la crisis del modelo neoliberal; III) con el desarrollo acelerado de una revolución digital, en proceso—, creo que no es difícil seleccionar la literatura correspondiente. Sólo a manera de ejemplo, sugeriría revisar, para el primer periodo, dos libros ya clásicos: Michael Walzer, Guerras justas e injustas, y Norberto Bobbio, El problema de la guerra y las vías de la paz, y agregaría un tercero, que tiene la virtud, entre otras, de hacer dialogar la tradición anglosajona con la europea: Alfonso Ruiz Miguel, La justicia de la guerra y de la paz. Para el segundo periodo, comenzaría con la obra de un historiador portentoso, Eric Hobsbawm, Guerra y paz en el siglo XXI, y de dos maestros reiteradamente citados por Pedro: Ernesto Garzón Valdés, Calamidades, y Luigi Ferrajoli, Razones jurídicas del pacifismo. Y finalizaría, para el tercer periodo —aunque sería apenas el inicio—, con un acercamiento posmoderno a la guerra, Enric Luján, Drones, y, por contraste, desde una modernidad crítica, con nuestro Totalitarismo total. Y remarco lo de “modernidad crítica” en Pedro, porque quiero insistir en el trasfondo que inspira todo su libro: el de una democracia constitucional que toma conciencia de los límites del liberalismo, pero que conserva la fuerza heurística necesaria para presentarse aún como ideal regulativo. Pero seamos claros: ¿quién puede poner en duda las consecuencias ominosas de la guerra en nuestros días: “el fracaso del multilateralismo, el armamentismo creciente y la polarización nacionalista, racista y xenófoba progresiva”, que se “potencian con la Inteligencia Artificial”? El totalitarismo analizado por Hannah Arendt, en su libro referencial, parece “emparentar la primera mitad del siglo XX con el primer cuarto del siglo XXI”, afirma Pedro, y quizás peor, si nos atenemos a la vocación acumulativa que mencionamos más arriba; y, por supuesto, la élite de multimillonarios y de líderes políticos siniestros que marca la pauta a los gobiernos, aun de aquellos que considerábamos democracias robustas. Con El dieciocho brumario en la mano, Pedro nos recuerda la cita de Marx: “la historia se repite dos veces: la primera vez como gran tragedia y la segunda como una miserable farsa”. Todo ello, y con este llamado, concluye el capítulo: “debe convocarnos a imaginar e implementar modelos de gobernanza del fenómeno que permitan explotar sus enormes beneficios mitigando el riesgo. No podemos dejar el mundo en las manos de esos sujetos”. ¡Bene dictum! Y reafirmo con Pedro para concluir: no podemos claudicar de los valores democráticos, del reconocimiento y protección de los derechos humanos, del Estado de derecho como forma civilizatoria de convivencia, de la independencia e imparcialidad judiciales y, por supuesto, del diálogo y de la paz como metas aspiracionales. La alternativa a estos principios no se presta siquiera a un ejercicio de imaginación.
Rodolfo Vázquez
Doctor en Filosofía por la Universidad Nacional Autónoma de México (UNAM) y licenciado en Derecho por el Instituto Tecnológico Autónomo de México (ITAM), de cuyo Departamento Académico es profesor de Teoría, Metodología y Filosofía del Derecho.