Su último libro editado en Argentina, La inteligencia artificial o el desafío del siglo, analiza a través de ejemplos concretos cómo la IA coarta nuestra capacidad de actuar, reflexionar y vivir en libertad. Extractos de ese libro que invita a crear imaginarios por fuera de la tecnología, y de la charla en la que repasa las pistas para no convertirnos en máquinas. Por Franco Ciancaglini.

Eric Sadin llega tarde al evento. Contará luego las razones: además de que el Malbec de la noche anterior alteró su espíritu, obviamente no usa Waze, la aplicación que sugiere los “mejores” caminos a tomar para llegar más rápido a un lugar. Lejos de vanagloriarse de ese hecho, asegura haber entrado en pánico al sentirse perdido en Buenos Aires… Pero bueno, finalmente llegó, sin Waze. Y ahora sí, un salón entero del Malba se calzará los auriculares para escuchar la traducción de su verborragia francesa durante dos horas.

Sadin (que se pronuncia, se ve, “sadán”, y Éric con acento en la é) no parará de hablar, dando lugar a nomás dos preguntas porque, también lo explicará, estamos ante un momento crucial, clave y urgente. Y él, que viene de Francia, trae algunas noticias de aquel primer mundo y de cómo circula la data allí, para sellar su pacto con Argentina donde, dirá según la traductora en sus literales palabras finales, “hay mucho movimiento”. 

Uno de los puentes entre allá y acá fue Eduardo Febbro, corresponsal del diario Página/12 en París, que falleció hace poco y de quien Éric era amigo. Sadin comienza la charla con una semblanza de afecto y de recuerdo, de despedida y ritual, antes de pasar a hablar de cómo la inteligencia artificial nos está quitando este tipo de gestos humanos (ver recuadro La charla).

Por algo de esto, Sadin no accederá a que las cámaras fotográficas lo capten, ni con el fotógrafo oficial del evento, y en los momentos en los cuales detecte que hay flashes furtivos que le disparan se tapará la cara con una de sus manos.

La propuesta de la fótografa de MU, entonces, será cambiar la mano por su último libro, La inteligencia artificial o el desafío del siglo, editado por Caja Negra, que reseñamos a continuación. 

EXTRACTOS DEL LIBRO

Una nueva “verdad”

Hay un fenómeno destinado a revolucionar de un extremo a otro nuestras existencias. Se cristalizó hace muy poco tiempo, apenas una década. Sin embargo, nos cuesta apresarlo del todo, como si estuviéramos todavía pasmados por su carácter repentino y su potencia de deflagración. (…) Podemos, sin embargo, identificar su origen: se trata de un cambio de estatuto de las tecnologías digitales. Más exactamente, del cambio de estatuto de una de sus ramificaciones, la más sofisticada de todas, que se ocupa de una función que hasta ahora nunca habíamos pensado atribuirle, y no solamente porque no formaba parte de nuestro imaginario, sino porque existían límites formales para hacerlo. De ahora en adelante ciertos sistemas computacionales están dotados –nosotros los hemos dotado- de una singular y perturbadora vocación: la de enunciar la verdad.

Automatizados

De ahora en más, la carga conferida a lo digital no consiste solamente en permitir el almacenamiento, la indexación y la manipulación más sencilla de corpus cifrados, textuales, sonoros o icónicos con vistas a diferentes finalidades, sino en divulgar de modo automatizado el tenor de situaciones de toda índole. Lo digital se erige como una potencia aletheica, una instancia consagrada a exponer la aletheia, la verdad, en el sentido en en el que la definía la filosofía griega antigua, que la entendía como develamiento, como la manifestación de la realidad de los fenómenos más allá de sus apariencias. Lo digital se erige como un órgano habilitado para peritar lo real de modo más fiable que nosotros mismos, así como para revelarnos dimensiones hasta ahora ocultas de nuestra conciencia.

Yo algoritmo

El otorgamiento de esta facultad no proviene de una conjunción azarosa o de una serie de acontecimientos no premeditada. Por el contrario, fue condicionado por un factor determinante: una amplia parte de las ciencias algorítmicas toma de ahora en adelante un camino resueltamente antropomórfico que busca atribuir a los procesadores cualidades humanas, prioritariamente aquellas de poder evaluar situaciones y sacar conclusiones de ellas. (…) Lo que hoy hace específicas a un número creciente de arquitecturas computacionales es que sus modelos son el cerebro humano, que suponemos encarna una forma organizacional y sistémica perfecta del tratamiento de la información y de la aprehensión de lo real.

El triple devenir

A tal punto esto es así que entramos en la era antropomórfica de la técnica. Pero no se trata de un antropomorfismo literal y estricto porque está marcado por una lógica propia, ya que se ve afectado por tres características. Primero, es un antropomorfismo aumentado, extremo o radical, que busca modelarse sobre nuestras capacidades cognitivas, ciertamente, pero presentándolas como palancas a fin de elaborar mecanismos que, inspirados en nuestros esquemas cerebrales, están destinados a ser más rápidos, eficaces y fiables que aquellos que nos constituyen. (…) Luego, se trata de un antropomorfismo parcelario: no tiene como vocación abarcar la totalidad de nuestras facultades cognitivas y tratar, como nuestras mentes, una infinidad de asuntos, sino que está solamente destinado a garantizar tareas específicas. Por último, es un antropomorfismo emprendedor, que no se conforma con estar dotado solamente de disposiciones interpretativas, sino que está considerado como un poder capaz de emprender acciones de modo automatizado y en función de conclusiones delimitadas. 

Este triple devenir antropomórfico de la técnica pretende ser explotado a fin de conducir a largo plazo a una gestión sin errores de la cuasi totalidad de los sectores de la sociedad.

Análisis robotizado

La inteligencia artificial no constituye una innovación más entre otras, sino que representa más bien un “principio técnico universal” basado sobre una misma sistémica: el análisis robotizado de situaciones de diverso orden, la formulación instantánea de ecuaciones, supuestamente las más acordes, y en general con vistas a emprender las acciones adecuadas correspondientes. Se supone que esta lógica se aplicará a largo plazo a todos los segmentos de la vida individual y colectiva en el marco de nuestras relaciones con nuestros cuerpos, con los demás, con el hábitat, o bien en el marco de la organización de la ciudad, de las redes de transporte, de los espacios profesionales de la salud, de las actividades bancarias, de las finanzas, de la justicia, de las prácticas militares, del futuro funcionamiento de los vehículos llamados “autónomos”. Asistimos a la emergencia de una tecnología de lo integral.

Humanidad para atrás

De ahora en más hay una tecnología que reviste un poder “conminatorio” mientras el libre ejercicio de nuestra facultad de juicio y de acción se ve sustituido por protocolos destinados a provocar inflexiones en cada uno de nuestros actos o cada impulso de lo real con vistas a insuflarles, casi de “soplarles”, la trayectoria correcta a adoptar. La humanidad se está dotando a grandes pasos de un órgano de prescindencia de ella misma, de su derecho a decidir con plena conciencia y responsabilidad las elecciones que la involucran. Toma forma un estatuto antropológico y ontológico que ve cómo la figura humana se somete a las ecuaciones de sus propios artefactos con el objetivo prioritario de responder a intereses privados y de instaurar una organización de la sociedad en función de criterios principalmente utilitaristas.

Visionarios vs. cascarrabias

Lo que es propio de los artefactos es que no se derivan de ningún orden natural, sino que son el producto de la acción humana y que interfieren en los asuntos humanos. Usar el término “exponencial” les permite a los nuevos “revolucionarios” de nuestro tiempo, a los súper héroes emprendedores y otros start-uppers visionarios, banalizar la idea según la cual las evoluciones técnicas, la inteligencia artificial en particular, se inscribiría en una trayectoria inevitablemente virtuosa de las cosas en la que habría que entrar por interés de todos. Los demás, los incrédulos, los críticos y todos aquellos que aspiren a modos de existencia no sistemáticamente adosados  a protocolos de guía automatizada, pasarán a ser cascarrabias, retrógrados que no entendieron nada del carácter excepcional y mesiánico de nuestra época, en la medida en que le corresponde a ella, según dicta el gran libro de la historia, erradicar todas las escorias de lo real. En los hechos, lo que caracteriza lo exponencial es que vuelve marginal –y aniquila a largo plazo- el tiempo humano de la compresión y la reflexión, privando a los individuos y a las sociedades de su derecho a evaluar los fenómenos y de dar testimonio – o no- de su consentimiento, en síntesis, de su derecho de decidir libremente el curso de sus destinos.

China, Rusia y el podio

La inteligencia artificial representa, desde inicios de los años 2010 el desafío económico que se juzga más decisivo y en el cual conviene invertir sin esperar y con determinación. Además de las empresas, también los Estados movilizan todos los medios necesarios para situarse en la vanguardia: de ahora en más, cada uno hace de ese objetivo una gran causa nacional. En las primeras filas encontramos a  Estados Unidos, que elabora planes estratégicos de envergadura (…). Sin embargo, hay muchas naciones que no se quieren quedar en el segundo puesto y manifiestan su voluntad de comprometerse en cuerpo y alma en esta feroz competencia planetaria. Primero China, que tiene la ambición de “subirse a lo alto del podio” en 2030 gracias a programas planificados con mucha precisión (….). Canadá pretende erigirse como un “polo mundial de la inteligencia artificial” y sostiene empresas y laboratorios con ayuda de generosos fondos públicos. Rusia, casi inexistente desde hace décadas en la industria electrónica, cuenta con convertirse en un actor central en ese campo que además reviste antes sus ojos alcance geopolítico.

Otra ética 

Cuando se quiere hacer gala de que se está fiscalizando a las tecnologías digitales, se invoca a la “ética”, como si blandir ese estandarte pudiera representar la defensa suprema que nos puede proteger contra sus desvíos principales. En verdad esta es una de las grandes confusiones de la época. ¿Cómo deberíamos entender la ética? Probablemente a partir de un umbral mínimo: el respeto incondicionado de la integridad y de la dignidad humana; el hecho de poder utilizar sin obstáculos la propia autonomía de juicio, de decidir libremente y en plena conciencia los propios actos, de gozar de partes de uno mismo que estén al abrigo de la mirada del otro, o incluso de no verse continuamente reducido a un estricto objeto mercantil (…) Nos consideramos libres, según la opinión generalizada, en la medida en que nadie contraría nuestra acción; dentro de esa perspectiva, la libertad política remite al espacio en el seno del cual cada uno puede actuar sin que lo impidan fuerzas coercitivas. (…) Pero lo esencial de lo que está en juego escapa a lo que entendemos según esta concepción, a saber, los modos de vida individuales y colectivos que están apareciendo en la actualidad y que están llamados a orientarse cada vez más por sistemas que nos quitan nuestra facultad de juicio y que no se encuentran nunca sometidos al prisma ético, mientras que deberían estarlo en la medida en que constituyen una ofensa a los principios jurídico-políticos que nos constituyen. En el arco opuesto a una ética reducida solamente a la esfera personal, sería tiempo de cultivar una ética de la responsabilidad que estuviera completamente preocupada por defender el derecho a la autodeterminación de todos y de la sociedad entera.

El fin de lo político

Y en este aspecto, la inteligencia artificial converge para organizar le fin de lo político, si entendemos lo político como la expresión de la voluntad general de suspender las decisiones, dentro de la contradicción y la deliberación, para responder lo mejor posible al interés común. (…) La inteligencia artificial llegaría entonces para ahuyentar nuestra vulnerabilidad, liberarnos de nuestros afectos en beneficio de una organización ideal de las cosas, haciendo desaparecer de algún modo la resistencia de lo real gracias a una capacidad de influir sobre la totalidad de los fenómenos que apunta hacia un horizonte que contiene una forma consumada y perpetua de la perfección.

¿Inteligencia? ¿Artificial?

Para hacer una exploración teórica a la altura de los dilemas de la época, conviene cuestionar primero la noción de “inteligencia artificial” desde su raíz, cuestionar incluso cómo la hemos llamado (…) En realidad, el principio de una inteligencia computacional modelada sobre nuestra inteligencia humana es erróneo, porque una y otra no mantienen casi ninguna relación de similitud. 

Esto es así por dos razones. La primera es que estas arquitecturas están desprovistas de cuerpos, y que representan solo máquinas de cálculos cuya función se limita al tratamiento de flujos informacionales abstractos. Y en el caso de que esas arquitecturas se encontrasen vinculadas con otras instancias mediante sensores, no harían sino reducir ciertos elementos de lo real a códigos binarios excluyendo una infinidad de dimensiones que nuestra sensibilidad sí puede capturar y que escapan al principio de una modelización restringida y sesgada de lo que supone el proceso de inteligencia, que es indisociable de su tensión con una aprehensión multisensorial y no sistematizable del medio ambiente: “Para decir las cosas fácilmente, el cerebro y los cuerpos están empapados en lo mismo y producen el espíritu de modo conjunto”.

La re-evolución

La segunda razón es que no existe inteligencia que pueda vivir aislada, encerrada en sus propias lógicas (…). La inteligencia es indisociable de las relaciones abiertas e indeterminadas con los seres y las cosas, de un contexto epigenético, o sea de un medio compuesto en el seno del cual evoluciona y se singulariza. No se caracteriza solamente por la facultad de adaptabilidad, como se repite con frecuencia según un estereotipo darwiniano simplista, sino más bien por la capacidad de modificarse gracias a la integración madura de nuevos conocimientos, por volver a cuestionarse luego de acontecimientos inesperados o palabras contradictorias formuladas por otro, hasta llegar, por la escucha atenta del canto (que nunca termina) de todas las diferencias, a desprenderse de algunos de sus esquemas que, tal vez equivocadamente, lo marcan.

El monopolio de la racionalidad

Por todas estas razones es imperativo no otorgar a estas lógicas el monopolio de la racionalidad, y hacer valer, contra un modo de racionalidad normativo que promete una supuesta perfección en todas las cosas, modos de racionalidad basados en la aceptación de la pluralidad de los seres y la incertidumbre fundamental de la vida. Tendremos que vivir en un conflicto de racionalidades en la medida en que cada una de ellas compromete valores y determina modalidades de existencia opuestas en todos los puntos. Esta debe ser una de las luchas políticas principales de nuestro tiempo. 

Manifestar el rechazo

Mientras los evangelistas de la automatización no dejan de emprender distintas acciones y de verse apoyados y celebrados en todo lugar, nos vamos deslizando hacia formas de la apatía; hemos renunciado a utilizar nuestro poder de actuar. Un movimiento contrario, que haga valer otros tipos de principios, ya no puede limitarse a la mera crítica, por más sustentada y argumentada que sea esta, sino que exige la expresión en acto de nuestras divergencias y de nuestra oposición. (…) Solamente los relatos múltiples acumulados de las experiencias vividas serán capaces de exponer los hechos en su cruda verdad, y para alentar formas de movilización en todas las escalas sociales. Probablemente nos hayamos desprendido del reflejo, que se revela muy saludable en ciertas circunstancias, de manifestar nuestro rechazo, en este caso respecto de ciertos dispositivos, cuando estimamos que ultrajan nuestra integridad y dignidad.

Contra-imaginarios

Pero paralelamente a la manifestación de nuestro desacuerdo, deberíamos también obrar para que emerjan contra-imaginarios, otros imaginarios, que se satisfagan con la trágica y feliz contingencia del devenir, en oposición a la voluntad de disponer de un dominio integral sobre el curso de las cosas. Los imaginarios actuales condicionan la posibilidad de erigir modos de vida que se resignen, sin resentimiento, a la imperfección fundamental de la existencia y que celebren la diversidad de los seres, la autonomía de la voluntad, nuestra aprehensión multisensorial de lo real, a la vez que busquen construir modos de ser en común que no hieran a nadie (…) Particularmente, se trata de la defensa de nuestra facultad de juicio, la más política de nuestras aptitudes mentales. (…) Este libro busca iluminar los términos de las alternativas de alcance civilizatorio en todo punto irreconciliables, y espera brindarse como una herramienta que permita, desde la suave sanación del tacto de las páginas impresas y al abrigo del ruido del mundo, hacer que nos podamos determinar mejor, en plena conciencia y responsabilidad.

Sobre la verdad y la libertad, de Gran Hermano a Hamlet *

¿Qué sucede con el problema de la libertad?

Creo que lo que vivimos desde hace algunos meses con el chatGPT fue un fuerte de terremoto que llegó sin previo aviso, y que inclusive del mundo industrial no anticiparon la calidad del dispositivo: este repentino estallido de un sistema de máquinas que escriben de manera aparentemente humana es una deflagración que da cuenta de la velocidad del desarrollo tecnológico, o en realidad del desarrollo técnico económico (postulo yo que la técnica ya no existe, existe lo técnico-económico, ya que la enorme mayoría de la tecnología está determinada por intereses privados para poder responder a un afán de lucro).

Teníamos la impresión de que (la tecnología) respondía a un servicio público, a una capacidad de información, lo que creó percepciones bastante sesgadas y también autorizó efectos de ocultamiento. Sabíamos que todo ese conjunto técnico económico era principalmente producido por el mundo industrial y principalmente producido en Silicon Valley, pero solo unos años después nos percatamos de que se trataba de una poderosa epopeya industrial; epopeya que imaginó que todo era posible, que la visión del mundo (estoy hablando hace veinte años) y que el modo de vivir del el mundo estaba sujeta a una verdad, y que esa verdad había evolucionado…

Esa verdad, primero tuvo que ver con una conexión, con una vinculación tecnológica posible. En los años dos mil se llamó la era de la accesibilidad, y fue un terremoto alegre: poder acceder, a comunicarse, pese a las distancias físicas y a un precio relativo, marginal. Había que ser muy pesimista para quejarse de eso, y era difícil tener una postura crítica. Esa epopeya industrial que fue –como dije– alegremente acompañada por todos nosotros, apuntaba a esa conexión. Hay muchas cosas que decir sobre la ideología de la conexión, pero hoy diremos que las cosas evolucionaron, cada vez más rápido, con la idea de que esa velocidad era la vida, era el impulso vital. Ese ideologismo que se apropió de determinados ethos económicos, el impulso vital era la vida misma, y esa vida no podía ser contradicha. Y en un momento dado esa dinámica registró un viraje que todavía nos apaña, en el 2007. 

El 2007 es el momento en que la sociedad se hamletizó, es decir cuando la tecnología, como un fantasma, viene a revelar verdades y a precipitar acciones. En 2007, había un rumor en enero de ese año de que había una innovación que iba a cambiarlo todo. La gente que trabajaba en Apple decía: Steve Jobs va a presentar algo que va a cambiarlo todo. En esa época nadie podía suponer, nos siquiera el propio Jobs, cuánto iban a cambiar las cosas. Esa presentación sucedió con una dramatización a la californiana, una dramatización del empresario visionario, héroes en esa década del 2010… Esa dramaturgia fue espectacular: la figura del visionario que nos diga a dónde ir. Después de esa dramatización corre una especie de sabana, y ahí vemos el iPhone.

Ese brusco desarrollo de teléfonos “inteligentes” permitió que a partir de 2010 la Inteligencia Artificial tuviera una nueva dama que se consolida y se sofistica: las aplicaciones, tecnologías digitales que no solo almacenan, indexan, no solo reconocen… En el 2010 aparecieron nuevos teléfonos inteligentes, parlantes inteligentes, dispositivos que podían estar al alcance de todos… Y esta nueva rama fue lo que dotó a las tecnologías para evaluar lo real a velocidades superiores a nuestras capacidades cognitivas. Y a través de ellas, las aplicaciones. 

El caso de Waze es claro: no solo informa sino que nos sugiere. Es la primera vez en la historia de la humanidad que la tecnología nos indica actuar de una manera y no de otra. Y no se nos invita a actuar solo desde el marketing y la publicidad sino que son espectros que tienen el algoritmo de nuestras almas, de nuestras psiquis, para que actuemos: a eso me refiero cuando hablo de Hamlet.

Despejar nuestra facultad de juicio es un nuevo límite, ya no es el capitalismo de vigilancia. Eso generaba un ellos y un nosotros y hoy en día ese no es ese el problema. Estamos en el paso de 1984 a Hamlet. Eso no lo vimos venir, nos quedamos con George Orwell. Hamlet no es la bipartición, ya no es el Gran Hermano, sino el capitalismo de la administración de nuestro bienestar. ¿Qué significa? No están los malos que nos están vigilando, significa que si eso existe entonces nosotros nos vemos beneficiados. ¿Cuán bendecidos nos vemos, nos sentimos? De golpe ya no hay más distancias, entonces hay que ver qué provoca esto en nosotros.

¿Cómo se relaciona esto con la idea de “verdad”?

Porque cuando se habla de libertad, hay que hablar de verdad; a partir de qué actuamos, a partir de qué norma social, política, ideológica, a partir de qué verdad. Es algo clínico: se enuncia la verdad porque a diferencia de lo fáctico, eso se desprende de los hechos. La verdad siempre tiene una dimensión performativa. La verdad religiosa, por ejemplo, enuncia dogmas, relatos, leyes. Y si queremos suscribir a esas leyes nos completamos en virtud de eso. La verdad manda determinado comportamiento; las verdades son enunciadas, y hoy los actos que hay que realizar responden a las tecnologías digitales. Tecnología que enuncia la verdad.

Por eso debemos hablar de democracia, de pluralidad, de contradicción; esas verdades enunciadas en todos los campos, casi exclusivamente con miras a dos direcciones: a la primera la llamé la mercantilización de la vida. Y el problema es que no nos dejan ningún lugar vacante, hay una ideología que está por todos lados impregnando, que es un anti humanismo radical, ultra radical, ultra ultra ultra radical, inaceptable. La ideología es que dios no terminó su creación y el defecto somos nosotros, que hacemos cagadas, pero por suerte está la tecnología que lo va a corregir. Es un antihumanismo para encuadrar operaciones mercantiles. 

La segunda intención de esta enunciación de la verdad es una innovación digital que se ha convertido en una locura: todo era posible, el nuevo El Dorado, ni siquiera el cielo es el límite… Eso genera una visión hiperoptimizada de la sociedad. “El mejor de los mundos”… 

Viene el momento de la indistinción de la fuente: ya no sabremos quién ha creado. Algunos piden que se regule, pero no: hay que decir “basta”. Más allá de este límite, no pasarán. 

Hoy asistimos a una asimetría entre el gesto y la palabra. En redes sociales es un diluvio verbal. La tele, todo el mundo está dando su opinión, no hay un segundo de conciencia y dan su opinión, sobre todo. No solo hay un fracaso político aquí sino una trampa en la que hemos caído: es hora de no estar sometidos a discursos que nos enceguecen y en estos momentos en que quieren industrializar la imagen y palabra, hay que realizar las acciones que correspondan.

¿Cuáles son?

No tengo la respuesta. Pero hay dos cosas que no van a servirnos ya; ni la ética ni la regulación. Es la moral. ¿Queremos que sistemas escriban en nuestro lugar? ¿Qué los niños den instrucciones a sistemas? Eso debería movilizarnos en el campo de la medicina, de la justicia. Lo que nos corresponde no es hablar en la redes sociales, sino que nos corresponde colectivamente poner límites y volver a la frase de Camus: no pasarán. Son lógicas de interposición. Con el cuerpo.

*Fragmentos de la conversación con Margarita Martínez (investigadora traductora de sus libros), en   el Malba, el 4/05/22.