Sadin estuvo en Argentina presentando el libro La inteligencia artificial o el desafío del siglo. Allí analiza a través de ejemplos concretos cómo la IA coarta nuestra capacidad de actuar, reflexionar y vivir en libertad. Extractos de ese texto que invita a crear imaginarios por fuera de la tecnología, buscando pistas para no convertirnos en máquinas. 

Texto: Franco Ciancaglini

Foto: Sol Tunni

Eric Sadin llega tarde al evento. Contará luego las razones: además de que el Malbec de la noche anterior alteró su espíritu, obviamente no usa Waze, la aplicación que sugiere los “mejores” caminos a tomar para llegar más rápido a un lugar. Lejos de vanagloriarse de ese hecho, asegura haber entrado en pánico al sentirse perdido en Buenos Aires… Pero bueno, finalmente llegó, sin Waze. Y ahora sí, un salón entero del Malba se calzará los auriculares para escuchar la traducción de su verborragia francesa durante dos horas.

Sadin (que se pronuncia, se ve, “sadán”, y Éric con acento en la é) no parará de hablar, dando lugar a nomás dos preguntas porque, también lo explicará, estamos ante un momento crucial, clave y urgente. 

Y él, que viene de Francia, trae algunas noticias de aquel primer mundo y de cómo circula la data allí, para sellar su pacto con Argentina donde, dirá según la traductora en sus literales palabras finales, “hay mucho movimiento”. 

Uno de los puentes entre allá y acá fue Eduardo Febbro, corresponsal del diario Página/12 en París, que falleció hace poco y de quien Éric era amigo. Sadin comienza la charla con una semblanza de afecto y de recuerdo, de despedida y ritual, antes de pasar a hablar de cómo la inteligencia artificial nos está quitando este tipo de gestos humanos.

Por algo de esto, Sadin no accederá a que las cámaras fotográficas lo capten, ni con el fotógrafo oficial del evento, y en los momentos en los cuales detecte que hay flashes furtivos que le disparan se tapará la cara con una de sus manos.

La propuesta de la fótografa de MU, entonces, será cambiar la mano por su último libro, La inteligencia artificial o el desafío del siglo, editado por Caja Negra, que reseñamos a continuación. 

Extractos del libro

Una nueva “verdad”

Hay un fenómeno destinado a revolucionar de un extremo a otro nuestras existencias. Se cristalizó hace muy poco tiempo, apenas una década. Sin embargo, nos cuesta apresarlo del todo, como si estuviéramos todavía pasmados por su carácter repentino y su potencia de deflagración. (…) Podemos, sin embargo, identificar su origen: se trata de un cambio de estatuto de las tecnologías digitales. Más exactamente, del cambio de estatuto de una de sus ramificaciones, la más sofisticada de todas, que se ocupa de una función que hasta ahora nunca habíamos pensado atribuirle, y no solamente porque no formaba parte de nuestro imaginario, sino porque existían límites formales para hacerlo. De ahora en adelante ciertos sistemas computacionales están dotados –nosotros los hemos dotado- de una singular y perturbadora vocación: la de enunciar la verdad.

Automatizados

De ahora en más, la carga conferida a lo digital no consiste solamente en permitir el almacenamiento, la indexación y la manipulación más sencilla de corpus cifrados, textuales, sonoros o icónicos con vistas a diferentes finalidades, sino en divulgar de modo automatizado el tenor de situaciones de toda índole. Lo digital se erige como una potencia aletheica, una instancia consagrada a exponer la aletheia, la verdad, en el sentido en en el que la definía la filosofía griega antigua, que la entendía como develamiento, como la manifestación de la realidad de los fenómenos más allá de sus apariencias. Lo digital se erige como un órgano habilitado para peritar lo real de modo más fiable que nosotros mismos, así como para revelarnos dimensiones hasta ahora ocultas de nuestra conciencia.

Foto: Sol Tunni

Yo algoritmo

El otorgamiento de esta facultad no proviene de una conjunción azarosa o de una serie de acontecimientos no premeditada. Por el contrario, fue condicionado por un factor determinante: una amplia parte de las ciencias algorítmicas toma de ahora en adelante un camino resueltamente antropomórfico que busca atribuir a los procesadores cualidades humanas, prioritariamente aquellas de poder evaluar situaciones y sacar conclusiones de ellas. (…) Lo que hoy hace específicas a un número creciente de arquitecturas computacionales es que sus modelos son el cerebro humano, que suponemos encarna una forma organizacional y sistémica perfecta del tratamiento de la información y de la aprehensión de lo real.

El triple devenir

A tal punto esto es así que entramos en la era antropomórfica de la técnica. Pero no se trata de un antropomorfismo literal y estricto porque está marcado por una lógica propia, ya que se ve afectado por tres características. Primero, es un antropomorfismo aumentado, extremo o radical, que busca modelarse sobre nuestras capacidades cognitivas, ciertamente, pero presentándolas como palancas a fin de elaborar mecanismos que, inspirados en nuestros esquemas cerebrales, están destinados a ser más rápidos, eficaces y fiables que aquellos que nos constituyen. (…) Luego, se trata de un antropomorfismo parcelario: no tiene como vocación abarcar la totalidad de nuestras facultades cognitivas y tratar, como nuestras mentes, una infinidad de asuntos, sino que está solamente destinado a garantizar tareas específicas. Por último, es un antropomorfismo emprendedor, que no se conforma con estar dotado solamente de disposiciones interpretativas, sino que está considerado como un poder capaz de emprender acciones de modo automatizado y en función de conclusiones delimitadas. 

Este triple devenir antropomórfico de la técnica pretende ser explotado a fin de conducir a largo plazo a una gestión sin errores de la cuasi totalidad de los sectores de la sociedad.

Análisis robotizado

La inteligencia artificial no constituye una innovación más entre otras, sino que representa más bien un “principio técnico universal” basado sobre una misma sistémica: el análisis robotizado de situaciones de diverso orden, la formulación instantánea de ecuaciones, supuestamente las más acordes, y en general con vistas a emprender las acciones adecuadas correspondientes. Se supone que esta lógica se aplicará a largo plazo a todos los segmentos de la vida individual y colectiva en el marco de nuestras relaciones con nuestros cuerpos, con los demás, con el hábitat, o bien en el marco de la organización de la ciudad, de las redes de transporte, de los espacios profesionales de la salud, de las actividades bancarias, de las finanzas, de la justicia, de las prácticas militares, del futuro funcionamiento de los vehículos llamados “autónomos”. Asistimos a la emergencia de una tecnología de lo integral.

Humanidad para atrás

De ahora en más hay una tecnología que reviste un poder “conminatorio” mientras el libre ejercicio de nuestra facultad de juicio y de acción se ve sustituido por protocolos destinados a provocar inflexiones en cada uno de nuestros actos o cada impulso de lo real con vistas a insuflarles, casi de “soplarles”, la trayectoria correcta a adoptar. La humanidad se está dotando a grandes pasos de un órgano de prescindencia de ella misma, de su derecho a decidir con plena conciencia y responsabilidad las elecciones que la involucran. Toma forma un estatuto antropológico y ontológico que ve cómo la figura humana se somete a las ecuaciones de sus propios artefactos con el objetivo prioritario de responder a intereses privados y de instaurar una organización de la sociedad en función de criterios principalmente utilitaristas.

Visionarios vs. cascarrabias

Lo que es propio de los artefactos es que no se derivan de ningún orden natural, sino que son el producto de la acción humana y que interfieren en los asuntos humanos. Usar el término “exponencial” les permite a los nuevos “revolucionarios” de nuestro tiempo, a los súper héroes emprendedores y otros start-uppers visionarios, banalizar la idea según la cual las evoluciones técnicas, la inteligencia artificial en particular, se inscribiría en una trayectoria inevitablemente virtuosa de las cosas en la que habría que entrar por interés de todos. Los demás, los incrédulos, los críticos y todos aquellos que aspiren a modos de existencia no sistemáticamente adosados  a protocolos de guía automatizada, pasarán a ser cascarrabias, retrógrados que no entendieron nada del carácter excepcional y mesiánico de nuestra época, en la medida en que le corresponde a ella, según dicta el gran libro de la historia, erradicar todas las escorias de lo real. En los hechos, lo que caracteriza lo exponencial es que vuelve marginal –y aniquila a largo plazo- el tiempo humano de la compresión y la reflexión, privando a los individuos y a las sociedades de su derecho a evaluar los fenómenos y de dar testimonio – o no- de su consentimiento, en síntesis, de su derecho de decidir libremente el curso de sus destinos.

China, Rusia y el podio

La inteligencia artificial representa, desde inicios de los años 2010 el desafío económico que se juzga más decisivo y en el cual conviene invertir sin esperar y con determinación. Además de las empresas, también los Estados movilizan todos los medios necesarios para situarse en la vanguardia: de ahora en más, cada uno hace de ese objetivo una gran causa nacional. En las primeras filas encontramos a  Estados Unidos, que elabora planes estratégicos de envergadura (…). Sin embargo, hay muchas naciones que no se quieren quedar en el segundo puesto y manifiestan su voluntad de comprometerse en cuerpo y alma en esta feroz competencia planetaria. Primero China, que tiene la ambición de “subirse a lo alto del podio” en 2030 gracias a programas planificados con mucha precisión (….). Canadá pretende erigirse como un “polo mundial de la inteligencia artificial” y sostiene empresas y laboratorios con ayuda de generosos fondos públicos. Rusia, casi inexistente desde hace décadas en la industria electrónica, cuenta con convertirse en un actor central en ese campo que además reviste antes sus ojos alcance geopolítico.

Otra ética 

Cuando se quiere hacer gala de que se está fiscalizando a las tecnologías digitales, se invoca a la “ética”, como si blandir ese estandarte pudiera representar la defensa suprema que nos puede proteger contra sus desvíos principales. En verdad esta es una de las grandes confusiones de la época. ¿Cómo deberíamos entender la ética? Probablemente a partir de un umbral mínimo: el respeto incondicionado de la integridad y de la dignidad humana; el hecho de poder utilizar sin obstáculos la propia autonomía de juicio, de decidir libremente y en plena conciencia los propios actos, de gozar de partes de uno mismo que estén al abrigo de la mirada del otro, o incluso de no verse continuamente reducido a un estricto objeto mercantil (…) Nos consideramos libres, según la opinión generalizada, en la medida en que nadie contraría nuestra acción; dentro de esa perspectiva, la libertad política remite al espacio en el seno del cual cada uno puede actuar sin que lo impidan fuerzas coercitivas. (…) Pero lo esencial de lo que está en juego escapa a lo que entendemos según esta concepción, a saber, los modos de vida individuales y colectivos que están apareciendo en la actualidad y que están llamados a orientarse cada vez más por sistemas que nos quitan nuestra facultad de juicio y que no se encuentran nunca sometidos al prisma ético, mientras que deberían estarlo en la medida en que constituyen una ofensa a los principios jurídico-políticos que nos constituyen. En el arco opuesto a una ética reducida solamente a la esfera personal, sería tiempo de cultivar una ética de la responsabilidad que estuviera completamente preocupada por defender el derecho a la autodeterminación de todos y de la sociedad entera.

El fin de lo político

Y en este aspecto, la inteligencia artificial converge para organizar le fin de lo político, si entendemos lo político como la expresión de la voluntad general de suspender las decisiones, dentro de la contradicción y la deliberación, para responder lo mejor posible al interés común. (…) La inteligencia artificial llegaría entonces para ahuyentar nuestra vulnerabilidad, liberarnos de nuestros afectos en beneficio de una organización ideal de las cosas, haciendo desaparecer de algún modo la resistencia de lo real gracias a una capacidad de influir sobre la totalidad de los fenómenos que apunta hacia un horizonte que contiene una forma consumada y perpetua de la perfección.

¿Inteligencia? ¿Artificial?

Para hacer una exploración teórica a la altura de los dilemas de la época, conviene cuestionar primero la noción de “inteligencia artificial” desde su raíz, cuestionar incluso cómo la hemos llamado (…) En realidad, el principio de una inteligencia computacional modelada sobre nuestra inteligencia humana es erróneo, porque una y otra no mantienen casi ninguna relación de similitud. 

Esto es así por dos razones. La primera es que estas arquitecturas están desprovistas de cuerpos, y que representan solo máquinas de cálculos cuya función se limita al tratamiento de flujos informacionales abstractos. Y en el caso de que esas arquitecturas se encontrasen vinculadas con otras instancias mediante sensores, no harían sino reducir ciertos elementos de lo real a códigos binarios excluyendo una infinidad de dimensiones que nuestra sensibilidad sí puede capturar y que escapan al principio de una modelización restringida y sesgada de lo que supone el proceso de inteligencia, que es indisociable de su tensión con una aprehensión multisensorial y no sistematizable del medio ambiente: “Para decir las cosas fácilmente, el cerebro y los cuerpos están empapados en lo mismo y producen el espíritu de modo conjunto”.

La re-evolución

La segunda razón es que no existe inteligencia que pueda vivir aislada, encerrada en sus propias lógicas (…). La inteligencia es indisociable de las relaciones abiertas e indeterminadas con los seres y las cosas, de un contexto epigenético, o sea de un medio compuesto en el seno del cual evoluciona y se singulariza. No se caracteriza solamente por la facultad de adaptabilidad, como se repite con frecuencia según un estereotipo darwiniano simplista, sino más bien por la capacidad de modificarse gracias a la integración madura de nuevos conocimientos, por volver a cuestionarse luego de acontecimientos inesperados o palabras contradictorias formuladas por otro, hasta llegar, por la escucha atenta del canto (que nunca termina) de todas las diferencias, a desprenderse de algunos de sus esquemas que, tal vez equivocadamente, lo marcan.

El monopolio de la racionalidad

Por todas estas razones es imperativo no otorgar a estas lógicas el monopolio de la racionalidad, y hacer valer, contra un modo de racionalidad normativo que promete una supuesta perfección en todas las cosas, modos de racionalidad basados en la aceptación de la pluralidad de los seres y la incertidumbre fundamental de la vida. Tendremos que vivir en un conflicto de racionalidades en la medida en que cada una de ellas compromete valores y determina modalidades de existencia opuestas en todos los puntos. Esta debe ser una de las luchas políticas principales de nuestro tiempo. 

Manifestar el rechazo

Mientras los evangelistas de la automatización no dejan de emprender distintas acciones y de verse apoyados y celebrados en todo lugar, nos vamos deslizando hacia formas de la apatía; hemos renunciado a utilizar nuestro poder de actuar. Un movimiento contrario, que haga valer otros tipos de principios, ya no puede limitarse a la mera crítica, por más sustentada y argumentada que sea esta, sino que exige la expresión en acto de nuestras divergencias y de nuestra oposición. (…) Solamente los relatos múltiples acumulados de las experiencias vividas serán capaces de exponer los hechos en su cruda verdad, y para alentar formas de movilización en todas las escalas sociales. Probablemente nos hayamos desprendido del reflejo, que se revela muy saludable en ciertas circunstancias, de manifestar nuestro rechazo, en este caso respecto de ciertos dispositivos, cuando estimamos que ultrajan nuestra integridad y dignidad.

Contra-imaginarios

Pero paralelamente a la manifestación de nuestro desacuerdo, deberíamos también obrar para que emerjan contra-imaginarios, otros imaginarios, que se satisfagan con la trágica y feliz contingencia del devenir, en oposición a la voluntad de disponer de un dominio integral sobre el curso de las cosas. Los imaginarios actuales condicionan la posibilidad de erigir modos de vida que se resignen, sin resentimiento, a la imperfección fundamental de la existencia y que celebren la diversidad de los seres, la autonomía de la voluntad, nuestra aprehensión multisensorial de lo real, a la vez que busquen construir modos de ser en común que no hieran a nadie (…) Particularmente, se trata de la defensa de nuestra facultad de juicio, la más política de nuestras aptitudes mentales. (…) Este libro busca iluminar los términos de las alternativas de alcance civilizatorio en todo punto irreconciliables, y espera brindarse como una herramienta que permita, desde la suave sanación del tacto de las páginas impresas y al abrigo del ruido del mundo, hacer que nos podamos determinar mejor, en plena conciencia y responsabilidad.