Eric Sadin. Foto: María Eugenia Ceruti
Con una mirada crítica y a la vez original sobre la tecnología que no recae sobre objeciones habituales como el saqueo de datos o la amenaza a las libertades individuales, el filósofo francés Eric Sadin dedica su nuevo libro, «La inteligencia artificial o el desafío del siglo», a caracterizar los efectos de esta fase -la más revolucionaria de la tecnología- que está provocando distorsiones en la percepción del mundo y ha desatado un antihumanismo radical que puede significar el fin de la especie humana.»Las tecnologías digitales se han convertido en órganos de toma de decisiones. En cierto modo, seremos menos llamados a dar instrucciones a las máquinas que a recibirlas de ellas», dice en entrevista con Télam el autor de libros como «La vida algorítmica» o «La siliconización del mundo».
El gran tópico de la producción de Sadin (París, 1972) es la intersección entre tecnología y sociedad, en especial los modos en que lo que llama tecnoliberalismo horadan el juicio crítico, convirtiendo las elecciones subjetivas en una práctica automatizada inducida por algoritmos que identifican patrones de consumo y nos alientan a participar continuamente en transacciones de mercado, un tema sobre el que se ha explayado también en artículos escritos para medios con los que colabora habitualmente, como Le Monde, Libération o Les Inrockuptibles.
El registro dramático que escoge el filósofo en «La inteligencia artificial o el desafío del siglo» (Caja Negra) para advertir sobre los efectos de la digitalización del mundo no es novedoso y ya había sido enunciado incluso por uno de los artífices de la inteligencia artificial (IA), Marvin Lee Minsky, que en 1970 llegó a vaticinar que cuando las computadoras tomaran el control, sería muy difícil volver a recuperarlo: «Sobreviviremos mientras ellas nos toleren. Si tenemos suerte, quizá decidan tenernos como sus mascotas», sostuvo por entonces.
Sin embargo, Sadin se las ingenia para no incurrir en las profecías más transitadas como la amenaza de robots depredadores o la vigilancia estatal y siembra su propio alerta apocalíptico: la idea de que la IA está impulsando un cambio antihumanista y antidemocrático, una alteración de la percepción del mundo que se produce a partir de aplicaciones presentes en la vida cotidiana -como diagnósticos médicos formulados por bots o programas de selección de personal que prescinden de la entrevista laboral- que enuncian conclusiones a partir de la habilidad para analizar y vincular a velocidad una cantidad de datos imposibles de ser procesados por el cerebro humano.
– Télam: En su libro plantea que se generó un cambio de estatuto de las tecnologías digitales que pasaron de almacenar datos a enunciar verdades a partir de la interpretación automatizada de situaciones ¿Cuáles serán los órdenes de la vida más afectados por este nuevo rol de la IA?
-Eric Sadin: Lo que caracteriza la inteligencia artificial es que es un poder de experiencia que mejora constantemente. Los sistemas ahora pueden analizar situaciones cada vez más diversas y revelarnos hechos, algunos de los cuales son ignorados en nuestra conciencia. Y lo hacen a velocidades que van más allá de nuestra capacidad cognitiva.
Estamos experimentando un cambio en el estado de las tecnologías digitales, que ya no solo están destinadas a permitirnos manipular la información para diversos fines, sino para revelarnos la realidad de los fenómenos más allá de las apariencias.Los resultados de sus análisis recuperan un valor de verdad en la medida en que, en el sentido de las conclusiones alcanzadas, nos llevan a iniciar las acciones correspondientes.
La IA ha representado, desde principios de la década de 2010, la cuestión económica considerada la más decisiva en la que es necesario invertir de forma masiva. Además de las empresas, también son los Estados los que movilizan todos los medios necesarios para estar a la vanguardia; ahora cada uno hace de este objetivo una gran causa nacional. A la vanguardia en ese sentido se encuentran Estados Unidos y China.
– T: Según su hipótesis, el propósito de este liberalismo digital es ir reemplazando a las personas y «robotizar» al ser humano ¿Seremos sujetos pasivos frente a esa deshumanización y perderemos toda capacidad de resistencia o las sociedades se sublevarán como lo hacen hoy frente al rebrote racial tras la muerte de George Floyd?
-ES: Este es un fenómeno único en la historia de la humanidad, que ve técnicas que nos ordenan actuar de tal o cual manera. Las tecnologías digitales, a partir de herramientas de apoyo a la toma de decisiones, se han convertido en órganos de toma de decisiones. En cierto modo, seremos menos llamados a dar instrucciones a las máquinas que a recibirlas de ellas. Esto puede variar desde un nivel moderado e inofensivo, por ejemplo a partir de una aplicación de entrenamiento deportivo que nos sugiera la utilización de un suplemento dietético, hasta un nivel prescriptivo en el caso del sector de reclutamiento laboral que ahora usa sistemas digitales para seleccionar los candidatos a una tarea.
El ejercicio libre de nuestra facultad de juicio es reemplazado por protocolos destinados a guiar y enmarcar nuestras acciones ¿Somos capaces de ver la ruptura político-legal que está teniendo lugar?
Eric Sadin. Foto: María Eugenia Ceruti
– T: ¿Cómo impacta esto en el mundo del trabajo?
– ES: Los diferentes sectores de las grandes compañías ahora están infiltrados con sensores que hacen posible una disposición dual: primero, el mapeo en tiempo real de las «medidas de desempeño», luego la implementación de sistemas destinados a promover gestos «buenos» a realizar. Estos procesos son ampliamente utilizados en los almacenes de Amazon, por ejemplo, pero se extienden mucho más ampliamente a todo el mundo industrial.
A partir de estos nuevas herramientas, se requiere que las personas retroalimenten las señales y se vean sujetas a cadencias extremas, sin poder expresar el más mínimo desacuerdo. Los cuerpos se ven privados de su subjetividad y su capacidad de iniciativa, y se miden y reducen continuamente a la ejecución de órdenes que emanan de programas que la mayoría de las veces son establecidos por empresas tercerizadas. Es hora de que los sindicatos aborden estas cuestiones de organización de conducta impersonal y altamente optimizada, que burlan la legislación laboral tanto como la dignidad humana.
– T: ¿Cómo complejiza la inteligencia artificial el proceso de debilitamiento del juicio crítico que describió en libros anteriores a partir de la aparición de los algoritmos que decodifican nuestros gustos? ¿Estamos una vez más frente a la reactualización de aquel concepto de Hobbes acerca del «hombre como lobo para el hombre» dado que es la especie humana la que dictamina los usos y abusos de la tecnología?
-ES: Estamos presenciando la marginación de la evaluación humana. En medicina, un campo que se supone que aprovecha los avances en inteligencia artificial, el diagnóstico del médico está obligado a ser progresivamente marginado por los sistemas. Porque la industria digital tiene la intención de tomar el control del campo de la salud.
En términos más generales, estamos ante la prohibición del ser humano como un ser activo, capaz de evaluar las cosas, a favor de sistemas que tracen el mejor marco supuesto del curso de nuestra existencia. La ciudad inteligente, por ejemplo, margina cualquier proyecto concertado en beneficio de los mecanismos que enmarcan nuestra vida cotidiana en los espacios urbanos. Estas son las señales lógicas están destinadas a establecer una mercantilización integral de la vida tanto como una visión higiénica de la sociedad.
– T: ¿Esta embestida tan radical de la tecnología sobre la subjetividad tiene algún correlato en ideas filosóficas o relacionadas con alguna corriente de pensamiento?
– ES: El movimiento tecnológico vigente durante quince años se sustenta en una visión del mundo que prevalece en los Estados Unidos, principalmente en California, según la cual Dios no completó la creación. El mundo está lleno de fallas, y el principal vector de estas imperfecciones son los humanos.
Pero hoy tendría lugar un «milagro»: el advenimiento de las llamadas tecnologías «exponenciales» que se supone corrigen, a largo plazo, toda la escoria del mundo, y esto a una velocidad exponencial. Esto dio lugar al movimiento transhumanista, para el que lo característico de la vida, es decir, la corrupción y el declive, puede erradicarse.
Es toda nuestra tradición humanista la que está en peligro en la medida en que estamos presenciando el destierro progresivo de los humanos como seres activos. Porque la inteligencia artificial margina el ejercicio de nuestra facultad de juicio e infringe nuestro derecho a determinarnos libremente y en conciencia.
Es entonces la singularidad de los seres y la pluralidad humana que se neutralizan gradualmente mediante modos automatizados de organización que persiguen el conflicto, la deliberación y la concertación, todos los principios que condicionan la vida política y democrática. Al esforzarnos continuamente por gobernarnos a nosotros mismos, estos sistemas establecen una relación estrictamente utilitaria con la existencia, suponiendo que toda acción debe apuntar a un fin, ya sea una supuesta comodidad o la optimización de secuencias de nuestras vidas.
– T: ¿Y qué se puede hacer para detener el progreso de este «Leviatán algorítmico» que pretende administrar nuestras vidas en cada detalle?
-ES: Estamos indefensos ante la velocidad de los desarrollos que nos impiden hablar en conciencia y que se presentan como inevitables. A medida que los evangelistas de la automatización mundial continúan emprendiendo, sin tener en cuenta todas las consecuencias civilizacionales, nos encontramos con apatía.
Primero es necesario contradecir los discursos tecnológicos y traer de vuelta los testimonios que emanan de la realidad en el terreno, donde operan estos sistemas, en el lugar de trabajo, en las escuelas, los hospitales …
Deberíamos mostrar nuestro rechazo hacia ciertos dispositivos cuando se considera que burlan nuestra integridad y nuestra dignidad.Todavía depende de nosotros promover otros modos de existencia que los basados en el deseo de optimizar todo y comercializar todo. Celebremos la pluralidad humana, que condiciona la política según Anna Harendt. Contra este asalto antihumanista, prevalezcamos una ecuación simple pero intangible: cuanto más tengamos la intención de renunciar a nuestro poder para actuar, más será necesario estar activos
