por Paul Ducay en Philitt.fr
Bruno Bérard es doctor por la École Pratique des Hautes Études (Religiones y sistemas de pensamiento). Consultor de estrategia y adquisiciones en la industria aeronáutica, es autor de ensayos sobre metafísica y filosofía política, entre ellos Jean Borella: la révolution métaphysique, après Galilée, Kant, Marx, Freud, Derrida (2006), así como Métaphysique du paradoxe (2019) y La Démocratie du futur (2022), publicados por L’Harmattan. Con el teólogo Johannes Hoff, cuyas investigaciones en el Instituto Von Hügel de la Universidad de Cambridge se centran en los retos antropológicos de la transformación digital, ha publicado Conversaciones con ChatGPT sobre el hombre, el mundo, Dios y la inteligencia artificial: Inteligencia o razón artificial (L’Harmattan). En él, revela que el término convencional IA se basa en un profundo malentendido: la confusión moderna de inteligencia integral con razón calculadora.
El reciente best-seller de Raphaël Enthoven «L’Esprit artificiel» (La mente artificial) fue la primera reacción largamente esperada del hombre contemporáneo a la irrupción de la inteligencia artificial en la vida cotidiana a través del agente conversacional ChatGPT desarrollado por la empresa estadounidense OpenAI. Sin embargo, esta reacción espontánea no va más allá del pensamiento del romántico, que cree que basta con oponer a la escandalosa racionalización de la existencia los derechos del sentimiento. Así, opone con razón a las máquinas el hecho de que, como explica Johannes Hoff, «los ordenadores no se rascan la cabeza porque los enigmas del mundo les llevan a los límites de lo concebible», que «los ordenadores no sueñan con un futuro en el que nadie ha estado nunca». De hecho, al contentarse con la «definición moderna de inteligencia», el observador crítico de este progreso tecnológico constata cómo esta noción humana de inteligencia sigue incluyendo aspectos demasiado amplios para aplicarse adecuadamente a la IA: en particular, Bruno Bérard enumera «la generación de conciencia, la autonomía volitiva y el comportamiento afectivo». Al romántico lúcido nunca le parecería razonable atribuir estas líneas de Musset a ninguna máquina:
¡Si aún fuera posible soñar despierto!
Y si el sonámbulo, extendiendo su mano,
No siempre encontró la naturaleza inflexible
Que se golpea la frente contra una columna de bronce.
En ausencia de encarnación, la cognición del sistema informático nunca estará sometida a la trágica alternancia del ser humano cuya vida oscila entre el sueño y la prueba de la realidad, que le saca de su sueño para confrontarle con nuevas verdades: pues la IA no sólo no busca la verdad, sino la probabilidad, sino que, para ella, la verdad nunca puede ser el fruto gracioso de una prueba. Así pues, antes que inteligente, la primera objeción es que la IA es artificial.
La inversión moderna de la inteligencia
Sin embargo, la duda persiste. Estas precauciones fenomenológicas, por necesarias y justificadas que estén, no aportan una solución duradera a la hipótesis, aparentemente muy paradójica, de la encarnación de la máquina. En el prefacio del libro, la investigadora Sarah Spierkermann, que preside desde 2009 el Instituto de Sistemas de Información y Sociedad de la Universidad de Economía y Empresa de Viena, define un «sistema de IA» como «un sistema informático integrado virtual y/o físico, capaz de ejecutar de forma independiente una amplia gama de funciones cognitivas […] basadas (…) en conjuntos de datos no estructurados y ricos en contenido»[1]. Ahora bien, dada la sofisticación progresiva de las prótesis mioeléctricas que reconstituyen las sensaciones nerviosas de los órganos amputados, no está en absoluto prohibido, en estas condiciones, prever la inserción de un sistema informático de este tipo dentro de un sistema físico que permitiría a la IA acceder a los estados de conciencia del ser vivo encarnado. Ante esta posibilidad, por hipotética que sea, la referencia al fenómeno de la carne ya no basta para establecer una distinción clara entre lo humano y el robot. En realidad, las convincentes reflexiones de Bruno Bérard tienen el mérito de desplegar una crítica de la IA que ya no se limita a las condiciones de manifestación de la inteligencia, a las que se limita la fenomenología de la carne, sino que se extiende a la esencia misma de la inteligencia considerada en sí misma y distinta de otras esencias, pues si es cierto que «nada hay en la inteligencia que no haya estado primero en los sentidos», como enseñaba Aristóteles, también debemos constatar con Leibniz: «si no la inteligencia misma».
De hecho, es la propia naturaleza de la inteligencia la que se ha perdido en la modernidad: «el apelativo de 1956 (del matemático e informático John McCarthy), ‘Inteligencia Artificial’, está muy presente en los tiempos modernos». Este apelativo es el resultado de una confusión entre razón e inteligencia que caracteriza toda la antropología establecida por los filósofos modernos. A este respecto, Bruno Bérard retoma los análisis decisivos de la antropología metafísica del último gran filósofo neoplatónico de la época contemporánea, Jean Borella, quien, en La Charité profanée (reeditada con el título Amour et vérité en 2011), traza la génesis de esta «reducción racionalista» en dos etapas. La primera etapa fue la confusión de intelectualidad y racionalidad por René Descartes quien, en el texto latino de su Segunda Meditación, estableció una equivalencia pura entre «intelecto» (intellectus) y «razón» (ratio), en contraste con la tradición filosófica anterior que, desde San Agustín hasta Santo Tomás de Aquino, casi siempre había distinguido entre ellos. A la confusión de las dos facultades siguió su inversión. Como resume Bruno Bérard, «la inversión de estas dos facultades, la razón y la inteligencia, es obra de Kant, que situó la razón en la cumbre de las facultades cognitivas al negar la posibilidad de la intuición intelectiva». Para Kant, la facultad superior del intelecto se convierte en «entendimiento» (Verstand, intellectus), inferior y subordinado a la razón (Vernunft), a la que coloca en una posición superior, sin atribuirle evidentemente las antiguas capacidades del intelecto, la de contemplar intuitivamente las esencias y los primeros principios del ser y del conocer. «De la confusión a la inversión negativa, éste es el camino recorrido por el pensamiento occidental»[2]: la deconstrucción de la metafísica por el humanismo moderno es paradójicamente lo que ha hecho posible esta «difamación del hombre» (S. Spierkermann) por la civilización tecnológica.
Los ordenadores y el olvido de Platón
Así que no es de extrañar que los técnicos y consumidores de la tecnología moderna atribuyan a esta forma de sistema informático dotado de independencia organizativa el impropio epíteto de «inteligencia». Pero por muy conveniente que sea, este epíteto no deja de ser «engañoso», ya que confunde dos facultades rigurosamente distintas: por un lado, «la razón es un poder de cálculo [y] razonamiento bajo la égida de la lógica», mientras que, por otro, «la inteligencia es la facultad de comprender estos cálculos y razonamientos». La diferencia entre razonamiento y entendimiento (o intelliger) nos la da Santo Tomás de Aquino, quien, en la Summa contra los gentiles (I, 57, §4), «distingue sutilmente entre el acto mismo de razonar, que consiste en ‘pasar de los principios a las conclusiones’ y el ‘juicio sobre un argumento’, que consiste en ‘mirar (inspicere) cómo la conclusión sigue a las premisas, considerándolas a ambas conjuntamente'»[3]. Sin embargo, el modelo computacional del sistema informático no incorpora en absoluto tal «mirada», tal contemplación de la necesidad que vincula las premisas de un razonamiento verdadero y no sólo probable.
La confusión de intelectualidad y racionalidad, tan característica de la interpretación dominante de la naturaleza y los poderes de la IA, es pues el resultado de un olvido de Platón 1. Del mismo modo que hemos tomado erróneamente la democratización de la información por una democratización del conocimiento, olvidando la gran lección del Teeteto donde Platón explicaba cómo no basta con poseer información, incluso precisa, para poseer conocimiento sobre ella -porque sigue siendo necesario saber justificarla y demostrarla rigurosamente-, del mismo modo, hemos olvidado esta «distinción inmemorial, formulada por Platón (República, VI, 511d-e): por un lado, el conocimiento hipotético-deductivo, el razonamiento discursivo (dianoia) de la razón (ratio), y, por otro, el conocimiento por intuición intelectual (noèsis) operado por la inteligencia (noûs, intellectus)».
Hay que decir, pues, que los problemas que plantea la IA nos obligan a volver a los principios olvidados de la metafísica tradicional y, en particular, a redescubrir la naturaleza y las implicaciones de la intuición intelectual. Por supuesto, debemos tener cuidado de no reducir las «tecnologías ‘transformadoras’ contemporáneas» a «loros estadísticos», como advierte Johannes Hoff, porque «no se contentan con reproducir datos preestablecidos, sino que incorporan un cierto nivel de aleatoriedad que puede sorprendernos». En particular, señala Bruno Bérard, estas tecnologías son «lo suficientemente sofisticadas como para permitir una mejora recursiva, al menos en forma de función de autoaprendizaje». Pero «reconocer rostros o palabras, ganar juegos estratégicos, automatizar automóviles, simular operaciones militares, organizar datos complejos, etcétera. Todo esto es puramente una cuestión de programación, cálculo y razonamiento automatizado«. Sin embargo, «reconocer el habla humana u organizar datos complejos» no es estrictamente lo mismo que «comprender el habla humana o interpretar datos complejos». El redescubrimiento de teorías del conocimiento mucho más completas e inequívocas que las establecidas desde la confusión cartesiana obliga por tanto a la claridad: la letra «I» de «IA», que significa «inteligencia», «debería sustituirse de iure por una ‘R’ para el término ‘razón'».
La inevitable pérdida de progreso
Comprender la naturaleza poco inteligente pero ratiocinante de la Razón Artificial (RA) debería a su vez permitir un uso racional, y no fascinado, de este conjunto de herramientas, que no debe sobrepasar su función de instrumento. Según Bruno Bérard, su «mala utilización», ya sea por parte del «usuario», ya sea porque se trata de una «tecnología imperfectamente dominada», o de una «combinación de ambas», podría acarrear riesgos potencialmente muy graves, en un momento en el que el desarrollo de la «energía mental [acumulada] por la humanidad» desde la «entrada en servicio de la calculadora secuencial automática IBM o Mark I» en 1944 tiende a alcanzar «el nivel de la energía mecánica más destructiva (bomba atómica)». Por ello, el único tipo de uso apropiado para la Razón Artificial, señala Johannes Hoff, es uno «más exploratorio y dialógico», consistente en utilizar sus sistemas como «herramientas de colaboración que aumenten nuestra propia inteligencia en lugar de limitarse a responder a preguntas preformuladas». De lo contrario, el desarrollo de la información será inversamente proporcional al conocimiento y la prudencia de una humanidad cada vez más esclava de sus propias herramientas, en las que sigue exteriorizando su capacidad específica de actuar y razonar.
Una antigua meditación china muestra, sin embargo, que la forma de utilización no basta para evitar el problema. Mientras que las necesidades vitales no pueden sobrepasar un cierto límite («por ejemplo, nadie querrá o podrá comer cinco veces al día»), «las necesidades no vitales, en cambio, parecen indefinidas, sobrepasan lo que la tierra puede proporcionar». Ahora bien, en el siglo IV a.C., el sabio Zhuang Zhou (cap. XII, 11) utiliza la parábola de un Jardinero que está agotado de bajar constantemente al fondo de un pozo para llenar su cántaro de agua, y a quien Zigong ofrece regalarle un «chadouf»: una «máquina hecha de madera con un lomo pesado y un frente ligero», «que saca agua al levantar el brazo». A esta propuesta, el sabio jardinero ofrece una respuesta que no ha perdido nada de su actualidad (traducción de J.-L. Lafitte):
He oído decir a mi maestro que quien utiliza el artificio trabaja con artificio, que quien piensa con artificio pierde su pureza, que quien pierde su pureza pierde su paz mental y que la Vía no apoya a quien ha perdido su paz mental. No es que no conozca las ventajas de esta máquina, pero me avergonzaría utilizarla (Zhuangzi, XII, 11).
Zhuang Zhou explica, en palabras de Bruno Bérard, «que el beneficio cuantitativo no lo es todo -proponiéndose esencialmente crear nuevas avideces- y que también debemos considerar que la herramienta transforma a la persona que se la apropia, así como a la sociedad en su conjunto». El progreso cuantitativo puede ir acompañado de un retroceso cualitativo, del mismo modo que un beneficio cualitativo en un aspecto puede ir acompañado de una pérdida cualitativa en otro: también en este caso, basta pensar en Platón, para quien la escritura era un remedio colectivo contra el olvido, pero un veneno personal para la memoria. ¿Y qué perdemos explorando el abismo entre la complejidad desenfrenada de la tecnología y el conocimiento cada vez más tenue que el público tiene de sus máquinas? ¿Acaso el desarrollo técnico en el mundo moderno no consolida cada vez más el mecanismo de opresión que Simone Weil identificó en el divorcio entre «los que piensan» y «los que hacen»?
[1] ver su artículo : https://metafysikos.com/es/sobre-la-diferencia-entre-inteligencia-artificial-e-inteligencia-humana-y-las-implicaciones-eticas-de-la-inteligencia-artificial-y-la-inteligencia-humana-cuando-se-confunden/
[2] Jean Borella, Amour et vérité. La voie chrétienne de la charité, cap. VII, 3, 1: «Intellect et raison», L’Harmattan, coll. Théôria, París, 2011, p. 112.