El nuevo Golem
Abraham Nuncio

Monterrey.- La llamada inteligencia artificial. Sobre el tema cuyo tamaño es el del planeta, un par de reflexiones.

Mi punto de partida es la frase de Alfonso Reyes, que cito con frecuencia: “Todo lo sabemos entre todos.” Este saber colectivo del que cada uno de nosotros se apropia en lo individual es, justamente, una producción social. Es obra de todos los humanos a través de milenios. Su instrumental inteligente por excelencia ha sido y es el lenguaje. En cada palabra y sus diferentes usos, el lenguaje recrea el saber, cobra nuevos bríos y da lugar a iluminaciones imprevistas de la realidad, o bien la opaca, oculta y deforma.

El lenguaje es, sin duda, la matriz de la Inteligencia Artificial y nos entrega una ironía: el lenguaje humano, que es por naturaleza inteligente, se escribe con minúsculas y su criatura, la “inteligencia artificial”, se escribe con mayúsculas.

Otra ironía de nuestra condición como humanos dotados del formidable instrumento del conocimiento que es el lenguaje: no hemos agotado su rica cantera cognitiva y artística ni su potencial creativo, cuando ya la cibernética y sus aplicaciones digitales parecen reemplazarlo. Sobre todo porque ese potencial se ha ido empobreciendo en la medida que disminuye progresivamente la capacidad de apropiarse, por la lectura, que permite una mirada multidimensional de nuestro entorno en acto y de sus cambios permanentes.

La inteligencia artificial no es sino, como decía Borges en su poema El Golem, casi infinitas “permutaciones de letras y (a) complejas variaciones” de nuestra logósfera cuyo humus es el lenguaje. El lenguaje nos pertenece a todos pues obra es del conjunto de los seres humanos de hoy y de aquellos que nos precedieron en el tiempo. El de la IA obedece sin embargo al régimen dominante en el cual nace: el capitalismo que convierte en mercancía todo aquello que toca. Una mercancía por la que, dicho sea de paso, los dueños de las diferentes empresas de IA no pagan derechos de autor. Nosotros le entregamos al nuevo Golem, gratuitamente, en cada pregunta que le pedimos responder, el bien más preciado que tenemos; él nos lo regresa con un costo a pagar.

En cuanto a la tecnología llamada “Inteligencia Artificial”, el científico español Ramón L. Mántaras –fundador del Instituto de Investigaciones de Inteligencia Artificial– señala que es inapropiado llamar con este término al procesador masivo de información, que no es otra cosa la IA. Así se le da en llamar por dos razones: una tendencia, en vista del robot –otro artefacto– a antropomorfizar ciertas creaciones humanas, y el propósito de las empresas que venden los servicios de IA, como lo hace la publicidad respecto a cualquier mercancía, de anunciarlos con un lenguaje superlativo atribuyéndoles, debido a la competencia y el afán de lucro, características que no tienen. Simple Show Business. Es cierto, se han producido ya artefactos de IA que han mostrado capacidad generativa en el plano cognitivo; pero muy lejos están de hacerlo motu proprio, es decir, sin la voluntad y la intervención científico-tecnológica del programador que los ha preparado y entrenado para aflorar conocimientos nuevos. Más lejos se hallan –como lo fabulan ciertos relatos de ciencia ficción, tipo El centinela, de Arthur C. Clark (film de Stanley Kubrick, 2001: Odisea del espacio)– de adquirir iniciativas, como actos producto de la experiencia y, por tanto, de la conciencia. Con todo y la velocidad de los cambios que registran estos artefactos será imposible que en el futuro sus creadores (como insinúa Borges, ¿dioses?) puedan parir criaturas que compitan con el complejo biológico, empírico y sociocultural de los humanos.

Esta primera reflexión es sólo para situar críticamente, desde el punto de vista sociológico, a la Inteligencia Artificial. Pero estando entre nosotros –y, como se dice, para quedarse–, mal haríamos en sólo conformarnos con lo que hoy se ve que es o puede ser este “aprendiz de hombre” (no podemos olvidar que la guerra, antes y ahora, es la principal promotora y usuaria de las tecnologías más avanzadas) y no intentar emplearla para lo que debiera ser: un gran instrumento para alcanzar dimensiones civilizatorias superiores a las que la humanidad ha podido edificar, y por supuesto, para erradicar aquellas que han lastrado las satisfacciones básicas y posibles realizaciones de la mayor parte de los seres humanos; las que se traducen, ante nuestros ojos, en la destrucción de pueblos enteros y la depredación sistemática de la naturaleza al grado de poner en riesgo la vida en el planeta. Terminator ya está entre los humanos.

Tampoco puede soslayarse el hecho de que las empresas de IA no sólo buscan acumular poder económico sino poder político. El conjunto de los oligopolios de mayor tamaño en Estados Unidos se han aliado al aparato de gobierno de Donald Trump y aplican sus medidas y tendencias fascistas y comparten sus renovadas embestidas imperiales.

En el contrapunto del uso industrial y comercial que ya tiene la IA requerimos emprender una campaña general de alfabetización digital para dominar de manera óptima sus técnicas y recursos para ponerlos al servicio de la educación, acompañada de una campaña similar de alfabetización cultural –centrada en el lenguaje– cuyo objetivo no puede ser otro que engendrar o bien fortalecer la inteligencia crítica. Es esta, a mi parecer, la principal tarea de los educadores.

El lenguaje, como obra humana, tiene sus luces y sus sombras, según se apunta arriba. Nos aproxima a la realidad, aunque no siempre para liberarnos de las ataduras, limitaciones, sesgos, falsedades y ocultamientos que acechan en su seno. Para evitar que nuestro entorno nos encierre en una jaula de palabras –como decía Witgenstein– y, por el contrario, para buscar que las mismas nos liberen de los acarreos de la tradición, la inercia social, lo dado, el lugar común, los estereotipos y las opiniones infundadas e irresponsables, que se han potenciado en las redes sociales, es preciso cerciorarse de que las respuestas de la Inteligencia Artificial no nos alejen de la verdad.

La IA refrenda aquello que nos adelantó Jacques Derrida en el sentido de que todo es texto; dicho de otro modo, la verbalización constante de vocablos que entrañan cada uno de nuestros pensamientos, sensaciones y todo aquello que registran y expresan o quieren expresar nuestros sentimientos. Y algo más, nuestro propio yo y cuanto bulle en él son palabras, como expresaba Jacques Lacan. Por lo mismo, tenemos que tratar al Golem que hemos creado con el mayor cuidado y espíritu crítico.

¿De qué manera obtener aproximaciones las más válidas de las realidades que pretendemos conocer mediante el empleo de la IA? Como premisa requerimos disponer de una amplitud y dominio de nuestro universo vocabular, de manera que las preguntas que le formulemos a la IA sean las más informadas y pertinentes. Pero igual, si no contamos con esa amplitud y dominio del lenguaje, sin la capacidad de comprensión, fruto de su ejercicio, no nos será posible leer adecuadamente las respuestas de la IA. Y menos si pretendemos verificar que esas respuestas no disimulen, distorsionen u oculten significados de las realidades investigadas.

Aspecto fundamental de la IA en el ámbito de la educación es que introduce un modo de enseñar donde al educador no se lo puede seguir asumiendo como el dueño del estrado y la palabra dicha desde un talante jerárquico dentro de un formato rígido e incuestionable. Ese modo concuerda con el que desarrolló Paulo Freire, uno de nuestros grandes pedagogos. En adelante, el educador tendrá que ser un guía cuya tarea definitoria será la de proporcionar a los educandos caminos, herramientas y métodos que a ellos les permitan establecer un doble diálogo: con la IA, por un lado, y con el educador por el otro. Y este mismo ya no podrá limitar su profesión a ciertas lecturas manidas y una actitud rutinaria en relación con sus alumnos. El aprendizaje dialógico será mutuo, pues a cada respuesta del educando el educador tendrá que evaluarla confrontando su saber con el que la máquina le entregue como respuesta a sus preguntas y a las del educando.

La IA nos permite la reivindicación de Sócrates y su mayéutica, el método de preguntas y respuestas que el sabio ateniense ideó para llegar a la verdad. Podremos elevar su figura, con toda justicia, a la que unos mediocres representantes de la democracia ápoda de su tiempo condenaron a beber la cicuta, incapaces como fueron de apartarse de sus cartabones y prejuicios, empezando con el lugar que adoptaba al dialogar con sus conciudadanos. Ese lugar era el ágora (la plaza pública) y la calle, para los conservadores siempre ha sido sospechosa de sedición. Cambiados los términos, este fue el delito por el cual se llevó a Sócrates a juicio.

China –ya no es sorpresa–, iniciará a partir del próximo septiembre un nuevo programa educativo de carácter integral para escolares entre 6 y 15 años empleando la IA. Las autoridades chinas señalan que “comprender los principios de la inteligencia artificial será tan esencial como saber leer o escribir”. (https://es.gizmodo.com/china-redefine-la-educacion-del-futuro-asi-sera-la-ensenanza-obligatoria-de-inteligencia-artificial-desde-los-6-anos-2000160493).

En México algo se avanzó en las bases epistemológicas de la IA al problematizar el proceso educativo, con la pasada reforma educativa para la enseñanza básica. Solo sujetos ignorantes y zafios, como Ricardo Salinas Pliego, pudieron tildar a esa reforma de “comunista”.

Habrá que tener en cuenta, sí, algunas pistas para asegurarse de que la IA consultada no nos da gato por liebre. Como toda novedad con foquitos (las tecnologías que llegan a nosotros a través del mercado vienen en estuches estéticos, espectaculares y seductores), la IA se presenta como el nuevo oráculo si bien, precisamente porque aún se halla en etapa de desarrollo, algunas empresas dedicadas a comercializarla advierten, en algunas de sus respuestas, que el usuario hará bien en validarlas por su cuenta. Es decir, que en esta etapa, la propia IA nos invita a no dar por sentado aquello con lo que justifica su existencia y a desarrollar un espíritu crítico para encontrar respuestas que nos aproximen de la manera más objetiva a la verdad que nos proponemos conseguir.

El propósito, en estas líneas, no es ofrecer un mini prontuario de validación de los posibles escenarios que nos puede entregar la IA en términos de respuesta, sino sólo algunas ideas al respecto.

En principio se impone asumir que la IA tiene por modus operandi al algoritmo, y que el uso tendencial de este recurso es, aquí y ahora, el de controlar a los usuarios de cualquier dispositivo por Internet, condicionando sus propias elecciones y preferencias, para ceñirlos al orden social que sostiene al modo de producción capitalista.

Ya en el terreno específico de la IA y su funcionamiento, cabe indagar varias cuestiones:

Si la empresa de IA a la cual estemos consultando tiene por política de ética declarar públicamente cómo aborda el posible sesgo ideológico. Algorithmic Justice League o AI Now Institute investigan este tipo de sesgos.

Si informa sobre cómo entrena sus modelos de bases de datos, métodos de mitigación de sesgos, sistema de autocorrección informativa. Hay que tomar en cuenta que las plataformas de IA situadas en occidente obedecen a unos valores diferentes de las que se sitúan en el oriente del planeta. En el caso de encontrar sesgos relevantes, denunciarlos a DeepMind Ethics & Society o AI Incident Database, que registran esta clase de anomalías en el universo de la AI.

Si permite auditorías externas mediante las cuales haya sido evaluada.

Su consistencia conceptual haciendo la misma pregunta y en relación con la respuesta de otra plataforma de IA que sea ideológicamente distinta (p.e., DeepSeek contrastada con Gemini o al revés). También formulando la misma pregunta con redacciones diferentes desde puntos de vista distintos: uno moderado, otro radical; uno conservador, otro progresista.

Sus fuentes, pidiendo que la IA cite los documentos que consultó para elaborar su respuesta, o bien pidiéndole que ofrezca estudios o datos concretos en lugar de opiniones genéricas.

Las respuestas IA en código abierto (Mistral, Llama 2 de Meta) contrastándolas con aquellas de código cerrado (ChatGPT).

A esta nueva forma de enseñanza y aprendizaje se refiere el cambio que supone la presencia de la IA en el entramado educativo. Sus efectos pueden ser benéficos, sin duda, o bien tan perniciosos como para poner a la humanidad en el umbral de una tragedia genérica, tal como lo vio Stephen Hawking. Esto lo tiene que tener presente el educador, como fundamento de su compromiso profesional.


El Golem

Si (como afirma el griego en el Cratilo)/
el nombre es arquetipo de la cosa/
en las letras de rosa está la rosa/
y todo el Nilo en la palabra Nilo.

Y, hecho de consonantes y vocales,/
habrá un terrible Nombre, que la esencia/
cifre de Dios y que la Omnipotencia/
guarde en letras y sílabas cabales.

Adán y las estrellas lo supieron
en el Jardín. La herrumbre del pecado/
(dicen los cabalistas) lo ha borrado/
y las generaciones lo perdieron.

Los artificios y el candor del hombre/
no tienen fin. Sabemos que hubo un día/
en que el pueblo de Dios buscaba el Nombre/
en las vigilias de la judería.

No a la manera de otras que una vaga/
sombra insinúan en la vaga historia,/
aún está verde y viva la memoria/
de Judá León, que era rabino en Praga.

Sediento de saber lo que Dios sabe,/
Judá León se dio a permutaciones/
de letras y a complejas variaciones/
y al fin pronunció el Nombre que es la Clave,/

la Puerta, el Eco, el Huésped y el Palacio,/
sobre un muñeco que con torpes manos/
labró, para enseñarle los arcanos/
de las Letras, del Tiempo y del Espacio.

El simulacro alzó los soñolientos/
párpados y vio formas y colores/
que no entendió, perdidos en rumores/
y ensayó temerosos movimientos.

Gradualmente se vio (como nosotros)/
aprisionado en esta red sonora/
de Antes, Después, Ayer, Mientras, Ahora,/
Derecha, Izquierda, Yo, Tú, Aquellos, Otros.

(El cabalista que ofició de numen/
a la vasta criatura apodó Golem;/
estas verdades las refiere Scholem/
en un docto lugar de su volumen.)

El rabí le explicaba el universo/
“Esto es mi pie; esto el tuyo, esto la soga”./
Y logró, al cabo de años, que el perverso/
barriera bien o mal la sinagoga.

Tal vez hubo un error en la grafía/
o en la articulación del Sacro Nombre;/
a pesar de tan alta hechicería,/
no aprendió a hablar el aprendiz de hombre.

Sus ojos, menos de hombre que de perro/
y harto menos de perro que de cosa,/
seguían al rabí por la dudosa/
penumbra de las piezas del encierro.

Algo anormal y tosco hubo en el Golem,/
ya que a su paso el gato del rabino/
se escondía. (Ese gato no está en Scholem/
pero, a través del tiempo, lo adivino.)

Elevando a su Dios manos filiales,/
las devociones de su Dios copiaba/
o, estúpido y sonriente, se ahuecaba/
en cóncavas zalemas orientales.

El rabí lo miraba con ternura/
y con algún horror. “¿Cómo” (se dijo)/
“pude engendrar este penoso hijo/
y la inacción dejé, que es la cordura?”.

“¿Por qué di en agregar a la infinita/
serie un símbolo más? ¿Por qué a la vana/
madeja que en lo eterno se devana,/
di otra causa, otro efecto y otra cuita?”.

En la hora de angustia y de luz vaga,/
en su Golem los ojos detenía./
¿Quién nos dirá las cosas que sentía/
Dios, al mirar a su rabino en Praga?