En un episodio de la comedia La vicaria de Dibley, los feligreses se reúnen para decidir cómo levantar el ánimo de la vicaria Geraldine después de su ruptura con el mujeriego Simon. Alice ―la sacristana tonta, aunque creativa― tiene una solución. “¿Conocen la serie Caminando entre dinosaurios?”, se anima a preguntar. “Recrearon los dinosaurios digitalmente, solo valiéndose de una computadora. Se me ocurrió que quizá podríamos hacer lo mismo con el tío Simon”. El Sr. Horton, el capillero, responde secamente: “¿Recrearlo digitalmente?”. “Exacto”, dice Alice, “Y luego enviaríamos al Simon digital por toda la vicaría”. Transcurre un instante y el Sr. Horton aclara: “¿Así que obtenemos un humano holográfico y bidimensional que se case con la vicaria?”. Alice asiente y el Sr. Horton busca apoyo en derredor para responder a su sugerencia técnicamente imposible y moralmente absurda. “¿Alguien se da cuenta del defecto que tiene este plan?”, pregunta. Nadie responde y se aprueba la moción de Alice.

Cuando trabajo en investigación en inteligencia artificial desde que el ChatGPT fue lanzado, a menudo me siento como el desventurado Sr. Horton. Nosotros, los investigadores, estamos rodeados por observadores y sus sugerencias, algunas de las cuales no proponen objetivos ni métodos deseables en el ámbito de la realidad. Por ejemplo, algunos sugieren externalizar la enseñanza media y superior a través de un chatbot. Sus imprecisiones “pueden ser fácilmente mejoradas”, afirma un secretario académico del Instituto de Tecnología de Rochester. “Solo se necesita entrenar al ChatGPT”. O, como el año pasado sugirió el empresario tecnológico Greg Isenberg, podemos encargar a un modelo de lenguaje (LM) que escriba y comercialice la próxima Gran Novela Estadounidense; todo lo que debemos hacer es programar y “comenzar a vender”. Cada vez que un personaje público alienta este tipo de aplicación ilimitada y poco realista de la tecnología de los LM a tareas demasiado humanas para ser moralmente tolerada, oigo la voz preocupada del sacristán: ¿Recrearlo digitalmente? ¿Alguien se da cuenta del defecto que tiene este plan?

Sin embargo, en muchos casos, los congregados en la sacristía han aceptado las discutibles mociones. Los LM modernos han lanzado un millar de startups en alza y un millar de incómodos artículos de opinión. Muchos dudan acerca de la sabiduría de aplicar apresuradamente la tecnología de los LM a áreas clásicamente situadas en el núcleo de la creatividad humana ―escribir, enseñar, interpretar―, en especial a medida que el público general descubre lo que los investigadores en aprendizaje automático ya saben: los LM no son omniscientes y pueden, de hecho, generar basura. Además, algunos están preocupados porque, si los LM son por naturaleza máquinas generadoras de basura, ¿usarlos nos relega a la mediocridad? ¿Dejaremos que nuestra creatividad humana se atrofie? Y, hablando seriamente, ¿a qué necesidad real ―no simplemente el deseo por tener el último retazo de beneficio a costa de la actividad humana― dan respuesta los LM?

¿Por qué razón los LM, de pronto y dramáticamente, captaron nuestra atención? ¿En qué punto la Iglesia debería decir: “Hasta aquí y no más”? Pocos están capacitados para analizar este estancamiento, pero en mi condición de investigadora en discurso y lenguaje de IA y como cristiana , intentaré abordar la tarea.

La reacción pública al lanzamiento de ChatGPT en noviembre de 2022 excedió las expectativas de la industria. OpenAI, la compañía que creó esta herramienta, había denominado el lanzamiento “un avance informal de investigación” y varios pertenecientes a la comunidad más amplia de investigadores estuvieron dispuestos a considerarlo como otra mejora progresiva aunque espectacular en la larga fila de la investigación sobre los LM. Los LM son un caballito de batalla de modelo estadístico que, como quizá el público ya sepa, tienen una tarea: devolver el siguiente elemento más probable en una secuencia. Un LM va a predecir “tapete” si se le da como insumo “el gato se sentó en el”, porque, de modo aproximado, le proporcionamos un recuento de cuántas veces “tapete” apareció en ese contexto en otros corpus textuales, y si ese recuento es lo suficientemente alto, lo establecemos para producir, dado el contexto, ese elemento. Durante décadas, los LM han impulsado aplicaciones comunes de IA, incluyendo sugerencias predictivas de texto en el tuit que uno está escribiendo o en el último correo electrónico, por lo tanto, me pregunto por qué esta explosión actual del interés público.

Los chatbots actuales ofrecen el deslumbrante peligro de la gratificación instantánea. Productos como ChatGPT son, en sentido estricto, no solo un LM, sino un LM más una directriz estadística para facilitar un formato de pregunta y respuesta, más una hábil interfaz web que permite a cualquier persona en el mundo tipear una consulta y recibir una respuesta rápida. Este marco de chatbot es técnicamente contingente. Pero es retórica y psicológicamente poderoso, un rápido círculo de retroalimentación tan sencilla de acceder que ha enseñado implícitamente al público que el propósito de un LM es generar contenido a pedido.

Y generar respuestas. Nuestra tendencia a confundir respuestas rápidas con respuestas correctas cuando hablamos con humanos también se transfiere al chatbot, que no podemos evitar personificar. Un chatbot rápido y con apariencia confiable puede imitar la voz autoritaria de una obra de consulta, y puede partir de y contribuir a nuestros hábitos de pereza cuando vamos en busca de la verdad, así como de nuestra impaciencia cuando interactuamos con otros.

Cuando “Padre Justino,” un chatbot diseñado para responder consultas sobre la fe católica, empezó a dar consejos heréticos e incluso ofreció a un usuario la absolución tal como lo haría un sacerdote verdadero, generó preguntas sobre los límites de IA en el ámbito eclesial. Captura de pantalla/Catholic Answers.

Los investigadores saben ―aunque rara vez lo comuniquen eficazmente― que las aplicaciones indispensables de los LM están solo un nivel más profundo que el paradigma de chatbot “escriba su consulta, obtenga contenido”. Eso es así porque los LM son solo accidentalmente máquinas de contenido; son sustancialmente una representación estadística densa de relaciones entre palabras. Suscitar esas relaciones para lograr una tarea transformadora puede ser valioso. Tomando mucho de la máxima de John Firth sobre semántica distributiva, “Se conoce una palabra por su contexto”, los LM condensan y almacenan información acerca de la distribución completa de palabras en todos los textos que ven. y su producción de resultados son un estudio matemático del lenguaje como se usa realmente, y los investigadores pueden aprovechar, y aprovechan, esa información para no ahogarnos con correo basura, sino para promover nuestro bien.

Es posible utilizar una imprenta para imprimir una difamación. Pero no es para eso que fue creada. Entonces, ¿para qué deberían servir los LM?

Ya son parte de los muchos sistemas que humanizan y no alienan: reconocimiento de voz cuyas transcripciones son importantes herramientas de accesibilidad para las personas sordas, traducciones que permiten la comunicación a inmigrantes en apuros, sistemas de registro que alivian las cargas de documentación a los profesionales médicos y les permiten pasar más tiempo junto al paciente. Su valor puede incluso beneficiar a aquellos ámbitos desde donde vino la información. Los LM están ayudando a descifrar lenguas muertas, restaurar antiguas inscripciones perdidas y predecir estructuras de proteínas. Son herramientas que, en manos de investigadores audaces y, sí, empresarios, están bien adaptadas para facilitar nuestra exploración del mundo y nuestro acercamiento mutuo. Pero ninguna de dichas aplicaciones usa los LM como máquinas de contenido barato; son más difíciles de entender (y obtienen menos prensa) que las respuestas instantáneas que proporciona un chatbot impresionante o deplorable. Nuestros períodos de atención se han acortado; nuestra demanda de contenidos es alta. En un sentido, lo que merecemos es el tenso debate acerca de los LM.

¿Y qué pasa con la Iglesia? Algunos clérigos han manifestado su preocupación acerca de la IA en general, que va desde lo pastoral ―¿cómo debería un sacerdote ayudar a un parroquiano después de un despido automatizado?― a lo teológico ―¿un LM puede estar poseído por un demonio? (Y, en ese caso, ¿se trata del mismo demonio que siempre aparece en la impresora cuando llega el momento de elaborar boletines durante la Semana Santa?). Otros son más optimistas con respecto a la posible eliminación del trabajo pesado. Esta división refleja la existente en la discusión pública de la IA, con una facción que desea tomar el fruto al alcance de la mano, en tanto la otra afirma que, desde el principio en el Jardín, el conocimiento acerca de saber cuándo tomar el fruto adecuadamente rara vez ha sido el punto fuerte de la humanidad. El hecho es que, si la Iglesia implementa sugerencias acerca de cómo usar los LM que sean tan superficiales y deshumanizantes como las sugerencias que últimamente han surgido de la sociedad secular, lo lamentaremos.

La primera sugerencia real para el uso de los LM en la Iglesia es aprovecharlos para la organización de materiales basados en el lenguaje. Muchas tecnologías de asistencia útiles surgen de esto: subtitulación, transcripción, servicios de traducción, búsqueda de sermones anteriores o documentos de referencia, y así. En la medida que estas ideas aumenten el acceso a la vida de la Iglesia, pueden ser saludablemente aplicadas. Pero dos peligros acechan en la esquina.

Una tentación consiste en pasar de usar los LM para organizar textos a usar los LM para interpretar textos, incluyendo el texto principal, la Biblia, con el que debería lidiarse y que debería ser interpretado en la comunidad humana unida por el poder del Espíritu Santo. Algunos entusiastas han aconsejado a los pastores que ahorren tiempo usando los LM para producir oficios religiosos y generar reflexión comunitaria en torno a los estudios bíblicos, pero no es posible eliminar la humanidad de ellos y continuar siguiendo el llamamiento a la lucha personal y comunal que exigen las Sagradas Escrituras.

Técnicamente, los beneficios disminuirán debido a la naturaleza de los LM: darán como respuesta un texto superficial con probabilidad de estar sesgado hacia cualquier texto religioso que aparezca en su corpus de entrenamiento. Desde un punto de vista espiritual, en tanto los LM pueden organizar un texto eficazmente, no pueden “leer, marcar, aprender” ni “asimilar internamente” dicho texto. Lo que los humanos hacen en su ser interior es meditar acerca de las palabras divinas. Esto no podría ser automatizado ni técnica ni moralmente. María no hubiera podido derivar a un LM la tarea de reflexionar acerca de las palabras del ángel, no solo porque el objetivo de una predicción del próximo elemento por parte de un LM no es reflexionar, sino también porque le hubiera negado esa destreza lingüística para formarla. Un pastor podría proporcionar a su congregación un estudio bíblico escrito por otro pastor o por un padre de la Iglesia, pero su autor es aún una persona relacionada con la Iglesia universal, un especialista interno, quien, a pesar de haber muerto, está vivo en Cristo y verdaderamente ayuda a formar la congregación. Rechazar esto en favor de un texto artificialmente generado es una afrenta a la realidad de la comunión de los santos.

Algunas funerarias japonesas usan androis para cantar sutras sobre los difundos y grabar los servicios en vivo para los familiares que no pueden asistir. Fotografía de Aflo Co. Ltd. / Alamy. Usado con permiso.

Algunos han alentado el entrenamiento de chatbots basados en los LM en la Biblia; otros, aunque simpatizan con la idea, han exhortado a aquellos profesionales del aprendizaje automático a levantar vallas de contención para asegurar que dichos LM devuelvan un texto congruente tanto con la Biblia como con las posturas teológicas de sus usuarios. Como una entre esos profesionales, quiero ser clara en esto: no hay modo de garantizarlo. Puesto que los LM no están compuestos por información recuperable ni por reglas interpretables codificadas manualmente, sino por reflexiones estadísticas bastante abstractas a partir de los datos de entrenamiento, imponer absolutamente dichas vallas de contención es un problema no resuelto para el cual puede no haber una respuesta definitiva. Los LM no buscan información. No funcionan de ese modo. Eso hace que los LM sean una respuesta básicamente inadecuada para tratar la Biblia, donde la precisión en la recuperación de la información y la fidelidad interpretativa no son negociables. Los ingenieros saben que la construcción de un puente con el material incorrecto provocará su caída, y los buenos ingenieros se rehúsan a construir malos puentes; el que lee, que lo entienda.

Otra tentación es pasar de usar los LM para organizar el contenido eclesial a usarlos para mercantilizar ese contenido. En nuestra era pospandemia cuando trasmitimos todo en línea, la tendencia a transformar actos de culto en actos de marketing es casi irresistible, y los sermones se vuelven un objetivo simple para caer en esta trampa. La externalización sigue a la mercantilización, que aquí podría resultar en una negativa rotunda del deber de predicar. Algunos líderes en mi propia Iglesia episcopal ya están ubicados en esta situación peligrosa; colocan lo sermones en la misma categoría que los anuncios parroquiales, elementos cuya automatización liberará al clero para que, supuestamente, hagan verdadero trabajo pastoral.

La idea de Karl Barth acerca de la prédica como una exposición de la Palabra de Dios es un contrapeso útil ante estos planes para tener sermones generados por los LM. Cuando un sermón está preparado por un ministro y es proclamado a la gente a través de la Iglesia, el Espíritu Santo ayuda a predicarlo y lo transforma en la misma palabra de Dios para quien lo escucha. No todas las denominaciones estarán de acuerdo con esta perspectiva semisacramental de la prédica, pero todas deberían estar de acuerdo en que tomar una muestra de un predictor de palabras es un sustituto inadecuado y antiético de la misma. Un pastor es responsable por la formación espiritual de la congregación, para la cual la prédica es algo central. ¿Quién podría delegar esto en una máquina que produce textos? Una herejía generada accidentalmente es un fracaso técnico; un pastor que se rehúsa a hablar desde el corazón y prefiere generar las secuencias de palabras más probables para un sermón ante la congregación a su cuidado es un fracaso moral.

La última parada en esta dudosa trayectoria carga los LM con la tarea de composición litúrgica. Los congregantes en una iglesia bávara que intentaron esto encontraron que el servicio era banal e inquietante; algunos incluso se rehusaron a rezar el Padrenuestro. Su incomodidad estaba bien fundamentada: este tipo de uso de los LM interfiere con la singular vocación de los humanos dentro de la adoración de Dios por parte toda de la creación y crea un absurdo litúrgico que sentimos como un presentimiento.

Toda la creación expresa una cacofonía de alabanza a su Creador. “Un día transmite el mensaje al otro día” de la gloria de Dios, dice el salmista, cuando “sin palabras, sin lenguaje (…); sus palabras llegan hasta los confines del mundo” (Sl 19:2-3). En Isaías, leemos que “a su paso, las montañas y las colinas prorrumpirán en gritos de júbilo y aplaudirán todos los árboles del bosque” (Is 55:12). Sin embargo, Dios elige a una criatura para que recoja las ruidosas voces de la creación y las consolide en una expresión ordenada: el ser humano, a quien Dios dotó con las más ricas facultades lingüísticas. Los poderes de la lengua son integrales para nuestro ser hecho a la imagen de Dios. A través de ellos, podemos de un modo racional organizar la creación, colocarnos en posición de dominio sobre ella y promoverla, promulgando la bondad de Dios hacia ella y fomentando la cosecha de sus alabanzas para ofrecérselas a Dios. “Obra del Señor, bendecid al Señor”, nos insta a clamar el libro de oraciones antes de enumerar dicha obra, desde el relámpago y las nubes hasta las ballenas y todo lo que se mueve en el agua. “¡Bendecidlo y ensalzadlo por siempre!”.

El humano es el sacerdote de toda la creación; media entre sí mismo y Dios, en parte gracias al poder ordenador del lenguaje. Este sacerdocio es de todos los creyentes, así como las facultades lingüísticas son universalmente inherentes en nosotros in potentia (y, en la práctica, mucho más allá de lo que podríamos pensar; en efecto, los bebés sordos balbucean de un modo estructurado con las manos, y los lenguajes de señas poseen sistemas fonólogicos y sintácticos completos).

Cuando eludimos nuestro deber de usar nuestras facultades lingüísticas para adorar a Dios, la infracción es múltiple: no solo fallamos en ofrecer nuestro propio sacrificio de alabanza y rechazamos a Dios, quien podría respondernos en bondad, sino que también privamos a todas las cosas creadas de unir sus expresiones naturales de alabanza a las nuestras. “Aquel que se abstiene de alabarte y elogiarte / No solo se abstiene para sí” advierte George Herbert, “Sino que priva a miles que te alabarían de buena gana / Y cometen un mundo de pecado en uno”. El poeta tiene la obligación de cantar: el poeta también necesita cantar por su propio bien, pues su canción, que se eleva a Dios, lo cambia. Dado esto, la idea de que los liturgistas entreguen su tarea a los LM es absurda, tan ridícula como un hombre cuya hija necesita una cirugía y que, en su lugar, envía una calculadora para que sea operada. Presentamos una máquina muda en nuestro lugar, escondiéndonos de Dios, quien nos oye cuando llamamos y nos transforma cuando lo pedimos, y causando un daño colateral a otras criaturas a nuestro cuidado.

Fotografía de Valaurian Waller. Usado con permiso.

En lugar de eso, los cristianos deben mirar hacia Jesús. La Palabra de Dios, que proviene de la boca del Altísimo, se hizo carne. Asumió la materialidad y la condujo a la mano derecha del Padre en su ascensión. Él es el gran sumo sacerdote que media entre Dios y la creación, a través de quien toda la creación será redimida en el último día. Comparte nuestra humanidad, recogiendo en él las alabanzas ruidosas y, a menudo, increíblemente laterales de nuestra vida humana y ordenándolas según la divinidad del Logos, y llama a los cristianos para que lo sigan en este camino. Por lo tanto, nosotros no podemos abandonar nuestro rol de orquestar, a través de nuestro propio lenguaje, el culto en el que toda la creación participa. Externalizar esto a un generador de texto es en extremo absurdo, una abdicación casi literal al trono que Dios erigió para los seres humanos quienes, hechos un poco por debajo de los ángeles, tienen todo bajo su dominio a través de Jesús, la Palabra eterna, hombre verdadero y, aun así, el mismo Dios.

¿Dónde deja esto a la Iglesia? La obsesión por los LM como generadores de contenido, herramientas que eluden la necesidad de pensar juntos, es sintomática de una enfermedad más profunda, que se desarrolla a partir de nuestro fracaso en integrar nuestra interconexión tecnológica sin precedentes a las realidades que una interdependencia verdaderamente cristiana ―verdaderamente humana― exige. La Iglesia, aferrada de un modo acrítico a los últimos LM por su tarea litúrgica, educativa o pastoral, acrecentará el daño en esta área ya infligido por el largo y solitario golpe de la pandemia.

No existe un mundo en el que diferir la asistencia pastoral y de prédica a un generador de texto no culmine con un deterioro. En primer lugar, deterioro de la formación; luego, del clero; y, finalmente, de las personas a su cargo. A medida que más seminarios se ofrecen en línea o se cierran por completo, y más clérigos son obligados a tomar trabajos a tiempo completo con una remuneración de tiempo parcial, ¿qué más puede significar esta sustitución de funciones por los LM para aquellos que tienen necesidades pastorales?

Tampoco existe un mundo en el que aumentar la comodidad con automatización litúrgica no culmine con intentos por obviar los sacramentos. Nuestro Señor se sujetó a sí mismo de un modo molesto a las cosas materiales que obligan a los cristianos a mantener un pie en la realidad. Pero esta atadura se ve amenazada, no por él, sino por nosotros, y no en detrimento de él, sino de nosotros, si tomamos la senda que nos lleva a pensar que una máquina puede componer o rezar una oración a Dios todopoderoso.

Mientras tanto, prisioneros de una visión que considera los LM solamente como máquinas de contenido, las personas que correctamente se oponen a esta dirección en la Iglesia serán cada vez menos, lo que potencialmente causará un descuido por parte de toda la Iglesia de las oportunidades de valerse de un modo adecuado del aprendizaje automático, oportunidades menos llamativas, pero más útiles. Existe una gran promesa para los LM al servicio de una mejor investigación, del alivio con respecto al trabajo pesado y un acceso mayor a varios aspectos de la vida pública y personal para aquellos lingüísticamente excluidos. Y, de hecho, los LM han estado alimentando todas estas cosas sin fanfarria pública ni objeciones durante muchos años. La oposición surgirá en áreas donde no es necesaria.

Una parte necesaria del tratamiento es una creencia renovada en la comunión de los santos. San Pablo dice que cada miembro de este cuerpo es necesario. Todos aportan algo insustituible por cualquier cosa animada o inanimada, carbono o silicona. La incorporación de cristianos como personas humanas en un cuerpo, ese de la propia Palabra divina, es un profundo misterio que no puede, de hecho, ser amenazado ni usurpado por un generador de texto, por más que lo intentemos a través de una promoción activa o un pesimismo similar.

Deberíamos entusiasmarnos con eso y luego asumirlo, escribir, comunicar, contemplar, primero disfrutando y manteniendo esos dones de Dios sin miedo a que sean sustituidos. Entonces, después de haber recibido gratuitamente, deberíamos dar gratuitamente. Al usar la tecnología del lenguaje para los propósitos correctos, facilitaremos el ejercicio de esos dones por parte de aquellos que generalmente tendrían un acceso restringido a los mismos por condición física o situación temporal. Ni las hábiles demos ni los trucos de los equipos técnicos pueden conducirnos ahí. Lo que se requiere es nada menos que un verdadero amor a Dios y al prójimo, que ninguna máquina puede generar.

Traducción de Claudia Amengual