¿Qué pasa con el error en tiempos de inteligencia artificial?

Imaginen esta escena:

Una adolescente de secundaria –póngale, para el caso, de unos 15 o 16 años– recibe una consigna en su clase de literatura. Debe analizar una serie de textos en base a lo debatido en clase. Al llegar a su casa, lee sus apuntes y escribe, escribe y escribe.

Va a apagar la computadora, satisfecha, pero duda y abre ChatGPT. Entonces, copia y pega la consigna de la clase. Al leer la respuesta en la pantalla se pregunta por qué el resultado es diferente a su propio desarrollo. Abre el Word, borra su texto y pega el de la inteligencia artificial. Ahora sí, cierra la notebook: se siente segura y lista para la entrega.

La hipotética escena grafica algo que cada vez más docentes relatan que les ocurre dentro de las aulas: alumnos confiando más en una IA que en su propio criterio.

Y a la vez, marca algo más profundo, un cambio mayor: cómo la sociedad, en su conjunto, se vincula con el error.

Herrar es umano

El avance de la inteligencia artificial, del big data y la posibilidad de analizar en segundos información que en otras épocas hubiesen sido absolutamente imposibles abrió en el último tiempo un cambio en la dinámica con la que la sociedad se vincula con la toma de decisiones y, por consiguiente, con la posibilidad del error.

La premisa es clara: si enfrente hay una herramienta que promete resolver todo, reducir la incertidumbre al mínimo y llenar los vacíos con certezas, ¿para qué someterse al tortuoso proceso de tropezar con piedras? ¿Para qué el debate en la política, si una máquina puede optimizar todo? ¿Cuánto espacio hay para el potrero en un deporte cada vez más trackeado como el fútbol?

“Hay un concepto que es el de la certeza epistemológica dentro de la inteligencia artificial. Esto significa que muchas veces se considera que los sistemas tecnológicos, específicamente la inteligencia artificial, es una agencia omnipresente e infalible”, explicó a este medio Ricardo Andrade, licenciado en Letras y filósofo de la tecnología.

Para el especialista, el ejemplo de la estudiante que prefiere el texto de la máquina por sobre el suyo expone una “brecha nosológica”. “Parece que hay una brecha insalvable donde hay como una especie de degradación de la inteligencia de la condición humana frente a lo algorítmico”, afirmó.

La pregunta que surge, entonces, es qué ocurre con el error, siendo que errar, como dice el famoso dicho, es humano. Y que es imposible de imaginar evolución posible sin lugar para el error, para el intento y el fallo.

Ya se volverá sobre este punto más adelante. Antes es útil ver algunos ejemplos.

Aprender a aprender

Federico Sena es docente de nivel medio y superior. Da clases de Formación ética ciudadana y de Economía política. Parte de su día a día, consiste en enseñar a los alumnos que aprender es un proceso. Calmar ansiedades y reducir el estrés de enfrentarse con el error o, bueno, con una mala nota.

Sena contó cómo la dinámica de las clases cambió para evitar que los alumnos hagan sus trabajos en las casas, usando 100 por ciento de inteligencia artificial, y priorizar el desarrollo del pensamiento crítico.

Pero, aún en estos contextos, vive escenas llamativas: “A veces pasa que los pibes también se sorprenden porque dicen 'che, pero esto yo se lo pedí a la IA y vos me decís que está mal‘. Y sí, está mal. Pero ellos piensan que es porque el que no sabe es el profesor. No porque no lo hicieron ellos mismos con su criterio”.

Algo similar le ocurrió a Catalina Cabral, docente de literatura en 1ro, 3ro y 4to año de secundaria. Hace poco, un alumno le comentó que cuando recibe una consigna, incluso si se propone hacerla sola, la comparte primero con ChatGPT y luego intenta no leer la respuesta que le dio hasta no haber terminado de escribir la suya.

“Y entonces le pregunto. ¿Qué haces, por ejemplo, si te tira una respuestas diferentes? Muy certeramente me dice ‘tacho mi respuesta y la cambio’. Así sin más. Piensa que la respuesta que le dio ChatGPT sí o sí estará bien. Y que si llegó a otro lado, incluso desde los materiales que usamos en la escuela, seguramente está equivocada. Esto está muy instalado”, contó.

Ansiedades y errores

Este panorama abre una serie de lecturas posibles. Sena pone el foco en cómo “los chicos se frustran más rápido”. “Ya post pandemia tenemos pibes que no se bancan el error. Escriben una letra y te dicen, ‘¿esto está bien?’. Y yo les digo que terminen el trabajo completo y después lo vemos”.

El docente cree que esto tiene que ver con los celulares. “Ahí todo es un refuerzo positivo todo el tiempo. Del like, de las visualizaciones, donde los pibes desde muy chiquititos tienen 1, 2 y hasta 3 cuentas de Instagram”, relató.

¿Por qué tantas? “Tienen una donde se animan a ser ellos quienes son, que la tienen como guardada para poca gente. Después tienen una cuenta de Instagram más pública, donde ahí no publican ninguna foto en el feed. O sea, todo es stories para que se vayan, porque tampoco se bancan un comentario negativo o algo”, contó.

Rincones de vagos

Por su lado, Cabral explicó que así como en otras generaciones hubo que aprender a lidiar con internet a la hora de estudiar, ahora son los alumnos los que tienen que aprender a lidiar con la inteligencia artificial, y ver cómo incorporar proactivamente en sus procesos de aprendizaje.

Cabral, de unos 30 años, recuerda cómo ella misma tuvo que aprender de qué manera incorporar Wikipedia o, antes, páginas como Rincón del Vago, a los procesos de estudio de manera en la que sea una herramienta útil para el aprendizaje.

“Hubo un momento en el que dijimos ‘este resumen que alguien subió a Rincón del Vago no me sirvió; esta entrada que alguien escribió en Wikipedia no me alcanzó’. Y había alguien. Eso es importante: había un autor”, contó.

Y añadió: “Un autor humano que puede equivocarse, mentir. Había una mayor conciencia de la autoría de los textos. Y junto con eso había una mayor conciencia de que hay que aprender qué textos son más autorizados, más útiles”.

Pero ahora la dinámica parece estar cambiando.

“Lo que me parece que es muy fuerte de la IA es justamente la falta de ese alguien humano, de ese par. Como la muerte del autor”, dijo Cabral.

“Hace unos años era un lugar común reírse, no sé, de ese gesto medio boomer de decirle ‘hola, por favor, gracias’ a Google y pienso que en algún punto esa ingenuidad tenía algo que ver con la facilidad de caer en fake news, en estafas”, resaltó.

“Ahora, esa ingenuidad es propia de los nativos digitales. Creo que tiene que ver con que estos nuevos buscadores son como una máquina de procesar chorizos, que ni siquiera nos dirigen hacia las fuentes. Además, en vez de llamarse buscador se llama inteligencia y se comunica vía chat”, explicó.

La ilusión de lo posible

Pero esta dinámica no se ve únicamente en las escuelas y con los más chicos. Basta con pensar, por ejemplo, qué es lo que está pasando actualmente en el mundo del deporte.

Pasó a la vista de todos durante el último Mundial: Mauricio Pochettino, director técnico de Estados Unidos, aprovechó un famoso cooling break para sacar una computadora y dar a conocer los datos que un software de IA estaba arrojando sobre el partido.

Procesar cada pase, cada posición, cada velocidad y desplazamiento en el campo de juego para optimizar el resultado. No es muy diferente al argumento de Moneyball, donde Brad Pitt interpreta al gerente general del equipo de béisbol Oakland Athletics, quien utilizaba las estadísticas avanzadas para fichar jugadores y ganar la temporada.

Fernando Kuyumchoglu, director técnico y formador de categorías juveniles de fútbol, explicó cómo esta dinámica también se traslada a las categorías de formación, donde el error, más que nunca, debería estar para poder corregirse, ya que muchas veces en la primera división ya no hay tiempo de cambios profundos.

“En primera división todo es inmediatez. El error no tenés tiempo de solucionarlo; muy pocas veces podés corregirlo. En juveniles los tiempos son diferentes, podés trabajar a largo plazo, y todo lo que sea más visible se puede corregir mejor. Siempre podés modificarlo y trabajarlo desde otro lado”, explicó

En comparación a cuando él era jugador de juveniles, recordó que “es mucho más crítico hoy. Hay una visibilidad tremenda”. Esto tiene que ver con la necesidad que se le impone a muchos equipos juveniles, a sus directores técnicos, de dar resultados en números, no sólo en cuanto a rendimientos individuales.

“También ha cambiado otra cosa: se marca mucho cómo juega el rival. Se le muestra al chico, se pierde mucho tiempo en ver cómo destruir lo del otro equipo”, comentó, en este sentido. Y contó cómo en su paso por San Lorenzo tenían prohibido que los entrenadores analizaran a los rivales, para focalizarse en los propios jugadores.

Jorge García, también con paso en la formación de futbolistas en Ferro, Atlanta y los femeninos de Huracán y Riestra, aportó una mirada que tiene que ver con el mismo tema y propuso que en las categorías más bajas no se juegue por una tabla de puntos.

“El error en inferiores debe existir, porque vos estás formando muchachos para que lleguen a primera de la mejor manera. No sé si la IA es lo más conveniente, si lo son el agregado de filmaciones de trabajos entre semana, GPS, y otras formas de tecnología”, afirmó.

Y cerró: “Yo varias veces dije que de la Novena a la Sexta no deben existir las tablas de posiciones, porque son etapas donde se debe trabajar más la técnica individual, saber cabecear y patear con dos perfiles, jugar…”.

El error en esta instancia, como en los colegios, no sólo es posible: es deseable.

¿Pero qué pasará en otros terrenos donde son menos permeables a esto?

El error en la política

El vínculo entre el discurso pro-tecnología y la política es un tema muy estudiado en todo el mundo. Siguiendo con la lógica de la exposición al error, es en este terreno donde se ve, más transparente que en ningún otro, la búsqueda de la política pública perfecta, escéptica y superadora de cualquier error humano.

Mauro Solano, politólogo y director ejecutivo de la Mesa Federal de Infraestructura Pública Digital (FederAI), analizó cómo la inteligencia artificial, el big data y los análisis masivo de datos cambió la noción de error en el terreno de la política.

Para Solano, la pregunta que mueve a parte de los formadores de políticas es ver cómo optimizar la toma de decisiones. En su caso, puso un ejemplo muy puntual sobre cómo hacer recomendaciones de capacitaciones a empleados públicos de acuerdo al perfil de los agentes, su trayectoria, puesto e intereses.

“Me venía peleando con esa idea, porque en algún momento, cuando conversábamos con los colegas y con el equipo que habíamos formado para llevar todas estas iniciativas adelante, el punto central siempre fue cómo esto le pegaba al paradigma de la racionalidad limitada de Herbert Simon”, dijo.

Este es un paradigma teórico que postula que las personas toman decisiones de manera parcialmente racional debido a limitaciones de tiempo, capacidad mental y información disponible.

“Aunque tuviésemos la posibilidad de contar con toda la información disponible, no seríamos humanamente capaces de procesarla”, explicó.

“Frente a esa cantidad de datos y hoy la posibilidad de procesamiento de cómputo que es enorme, estamos cada vez más cerca de poder romper este paradigma de racionalidad limitada”, señaló Solano.

“Ya no habría casi justificaciones válidas desde el punto de vista teórico o filosófico para tomar decisiones que no estén fundadas en la evidencia, y que de alguna manera nos permitan acotar ese margen de incertidumbre”, agregó.

Pregunta: En este contexto, ¿hay un espacio para el debate, para la intuición?

Respuesta: Absolutamente. Siempre entendiendo que en este caso la tecnología tiene que ser tomada como un dinamizador, un catalizador que asiste a quienes eventualmente tienen que discutir para luego tomar las decisiones. En ningún caso hablamos de delegar decisiones en los sistemas de inteligencia artificial, sobre todo cuando en el ámbito público intervienen cuestiones ligadas a derechos. Lo que sí hay es esta posibilidad de poder en un tiempo mucho más corto tener acceso a una enorme cantidad de información que permita que esos debates sean mucho más fundados.

Desde su lugar, ve cómo cada vez más responsables de poderes ejecutivos provinciales y municipales se acercan a FederAI con preguntas y pedidos para el desarrollo de este tipo de políticas públicas.

¿Y si el final es dejar de ser los humanos que somos?

Una parte de la filosofía de la tecnología que postula la idea de utilizar las nuevas herramientas para el perfeccionamiento del ser humano lleva el nombre de transhumanismo. Desde esta visión, errar es humano y, con tecnología adecuada, evitable.

Y si bien originalmente el nombre de transhumanismo tiene un vinculación con el humanismo surgido durante el Renacimiento del siglo XIV y XV, poco tiene que ver con esos mismos valores.

“Si bien el transhumanismo es una ideología muy propia de Silicon Valley, hay diferentes interpretaciones. Pero en términos generales te diría que hay una contradicción bastante latente donde se es humano a la medida en que se es menos humanos”, explicó Andrade sobre esta perspectiva.

Y añadió: “De hecho, justamente la propia palabra lo dice. El transhumanismo implica ir más allá, no solamente del humanismo como característica del pensamiento occidental, que tiene que ver con el liberalismo, el individualismo, sino también tiene que ver con ir más allá de la humanidad”.

La recuperación del humanismo renacentista implica un “abandono de los ideales humanistas en el fondo”. “Postulan que el Homo sapiens tiene que ser obligada a abandonar el estadio actual para adquirir nuevas características ontológicas. Y ahí entra la inteligencia artificial, la teoría cyborg”, afirmó.

Luego, cerró con una imagen digna de un libro de Philip K. Dick: “Estamos entrando en una etapa en donde errar va a ser castigado por la sociedad. Si tenemos una inteligencia artificial que se presenta como una especie de deus ex machina y uno erra teniendo ese conocimiento disponible, entonces va a haber una especie de señalamiento social”.

El problema –claro está– es que la inteligencia artificial sí puede dar resultados equivocados, reproducir sesgos o caer en alucinaciones. Aún cuando genere la ilusión de que no.