INVASIÓN IA: ¿EL SESGO ES EL CABALLO DE TROYA?

Umberto Eco describió hace varios años dos formas extremas de enfrentarse a los avances tecnológicos y las llamó “apocalípticos e integrados”, y ese debate hoy se reactualiza con la IA que vuelve a partir aguas entre detractores y fanáticos. Luego de la euforia, es momento de preguntarnos ¿Cómo abordar la IA en la educación? Además de combatirla ¿hay otra forma de pensarla?

La Inteligencia Artificial irrumpió en el sentido común de las personas y trajo interrogantes a diversas profesiones no solo en torno a sus ventajas sino también a las transformaciones internas que puede producir esta herramienta. Específicamente en la educación secundaria la IA suele asociarse a Chat GPT u otras aplicaciones similares que ofician como “atajos” para que los estudiantes resuelvan sus tareas de forma poco “legal”, ¿Cómo lidiar con esa “amenaza”?

Entre utópicos y distópicos

Las nuevas tecnologías se nos presentan como revolucionarias, son una puerta de acceso a una realidad novedosa en la que el mundo como lo conocíamos puede cambiar completamente. Estos cambios pueden interpretarse como positivos o negativos, el propio Sócrates condenaba la escritura porque decía que atentaba contra la memoria de los pueblos (si hubiese sabido que su figura llegaría hasta el presente por esa tecnología tal vez lo hubiese pensado mejor) y en la actualidad claramente el centro del debate es la inteligencia artificial.

En declaraciones a Elemental, Ramón, la Doctora en Filosofía y especialista en Inteligencia Artificial, Karina Pedace, insta a dejar de lado lo que considera una visión simplista de estos avances y destaca que las IAs nunca son neutrales, sino que al ser entrenadas por humanos responden a criterios de entrenamiento específicos. Son un conjunto de datos que se empaquetan y entregan al usuario para responder a una solicitud de una forma aparentemente personalizada y al instante.

El problema no es la herramienta sino el uso que se hace de ella y por lo tanto la investigadora invita a la serenidad ante el tratamiento superficial que hace del tema gran parte de la opinión pública. En medios de comunicación masiva se escuchan juicios apresurados tales como aquellos vaticinios sobre profesiones que irán a desaparecer a manos de las IAs o que la educación ya no tendrá más sentido en un futuro cercano.

“Como creo que en efecto pareciera no haber demasiadas alternativas que se apele a este tipo de herramientas, hay que poder hacerlo desde una posición significativa y mediada por el pensamiento crítico”, recomienda la académica.

Pedace propone que los docentes piensen el para qué y el cómo de sus clases en torno a esta problemática, pero con una posición relacional y crítica: alejándose del tabú que implica su uso pero con recaudos especialmente en lo que denomina “delegación cognitiva”, es decir, otorgando actividades que usen la IA como medio y no como fin último de las estrategias de enseñanza.

¿IA y política?

Marisa Bolaña, docente e investigadora de UNSAM y CLACSO, no se refiere a las IAs como simples herramientas tecnológicas aisladas, sino que las introduce dentro de lo que denomina “capitalismo digital”. Es decir, según Bolaña, son producto de empresas privadas cuyo fin último es la maximización de las ganancias de sus propietarios o accionistas, por lo que estas herramientas no escapan de esas lógicas propias de nuestro sistema productivo.

La investigadora de la UNSAM, en declaraciones a este medio, afirma que esta relación entre tecnología y política en nuestro país se destacó particularmente en programas de entrega de dispositivos electrónicos a alumnos de diversas regiones, donde se materializaron los vínculos comerciales con las empresas tecnológicas como Microsoft, en el caso de la licencia del sistema operativo Windows. En el caso de las IAs, existen conexiones entre el Instituto Nacional de Formación Docente y Open AI con la contratación de una extensión llamada EDU GPT.

En términos educativos, entonces, la implementación de estas tecnologías no es una cuestión meramente individual sino que el rol del Estado es fundamental, no sólo a la hora de contratar servicios o comprar equipamiento sino que debe inmiscuirse en la preparación de sus funcionarios, afirma Bolaña.

El papel de la educación entonces estará vinculado al pensamiento crítico para crear usuarios con capacidad de utilizar una herramienta compleja de una manera consciente.

¿Piensan los androides (con sujetos conectados)?

Pedace profundiza sobre el término inteligencia artificial, afirmando que no es ni inteligencia ni artificial. Se trata de información que se produce desde una lógica algorítmica, pero que no genera razonamientos o interconexiones críticas; mientras que advierte que el término artificial borra la intencionalidad humana que existe no solo desde el usuario sino también de las empresas.

Bolaña se apoya en el filósofo Miguel Benasayag para afirmar que “la inteligencia artificial no piensa pero el cerebro tampoco”. Explica que como seres humanos reducimos desde el paradigma positivista el pensamiento a las conexiones neuronales. Es este paradigma científico, que reduce la ciencia a observaciones aparentemente neutras, el sostén epistemológico sobre el que se asientan las empresas productoras de las IAs y el capitalismo global.

“La IA reproduce el lenguaje máquina, que es binario porque es matemático, y pragmático porque reproduce las lógicas anglosajonas. Son sesgos, sesgos de los programadores mediados por el lenguaje máquina”, explica la docente de UNSAM.

El sesgo, aquella orientación particular que pueda tener alguna IA en sus informaciones, es desde esta perspectiva algo más que un simple residuo sin importancia. Según ambas investigadoras se trata de la reproducción de las desigualdades estructurales de la sociedad hecha texto, imagen, sonido o video, se trata de una mirada anglosajona, patriarcal y blanca sobre los procesos del mundo proveniente de su lugar de origen.

De pichón a bestia, un viaje en la máquina del tiempo

Si tenemos en cuenta que el Chat GPT 3 de Open AI vio la luz en 2022 y puso a la inteligencia artificial generativa en boca de la opinión pública, podemos intuir que la existencia de sus ediciones anteriores se remonta a varios años en el pasado, mucho antes de la explosión mediática actual.

Si bien su germen viene de la Grecia Antigua, a partir de 1940 podemos encontrar el acta de nacimiento de la IA en los intentos de construir máquinas que emulen al cerebro a partir de la invención de la computadora. Pero no fue hasta los años 50 's con los avances teóricos de Alan Turing que se propuso la idea de poder intercambiar información y hasta mantener conversaciones con nuevas tecnologías, además de bautizarlas como hoy se conocen: inteligencias artificiales.

En la actualidad, la IA se presenta como una preocupación central entre docentes y estudiantes. Pedace subraya esta inquietud y las exigencias que recaen sobre los docentes para implementarla o regular su uso en las aulas, por parte de una sociedad que parece tampoco entender demasiado bien que tenemos delante.

“Se nos demanda mucho desde nuestra labor docente a la hora de ver de qué manera integrar estas tecnologías y desde el otro lado no se está recibiendo la capacitación necesaria”, afirma la filósofa, ese otro lado corresponde también al Estado y sus cúpulas educativas. Sin políticas públicas que integren realmente a los docentes y estudiantes, afirma, subsistirá el vacío.

Bolaña se aparta de la dicotomía imperante entre rechazo y adaptación a las nuevas tecnologías en el sistema educativo, debido a que “adaptarse es resistir pasivamente” y propone resistir activamente, re existir el uso de las IAs, es decir buscar “nuevas experiencias que rompan lógicas empresariales”.

De fondo, ambas investigadoras vislumbran un enorme riesgo: que lo que nos pasa, la amistad, el amor, el sexo, la tristeza, aprender y equivocarse se plataformice y nos olvidemos de vivir.