INTELIGENCIA ARTIFICIAL: ¿CÓMO PIENSA?
- Florencia Benitez Gonzalez
- 25 nov
- 4 Min. de lectura
El auge de los chatbots abre el debate ético sobre las preocupaciones y expectativas a futuro respecto al funcionamiento de esta tecnología.
¿Cuántas veces le pedimos una opinión a Chat GPT? Seguro que muchas porque confiamos en que nos dará una respuesta neutral y lógica. Pero basta con cuestionar de dónde salen esos datos para descubrir que las nuevas tecnologías están lejos de llegar a ese lugar.
Según Javier Oscar Blanco, un prestigioso investigador en Tecnología y doctor en informática, hablamos de tecnología basada en “aprendizaje automático que lo que hacen es producir sistemas de reconocimiento de patrones estadísticos” y especialmente, en los últimos años, “en poder reproducir una cantidad de formas lingüísticas”.
Algunas palabras se asocian con las nuevas tecnologías, tanto que nos cautivan, asombran y las aceptamos como el punto máximo de la actividad racional. Se dice que es “objetiva”, “racional”, “neutral” y “sin prejuicio”. Se cree que, a diferencia de los humanos, no replica sesgos ni valores, ni tiene errores si no que depende del buen o mal uso.
Sin embargo, parece omitirse que quienes crean estos modelos de aprendizaje tienen sus propios valores o ideas por lo que, para bien o para mal, no estamos hablando de dos realidades distintas. Interactuamos y nos transformamos a partir de la interacción, donde nosotros somos influenciados por la IA y esta se alimenta de nosotros también.
El proceso de desarrollo no es neutral, ya que las decisiones de diseño no son al azar, se elige qué atributos se incluyen y cuáles no. Los sesgos se construyen, en primera instancia, de los valores sociales preexistentes en las instituciones, las restricciones técnicas y, finalmente, los resultados que emergen del uso mismo, donde las respuestas pueden contener un mensaje discriminatorio.
Los datos o textos son reproducidos de manera aleatoria. “(Los sesgos) están basados en el entrenamiento, donde aparecen esos temas -afirma Blanco- pero claro, si el entrenamiento fue hecho sobre todo con datos del hemisferio norte, la mayor parte de los resultados van a tener que ver con esos datos”.
Por ejemplo, si le preguntáramos a un LLM (Large Language Model) sobre Venezuela, los resultados se basarían en información de los medios de comunicación de Estados Unidos y de Europa, que en general hablan sobre la existencia de una dictadura en ese país o sobre el alto nivel de inflación.
(imagen generada por IA)
La inteligencia de un algoritmo depende de los datos que lo alimentan. Antes de aprender, esos datos pasan por varias etapas: se producen, se registran, se organizan y se etiquetan. En cada una de esas instancias intervienen decisiones humanas que definen contenidos. Por eso, los algoritmos no son inocentes, llevan incorporadas las huellas, los prejuicios y las jerarquías del mundo.
También, las investigaciones mencionan los aspectos económicos en la producción de estas tecnologías. “Las IA son deficitarias para las empresas”, señala el investigador, y agrega que, en la actualidad, se pierden miles de millones de dólares. De este modo, se genera un proceso de restricción del uso de ciertas herramientas solo para suscriptores y, en consecuencia, “tiende a reproducir y aumentar las desigualdades”.
Caso Salta y los embarazos adolescentes
En 2017, el entonces gobernador de Salta Juan Manuel Urtubey lanzó, junto con Microsoft, una solución a una problemática social de la época: un programa para prevenir el embarazo adolescente mediante un sistema de inteligencia artificial. “Con la tecnología podés prever cinco o seis años antes, con nombre, apellido y domicilio, cuál es la niña, futura adolescente, que está en un 86 por ciento predestinada a tener un embarazo adolescente”, argumentaba Urtubey durante un discurso.
Los investigadores de los laboratorios de Inteligencia Artificial Aplicada de la UBA llegaron a la conclusión de que esta campaña, que a simple vista parecía innovadora, escondía detrás una reafirmación de sesgos conservadores que enfatizaban en la idea de familia tradicional con el sexo, la mujer y el cuerpo al servicio de la reproducción.
“Las técnicas de inteligencia artificial son poderosas y demandan responsabilidad por parte de quienes las emplean; son solo una herramienta más, que debe complementarse con otras, y de ningún modo reemplazan el conocimiento o la inteligencia de un experto”, advierten los expertos en su trabajo.
Es solo durante este proceso de desnudar y ver claramente cómo funciona la formación de estos sistemas donde podemos entender que no surgen en el vacío, se basan en los mismos cimientos sociales que sostienen nuestras desigualdades. Los algoritmos reproducen brechas de género, clase y/o raza. ¿De quién es la culpa entonces? ¿Sera posible eliminar estos sesgos de la IA?
En este sentido, el bioinformático considera que debería buscarse “una compresión mayor de exactamente cómo funcionan” por parte de los estudiantes en formación. Por ello, recomienda entender que “los modelos de lenguaje son reproductores estadísticos de patrones lingüísticos y no de conciencias”. Además, concluye que la idea de que podrían dominarnos “no tiene ningún viso de realidad, con estas tecnologías con las que estamos trabajando hoy”.
Según Blanco, el objetivo debería ser alcanzar una “diversidad tecnológica, es decir, que haya diferentes modelos y que reflejen diversas culturas y formas de ver el mundo”.
Llegar a ese punto podría permitir pensar en un uso más valioso de la IA.
Fuentes:
Articulo académico: Inteligencia artificial y sesgos. El caso de la predicción del embarazo adolescente en Salta.
Pedace Karina, Schleider Tobías, Balmaceda Tomás
Articulo académico: Bajo observación: inteligencia artificial, reconocimiento facial y sesgos.
Balmaceda Tomás, Schleider Tobías, Pedace Karina.
Articulo académico: Bases epistemológicas y alcances políticos de la computación a gran escala: Cómo repensar la inteligencia artificial desde abajo
Berti Agustín, Reynoso Julián, Blanco Javier, Ilcic Andres
Gracias me sirvió mucho!
Muy útil e informativo, increíble trabajo!