Rodrigo Llanes Salazar (*)
Un fantasma recorre las escuelas: el fantasma de la inteligencia artificial generativa, particularmente el encarnado en el programa “ChatGPT”, lanzado por la empresa OpenAI el pasado 30 de noviembre de 2022.
La inteligencia artificial generativa es una forma de inteligencia artificial que busca generar contenidos completamente nuevos a partir de datos existentes. Utiliza técnicas avanzadas para aprender, crear y manipular contenidos, como las redes neuronales profundas, el aprendizaje automático y los algoritmos evolutivos.
ChatGPT “es una biblioteca de código abierto basada en Inteligencia Artificial, diseñada para desarrollar chatbots utilizando el Modelo de Procesamiento de Lenguaje Natural (PLN) Generativo Profundo”, de acuerdo con la definición que ofrece el propio programa.
Lo novedoso de programas de inteligencia artificial generativa como ChatGPT es que desarrolla conversaciones a partir del lenguaje natural de los usuarios, respondiendo a preguntas de forma autónoma.
ChatGPT ha causado un revuelo en las escuelas porque el programa permite a sus usuarios desarrollar un texto “nuevo” en unos pocos segundos. En otras palabras: un estudiante no tiene que “plagiar” o “apropiarse indebidamente” de un texto o de partes de textos ya publicados, o copiar fragmentos de sitios de internet como el “Rincón del vago”.
Pueden formular una pregunta o simplemente indicar una instrucción y ChatGPT ofrecerá una respuesta “nueva” a partir de datos existentes en internet.
Por ejemplo. Si pregunto, ¿cuáles son las principales amenazas a la democracia en la actualidad? ChatGPT responde, en cinco segundos (contados):
“Las principales amenazas a la democracia en la actualidad incluyen el deterioro de los derechos humanos, el desequilibrio entre el poder económico y el político, la dependencia excesiva de los Estados en tecnologías como el “big data” y el “social media”, la erosión de la separación de las branchas del gobierno y el surgimiento de formas de autoritarismo.
“También se enfrentan desafíos en la forma en que la democracia representa a todos sus miembros, el aumento de la desigualdad y la discriminación, la expulsión y la represión de los disidentes, y el impacto en la democracia de la polarización creciente, la extrema riqueza, la mala gestión y la corrupción”.
Y, si vuelvo a formular la misma pregunta, ChatGPT responde (de nuevo en unos cinco segundos): “1. Corrupción política. 2. Manipulación de los medios de comunicación. 3. Restricciones a la libertad de expresión. 4. Erosión de la democracia representativa. 5. Influencia excesiva de los grupos de interés. 6. Desigualdad económica. 7. Aumento de las ideologías extremas. 8. Interferencia extranjera en asuntos internos. 9. Discriminación social. 10. Amenazas a la seguridad nacional”.
Así, un estudiante o un profesor puede hacer la misma pregunta a ChatGPT y cada vez el programa responderá algo distinto (dependiendo del tema y la disponibilidad de datos en internet, pueden ser respuestas muy diversas).
Además, podemos matizar las respuestas haciendo las mismas preguntas pero pidiendo que responda desde una posición de “izquierda” o de “derecha”.
Por ejemplo, una respuesta desde una postura de izquierda sería: “Las principales amenazas a la democracia son el neoliberalismo, las prácticas antidemocráticas y represivas del Estado, la concentración de la riqueza y el poder económico en una minoría de personas, la desigualdad socioeconómica, el racismo y la discriminación, la violencia política y social, la corrupción y la interferencia externa en asuntos internos.
“También es necesario destacar cómo los cambios tecnológicos siguen redefiniendo la política con el surgimiento de nuevos actores y partidos, así como el aumento del populismo y la extrema derecha, la manipulación de información y el aumento de la desinformación”.
En cambio, una respuesta desde una posición de derecha sería que “las principales amenazas a la democracia en la actualidad incluyen el socialismo, el aumento de la burocracia, una inmigración masiva sin control, el aumento del cambio climático, la amenaza del terrorismo internacional, la disminución de la libertad individual, el aumento del Estado de bienestar, el aumento del poder corporativo y el aumento de las regulaciones y leyes limitantes. La democracia se ve amenazada por aquellos que buscan un mayor control gubernamental sobre los asuntos de la economía, sociales e internacionales. Esto podría reducir la soberanía nacional, restringir la libertad individual, y limitar el poder de la gente para moverse libremente a través de los límites establecidos”.
A partir de su lanzamiento a fines del año pasado, y sobre todo con el inicio del actual ciclo escolar, ChatGPT ha llevado a plantas docentes y a escuelas a cambiar sus métodos de enseñanza, como reporta un artículo de “The New York Times” (16-1-23).
Desde luego, el impacto va más allá del ámbito universitario y, como anuncia un titular de “El País”, “ChatGPT es solo el principio: la inteligencia artificial se lanza a reorganizar el mundo” en campos como la vida cotidiana, el mercado laboral y la relación entre las grandes potencias (“El País”, 28-1-23).
Regresando al campo educativo, algunas escuelas han prohibido el uso de ChatGPT. Otras, que se enfrentan a la difícil tarea de restringir a sus estudiantes el uso de esta tecnología en casa (e incluso en la misma escuela), han recurrido más a los trabajos escritos a mano, a exámenes orales, a asignar trabajos que aborden las vidas personales y situaciones actuales de los estudiantes, entre otros temas de los que difícilmente se encuentren datos en internet. También están apostando por programas que detecten los textos creados por ChatGPT.
Otras escuelas, en cambio, han apostado por estrategias más complejas que implican el uso crítico de ChatGPT. Recordemos que “crítico” no quiere decir simplemente “cuestionamiento” o “rechazo”, sino, más bien, implica discernir: ¿qué elementos positivos se pueden obtener de un programa como ChatGPT?, ¿cuáles son sus implicaciones negativas?
Así, por ejemplo, se pueden emplear las respuestas que ofrece ChatGPT como un punto de partida y examinarlas desde diferentes perspectivas o contrastarla con otros datos.
Algunas escuelas también han impulsado debates sobre las herramientas de inteligencia artificial e integridad académica, y algunas universidades están trabajando en modificar sus normativas sobre plagio para incluir la inteligencia artificial generativa.
Aunque, sin duda alguna, ChatGPT y la inteligencia artificial generativa plantean severos desafíos a la educación, no es menos cierto que diversas innovaciones tecnológicas —pensemos en buscadores como Google o sitios como Wikipedia— han significado retos similares en el pasado.
Por tanto, más allá de prohibir o no programas como ChatGPT, resulta fundamental fomentar el análisis crítico y la integridad académica.
Finalmente, los textos generados por ChatGPT no surgen de la nada, sino que son producto del trabajo de otras personas a las que hay que reconocer y dar crédito.
Un uso crítico de ChatGPT puede llevarnos a indagar qué tipo de información sobre un determinado tema existe en internet o qué sesgos están presentes en la generación del texto del programa. Si esto es apenas el principio, como anuncia el artículo de “El País”, más nos vale ejercitar desde ya una mirada crítica ante este tipo de tecnologías.— Mérida, Yucatán.
rodrigo.llanes.s@gmail.com
Investigador del Cephcis-UNAM