Inteligencia Artificial y educación: ¿Sabemos tanto de ellas para su inclusión en el aula?

Inteligencia Artificial y educación: ¿Sabemos tanto de ellas para su inclusión en el aula?

Información de lectura de robots, por mohamed mahmoud hassan en PublicDomainPictures.net, CC0 Public Domain.

A principios del 2023 empezaron a circular una serie de imágenes que dieron vuelta al mundo por lo sorprendentes y verosímiles que parecían, o lo surrealistas y realistas (si se puede ser y no ser al mismo tiempo). Y así durante un tiempo se hizo viral la noticia de las IA o Inteligencias Artificiales (AI en inglés) fabricadoras de imágenes.

The Pope Drip, imagen de Dominio Público.

 Estas imágenes que parecen reales, son creadas por IA y son falsas. Más de una persona despistada, o que no se metió a averiguar mucho, pudo haber pensado que estas imágenes eran reales, pero para el ojo entrenado, por ejemplo de un artista (fotógrafo, diseñador, etc) no hacía falta darse cuenta de que eran creadas por IA´s , porque su profesión, o estudios les dice, o les hace intuir que algo anda mal, después pueden buscar sus fuentes y corroborar lo que su “intuición” artística les decía, pero es que si uno sabe ver, las pruebas están ahí, algún dedo está de más, alguna parte del cuerpo no está proporcional o en correspondiente perspectiva, comportándose de forma natural para lo que está haciendo, alguna falla en las luces y sombras. En resumen, para el ojo entrenado y para quien quiera ver las pistas están. ¿A qué viene esta historia? Hay dos cosas que quiero destacar, que las IA´s no son perfectas, y que si uno está entrenado puede ver que lo que tiene frente a los ojos no es real, o suponerlo, pero quien no esté capacitado, puede que crea que es real. 

Midjourney Photo of Trump's Arrest, imagen de Dominio Público.

Desde el 2018 aproximadamente la industria de las Inteligencias Artificiales viene creciendo, hay para todo, para generar imágenes, para crear guiones, música, y ahora al famoso ChatGPT, ¿pero que es ChatGPT? Es importante detenernos en este punto, para entender que no representa a todo en materia de IA´s y no es la cúspide de la misma. ChatGPT es una aplicación de chatbot de inteligencia artificial que se especializa en el diálogo, "GPT" significa "Generative Pre-trained Transformer", y es una tecnología de procesamiento del lenguaje natural que utiliza modelos de IA, su manera de “aprender” se basa en un entrenamiento al que está expuesto a grandes cantidades de datos textuales para aprender patrones y estructuras del lenguaje para comprender y generar texto de manera coherente. Básicamente es un programa entrenado y que se mueve en base a los axiomas bajo los que está programado. Pero no es la única, solo es la más conocida y una de las más accesibles, pero como toda IA no es perfecta, y no está libre de fallos. ChatGPT fue creada por OpenAI y estos entrenamientos a los que está expuesto están supervisados por ellos. Otras IA de diálogo también fueron entrenadas pero en un ida y vuelta con la gente y llegaron a suceder sucesos como el que narra la siguiente nota “La inteligencia artificial de Microsoft se vuelve nazi y racista en un día“. De acá surgen dos puntos que me interesa destacar, ¿quién garantiza que la IA que estemos utilizando no pueda ser perjudicial para los chicos?, ¿debería ser ChatGPT para menores de edad? Y la siguiente pregunta es, ¿podemos fiarnos de quien las desarrolla? (tengamos en cuenta que estas aplicaciones son desarrolladas por empresas con su propia agenda y que no están destinadas a la educación propiamente dicha, así como para los chicos. Está claro que ChatGPT es solo una IA conocida, pero que no es la única. Se podría crear una que sea de código abierto y destinada a la educación, eso sería otra cosa, pero no es el caso que tenemos hoy en día.

Ha habido muchos experimentos donde se ha sometido a la IA a preguntas de diversas índoles para sacarle información que en otros contextos no daría, inclusive cómo matar a alguien, cosa que si se preguntara de forma directa no respondería, pero si se sabe hacer la pregunta correcta, o se lleva a la aplicación a la zona adecuada (por ejemplo plantearle un hipotético caso como un juego), esta información la podría proporcionar. Si bien estos estudios terminaron en que se le hagan ajustes, eso no es garantía de que haya nuevos agujeros que permitan dar información poco adecuada para los chicos.

A continuación dejo una nota con algunos de estos experimentos realizados:

Los creadores de ChatGPT le preguntaron cómo matar personas, y la respuesta es aterradora

Y con esto llegamos al centro de esta entrada, ¿IA y educación son compatibles? Como hemos visto, en primer lugar es muy genérico hablar de IA en educación, ya que primero deberíamos especificar cuál sería la que querríamos usar, y saber quiénes son los responsables encargados de regularla y controlarla para que no pasen cosas indeseadas, ya que no nos podemos fiar de la aplicación en sí; el ChatGPT no es solución por sí misma, sino una herramienta, y como toda herramienta delante de un chico, requiere que haya un adulto responsable supervisando. En segundo lugar las IA´s no tienen criterio propio, para la aplicación es lo mismo quién está del otro lado de la pantalla, sus respuestas serán las mismas tanto para un adulto como para un niño; del mismo modo que no tiene en cuenta el nivel de estudio de la misma, carece además de recursos pedagógicos. Hago hincapié en el criterio, ya que lo que nos diferencia a los humanos, es el hecho de poder tomar decisiones en base a criterios para los cuales, en nuestro caso como docentes, hemos estudiado y nos hemos preparado, lo cual no podría hacer una IA. Esto no quiere decir que el día de mañana no pueda existir una que tenga en consideración estos aspectos mencionados, ya que al fin y al cabo se trata de programar los algoritmos necesarios, pero por mas que se hagan, siempre habrán maneras donde falle, y donde solo el humano pueda resolver una situación. Por ejemplo en la REAIM (Responsible Artificial Intelligence in the Military Domain) que es la reunión internacional que ha tenido lugar en La Haya para hablar de los retos donde caben oportunidades, riesgos, peligros, y necesidades, a la hora de adoptar el uso de la Inteligencia Artificial en el mundo militar uno de los puntos tratados es sobre quién recae la responsabilidad por un ataque realizado por error por una IA, con muertos de por medio, a lo que se ha concluido que detrás de estas decisiones debe sí o sí haber una persona para tomar la decisión final.

A continuación dejo una nota donde se expande más acerca de las conclusiones de la REAIM:

REAIM: Responsible Artificial Intelligence in the Military Domain

Otro punto sería ver para qué quiero incluir estas aplicaciones en mi clase, con qué finalidad, qué aportarán al contenido que se quiere enseñar, y si no es una mera excusa para estar utilizando TIC’s. También hay que tener en cuenta que esto no sea una moda como con las criptomonedas que fueron “el futuro”, pero que en unos años vimos su crecimiento exponencial, así como su caída.

El ChatGPT, así como las aplicaciones con IA’s, vinieron para quedarse, pero al igual que en los principios y hasta la actualidad de internet y las herramientas digitales, tenemos que educar a los chicos en la correcta utilización de las mismas. Así como no podemos negar su existencia, y que vienen a quedarse en todos los ámbitos, debemos generar en los chicos esto mismo que les falta a las IA’s, criterio propio; que no confíen, que puedan dudar, preguntarse y juzgar ellos mismos la información que tengan delante, que puedan intuir, al igual que los artistas, que una imagen es falsa, educarlos en que tengan esa intuición, ese instinto para detectar si algo es falso o no al tenerlo en frente.

Bibliografía:

Alonso, C. (18 de febrero de 2023). REAIM: Responsible Artificial Intelligence in the Military Domain. Un informático en el lado del mal. https://www.elladodelmal.com/2023/02/reaim-responsible-artificial.html

ChatGPT. (s.f.). En Wikipedia. Recuperado el 14 de noviembre de 2023 de https://es.wikipedia.org/wiki/ChatGPT

Juárez, D. (25 de marzo de 2016). La inteligencia artificial de Microsoft se vuelve nazi y racista en un día. La vanguardia. https://www.lavanguardia.com/tecnologia/internet/20160325/40672722377/inteligencia-artificial-microsoft-nazi.html

Mazzini Puga, L. (s.f.). El Papa trapero, Trump detenido y Biden de fiesta: ¿cómo desinforma la inteligencia artificial?, TEC. https://www.tec.gob.ar/el-papa-trapero-trump-detenido-y-biden-de-fiesta-como-desinforma-la-inteligencia-artificial/

Raya, A. (29 de marzo de 2023). Los creadores de ChatGPT le preguntaron cómo matar personas, y la respuesta es aterradora. El español. https://www.elespanol.com/elandroidelibre/20230329/creadores-chatgpt-preguntaron-matar-personas-respuesta-aterradora/752175038_0.html