ChatGPT y los nuevos retos de la inteligencia artificial

Una de las con conferencias magistrales del pasado 54 Congreso Nacional de Pediatría CONAPEME 2023 fue impartida por Prof. Melchor Sánchez Mendiola, pediatra y profesor de la UNAM, con amplio reconocimiento en el liderazgo en la innovación y calidad de la educación en Medicina. Su título fue el mismo que acompaña este post y comparto las notas tomadas de su exposición, y ello por la novedad, actualidad y dilema del tema. 

Se describe la Inteligencia Artificial (IA) como la habilidad de un sistema para interpretar correctamente datos externos, aprender de dichos datos y usar este aprendizaje para lograr metas específicas y tareas a través de adaptación flexible. Y de la IA se avanza hacia el aprendizaje profundo (Deep Learning), pues cualquier técnica que permita a los ordenadores imitar el componente humano y ese aprendizaje de máquinas (automático) avance hacia un aprendizaje profundo (capaz de extraer patrones de datos mediante redes neuronales). 

Y con la IA se ha avanzado al ChatGPT, un prototipo de chatbot de inteligencia artificial lanzado a finales de 2022 por OpenAI que se especializa en el diálogo, lo que hace que el ordenador simule la conversación con una persona. Para ello el chatbot se fundamenta en gran modelo de lenguaje, ajustado con técnicas de aprendizaje tanto supervisadas como de refuerzo y que reúne tres características, de ahí GPT: Generador (predice la siguiente palabra con sus grandes modelos de lenguaje LLM, Large Languaje Models), Pre-entrenado (entrenado previamente con grandes volúmenes de datos) y Transformador (codificador-decodificador basado en redes neurales). 

Cabe decir que ChatGPT ha conseguido los 100 millones de usuarios en tan solo dos meses, un récord en este mundo interconectado, y que cabe comparar con los 8 meses que tardó TikTok en conseguirlo o más de un año y medio en el caso de Instagram, que serían los dos siguientes en usabilidad. ChatGPT, cuyas siglas proceden del inglés Generative Pre-trained Transformer, tiene una calidad de conversación fundamentada en ser gramaticalmente correcta, sobre el tópico, con estilo académico y que suena plausible. 

Pero ChatGPT tiene múltiples limitaciones aún, como por ejemplo: 1) No entiende: porque es un modelo estadístico y los resultados son predicciones de la siguiente palabra, no se basan en reglas de razonamiento; 2) A menudo sesgado, porque el texto en el que se basa está sesgado y refleja el contenido en internet (que como sabemos está sesgado hacia países desarrollados, en inglés, ricos, hombres y blancos y, aunque se intenta corregir esto, es difícil mitigarlo); 3) A veces inventa datos, citas, frases… y si le pides fuentes a veces se niega a darlas o las inventa y no comprueba lo que no es real (solo predice qué palabras podrían ir juntas). 

Por ello, este producto de la IA debe conocerse y conocer las advertencias al mismo. El empresario Elon Musk, que fue uno de los fundadores de OpenAI y más de mil científicos alertaron sobre un posible "riesgo para la sociedad y la humanidad" y pidieron detener su durante seis meses por considerar que puede ser aún más peligroso que una guerra nuclear. Y el propio Noam Chomsky ha llegado a afirmar en The New York Times: “Dada la amoralidad, falsa ciencia e incompetencia lingüística de estos sistemas solo podemos reír o llorar ante su popularidad” y de nuevo Elon Musk ha llegado a afirmar que “ChatGPT es aterradoramente bueno. No estamos lejos de la IA peligrosamente fuerte”. 

Y en lugar de IA se aboga por utilizar quizás como más apropiado el término Inteligencia Aumentada, lo que quizás refleje con mayor precisión el propósito de estos sistemas cuya intención es coexistir con la toma de decisiones humanas. Y para ello debe ser sometido a una valoración crítica para satisfacer los mismos criterios de evidencia científica que los que se esperan de otras intervenciones clínicas. Y para ello, ya la propia revista NEJM anuncia la pronta llegada de una nueva revista, NEJM-IA, y la propia Universidad de McMaster publicó en JAMA en el año 2019 el artículo “How to Read Articles That Use Machine Learning. User´s Guide to the Medical Literature”. Y así poder comprobar sus aplicaciones, que incluyen: 1) simplificar o reemplazar tareas que impliquen análisis, síntesis y generación de testo; 2) permitir nuevos flujos de trabajo y modelos de atención; 3) mover las fronteras entre la pericia humana y la IA. 

Ya hay trabajos que demuestran que, al comparar el ChatGPT con la inteligencia humana, aquella no solo puede mejorar la calidad de las respuestas, sino incluso la empatía con nuestro paciente (y eso no sé si tranquiliza o ya asusta). Porque esa intención de que las máquinas piensen de forma similar a la humana, con habilidad para realizar decisiones similares a nosotros, ya está aquí…. 

Y, además, plantea un dilema en el panorama docente. Porque la mayoría del texto generado no es copiado, ya que los generadores de texto hacen predicciones palabra por palabra de lo que debería seguir, basándose en análisis estadístico de gran cantidad de texto en internet, aunque ocasionalmente incluirán una frase u oraciones copiadas de la fuente. Por tanto, la mayoría de los productos de ChatGPT pasan los análisis tradicionales de plagio. Los generadores de texto pueden ser percibidos como herramientas legítimas más que hacer trampa, como usar una calculadora para operaciones matemáticas o un corrector de gramática para escribir. Por ello es importante hacer explícitas las políticas sobre IA en las universidades y sistemas de salud, y seguir de cerca la evolución y disponibilidad de las herramientas que están surgiendo para identificar texto generado por IA. Y es así como, en los últimos meses, educadores de todo el mundo han estado explorando el potencial de ChatGPT y proponen algunas opciones para enfrentar la posibilidad de que los estudiantes hagan trampa o lo usen sin notificar al docente: escribir en clase en forma presencial; asignar pasos del proceso como anotación colaborativa, borradores, revisión por pares; pedirles que graben notas en audio o video sobre su escrito. 

En fin, todo un reto…