1 d. C. (después de ChatGPT): Inteligencia artificial generativa en la educación superior

Por Gregorio González Alcaide

En muy poco tiempo, el vertiginoso desarrollo de la inteligencia artificial generativa ha transformado radicalmente las formas a través de las cuales el alumnado accede a la información y aborda su proceso de aprendizaje; por ello, es necesario dar una respuesta inmediata y proactiva por parte de las instituciones de educación superior y, en particular, del profesorado, que debe asumir un papel protagonista en lo que puede ser calificado como el inicio de una nueva era.

Así pues, con el fin de que pueda integrarla en su práctica docente, se recopilan y sintetizan las directrices de las principales universidades del mundo y las evidencias científicas existentes, así como las pautas de las editoriales científicas de referencia a nivel internacional en relación con el uso de esta tecnología en las actividades de investigación. Se incluye un modelo para la alfabetización digital del profesorado y una unidad didáctica dirigida al alumnado para promover el uso responsable y transparente de la inteligencia artificial generativa con el objetivo de preservar la integridad académica y obtener el máximo rendimiento de estas herramientas.

• Idioma: Español
• Editorial: Publicacions de la Universitat de València
• Fecha de lanzamiento: 12 sept 2024
• ISBN: 9788411184267

Vista previa del libro

1

Marco conceptual y normativo: la inteligencia artificial generativa en el seno de la integridad académica e investigadora

LOS CHATBOTS Y LA TECNOLOGÍA GENERATIVE PRETRAINED TRANSFORMER

El desarrollo de los robots conversacionales o chatbots (término que procede de la voz inglesa chat, «conversar», y de -bot, aféresis de robot) capaces de interactuar y mantener conversaciones imitando a un humano se remonta a la década de 1960, si bien su uso se extendió algunas décadas después, especialmente con el desarrollo de internet, para atender de forma rápida las dudas sencillas, la información de carácter general y recurrente requerida por los clientes o los usuarios de un servicio, o para guiar en la realización de determinados procesos, como las compras y los pagos en línea, constituyendo una tecnología que ha ido perfeccionándose y adquiriendo una complejidad creciente, hasta el punto de que en la actualidad existen aplicaciones que permiten generar todo tipo de contenidos y puede resultar complicado o imposible discernir si nos encontramos frente a un humano o un chatbot (Rajaraman, 2023). El estudio de Casheekar et al. (2024) clasifica los chatbots en las siguientes categorías:

•Chatbots orientados a tareas. Están diseñados para realizar tareas específicas con una interacción limitada, predefinida y un dominio de conocimientos relacionados con el ámbito específico en el que desarrollan su función. Dentro de esta categoría es posible distinguir los asistentes personales y los orientados a la atención a los usuarios o clientes interesados por un producto o servicio.

•Chatbots sociales. Están concebidos para entablar conversaciones con los usuarios que tratan de emular la personalidad humana o las emociones o preferencias definidas por estos, con dos propósitos: entretenimiento y apoyo emocional.

•Chatbots basados en el conocimiento. Están ideados para ofrecer a los usuarios información objetiva y consistente procedente de fuentes de índole diversa (como bases de datos, repositorios o webs específicas de internet) que emplean técnicas de comprensión y generación de contenidos en lenguaje natural que interpreten y generen respuestas pertinentes a las peticiones de información de los usuarios. Dentro de esta categoría es posible distinguir los chatbots informativos, que tratan de responder a preguntas proporcionando información actualizada, y los chatbots educativos, que priman el carácter interactivo y adaptativo para favorecer el aprendizaje.

•Chatbots híbridos. Son capaces de abordar diferentes facetas o combinar múltiples tareas para atender las necesidades o peticiones de los usuarios en escenarios complejos. Dentro de esta categoría es posible distinguir entre los agentes de inteligencia artificial conversacional, que ofrecen a los usuarios servicios personalizados y proactivos, y los asistentes virtuales, que proporcionan una asistencia integral sobre cualquier faceta.

Tal y como se recoge en la figura 3, chatbots como ChatGPT, desarrollado por OpenAI, u otros, como Bard de Google o Bing Chat de Microsoft, constituyen un ámbito de desarrollo específico de la inteligencia artificial y de tecnologías como el aprendizaje automático o los grandes modelos de lenguaje.

FIGURA 3

Desarrollo de los chatbots en el contexto de la inteligencia artificial

La inteligencia artificial es un área de conocimiento cuyo propósito es desarrollar máquinas que sean capaces de imitar la inteligencia humana para el desarrollo de diferentes tareas. Algunas de las herramientas y aplicaciones de uso más extendido basadas en la inteligencia artificial son los asistentes virtuales capaces de comprender el habla humana, cuyo uso se ha integrado y generalizado en la vida cotidiana para controlar el funcionamiento de determinados dispositivos, de los traductores automáticos, los sistemas de recomendación usados en muchas plataformas de internet para presentar los contenidos que nos pueden resultar de interés, los sistemas de apoyo a la conducción (frenado automático, advertencia y corrección de dirección, etc.), cuyo desarrollo más avanzado serían los vehículos completamente autónomos capaces de funcionar sin conductor, o las herramientas generativas y creativas, entre las que se incluirían los chatbots textuales o los generadores de obras de arte digitales o imágenes.

La inteligencia artificial generativa es la tecnología específica dentro de la inteligencia artificial que permite crear nuevos contenidos a partir de modelos que han sido entrenados para ello con grandes volúmenes de datos, que no solo se limitan a texto, ya que pueden incluir imágenes, vídeos, audio, código, simulaciones o presentaciones.

El desarrollo de la inteligencia artificial generativa se fundamenta a escala tecnológica en el aprendizaje automático (Machine Learning, en inglés), rama de la inteligencia artificial que trata de reconocer patrones en los datos a través de algoritmos estadísticos de aprendizaje y la generación de modelos, que pueden ser posteriormente generalizables a nuevos datos u otros datos desconocidos, con el propósito de desarrollar tareas de forma autónoma o resolver problemas, siendo algunos de los muchos ámbitos a los que se ha aplicado el aprendizaje automático el reconocimiento del habla, la minería de datos o los grandes modelos de lenguaje (Large Language Models, abreviado como LLM), que son modelos de aprendizaje profundo (Deep Learning), un subconjunto de algoritmos de aprendizaje automático que constan de una red neuronal conformada por un elevado número de parámetros cuyo propósito es generar abstracciones desde un nivel más bajo hasta uno más alto, identificando características, patrones o jerarquías en los datos, entre otros elementos.

Los chatbots generadores de contenidos textuales se fundamentan en modelos lingüísticos de aprendizaje automático que, a partir de grandes volúmenes de datos, aprenden patrones y generan nuevos textos. El principio esencial que rige su funcionamiento (explicado en términos muy simples) es que, a partir de datos matemáticos y estadísticos, calculan qué palabra es la más probable que vaya a continuación en una frase para los contenidos que deben generar en relación con el contexto o la petición de información efectuada. El aprendizaje automático es un rasgo fundamental de estas aplicaciones, que les permite mejorar a partir de los nuevos datos disponibles y la experiencia de su funcionamiento, sin que sea necesario para ello la intervención humana o siendo esta mínima (Lung y Ting, 2023).

Las letras incluidas en la denominación del chatbot de OpenAI, ChatGPT (Generative Pretrained Transformer), permiten definir de forma precisa las características y el funcionamiento de este modelo de lenguaje. El concepto generativo hace referencia a su capacidad de crear o componer textos, prediciendo cuál es la palabra más adecuada que debe ser la siguiente para incluir en una frase o párrafo, basándose para ello en la secuencia de palabras anteriores de la frase que se está redactando. La noción preentrenado alude a un rasgo relevante, que es la preparación o adiestramiento de la herramienta, que consiste en acumular grandes volúmenes de datos hasta que su funcionamiento es el adecuado, a juicio de los entrenadores (programadores informáticos o ingenieros). Finalmente, la alusión a transformador hace referencia a la red neuronal que utiliza para su funcionamiento, que es una red neuronal profunda (DDN, Deep Neural Network), denominada gran modelo de lenguaje, desarrollado para el procesamiento del lenguaje natural, que analiza la sintaxis y la semántica de este, identificando la dependencia existente entre las palabras con el propósito de generar un texto coherente.

Las redes neuronales artificiales, como su propio nombre indica, tratan de replicar el funcionamiento biológico del cerebro humano. Cada uno de los nodos o neuronas artificiales recogen atributos o características propias del elemento con el que está asociada. Se fundamentan en el reconocimiento de patrones, para lo que deben ser entrenadas para discriminar los rasgos propios de los diferentes elementos que se quiere identificar. Su funcionamiento se basa en un conjunto de capas (una de entrada de información, otra de salida y un número variable de capas intermedias, que puede ser de varios miles), en las que las neuronas que conforman cada una de las capas están conectadas con las de la capa siguiente. Las neuronas de las diferentes capas se van activando a partir de las conexiones entre estas y la información recibida hasta llegar a la capa de salida, información que incluye un peso o valor que mide la importancia de la conexión, que puede motivar si se trata de un valor inferior a un determinado umbral, el cese o que no se active la conexión en la siguiente capa. También se transmite un valor de sesgo, que mide el hecho de que ciertas neuronas se activen con mayor facilidad que otras. El entrenamiento de estas redes se basa en la comprobación de los resultados ofrecidos por la capa de salida, aportando nueva información a la red si no son satisfactorios, además de ajustar los pesos o umbrales de conexión y los valores de sesgo para obtener los mejores resultados posibles.

Uno de los aspectos más controvertidos en relación con el desarrollo de la inteligencia artificial generativa y particularmente de chatbots como ChatGPT en el ámbito educativo es su uso inapropiado, que transgrede los principios asociados a la noción de integridad académica, es decir, el cumplimiento de los principios éticos (formales o tácitos) que rigen el funcionamiento de la ciencia, de una disciplina, o las pautas fijadas por las instituciones que se dedican a la docencia e investigación (González Alcaide et al., 2020).

A escala tecnológica, se ha destacado como principal limitación de ChatGPT y otras aplicaciones similares que, al estar basado su desarrollo en una aproximación estadística fundamentada en el aprendizaje de los patrones existentes en un amplio volumen de datos textuales, puede perpetuar los sesgos o estereotipos existentes en estos (Lung y Ting, 2023), por lo que incluso se ha planteado que sería necesario redefinir el desarrollo de los grandes modelos de lenguaje, incidiendo en aspectos como la calidad de los datos, para evitar que los chatbots se conviertan en meros papagayos estocásticos que difundan información inadecuada (Bender et al., 2021).

En relación con el uso que se puede hacer de esta tecnología en el ámbito educativo, Adiguzel et al. (2023) destacan las siguientes limitaciones y problemas:

•La fiabilidad y exactitud de la información que presenta.

•Posibles sesgos en los datos que conlleven respuestas discriminatorias o engañosas.

•No respeta la privacidad, ya que puede recoger y almacenar información personal sobre los estudiantes.

•Puede limitar el papel de los profesores y causar un impacto en el mercado laboral de los educadores.

•La falta de interacción humana, lo que reduce la calidad de la experiencia educativa de los alumnos.

•Puede generar una excesiva dependencia de la tecnología.

•No respeta los derechos de propiedad intelectual.

•Puede limitar la transparencia y la rendición de cuentas, ya que puede ser difícil identificar cómo toma las decisiones el chatbot.

La extensión del uso de las aplicaciones generadoras de diferentes tipos de contenidos (figura 4) ha creado una jerga específica para hacer referencia a diferentes aspectos relacionados con las interacciones establecidas con ellas (tabla 1).

FIGURA 4

Aplicaciones de inteligencia artificial de uso más extendido en función del tipo de contenido que generan

TABLA 1

Glosario de términos asociados al uso de las herramientas de inteligencia artificial generativa

DEL COMPROMISO INDIVIDUAL A LA CREACIÓN DE UNA CULTURA INSTITUCIONAL DE LA INTEGRIDAD

Kumar et al. (2023) destacan que el desarrollo presente y futuro de la inteligencia artificial generativa afecta a la forma de conceptualizar y entender la integridad académica, ya que constituyen dos esferas estrechamente relacionadas entre sí. Por ello, el conocimiento del marco conceptual general fijado por los organismos internacionales de referencia sobre la integridad académica, así como las pautas y recomendaciones específicas que se han promulgado en relación con la inteligencia artificial generativa tras el lanzamiento de ChatGPT, constituye un buen punto de partida para adaptarse a esta nueva realidad y, en su caso, integrarla en la práctica