ChatGPT fue lanzado por OpenAI el 30 de noviembre de 2022 y en poco tiempo se convirtió en uno de los productos tecnológicos de crecimiento más rápido de la historia. Millones de personas lo usan para escribir, estudiar, programar y resolver dudas. Pero ¿cómo funciona ChatGPT por dentro? Esta guía lo explica en lenguaje sencillo.
Qué es ChatGPT
ChatGPT es un asistente conversacional basado en un modelo de lenguaje de gran tamaño, o LLM por sus siglas en inglés. GPT significa Generative Pre-trained Transformer: un modelo generativo, preentrenado, construido con la arquitectura Transformer, presentada por investigadores de Google en 2017 en el artículo Attention Is All You Need.
Paso 1: el texto se convierte en tokens
El modelo no lee palabras como nosotros. El texto se divide en pequeños fragmentos llamados tokens, que pueden ser una palabra entera, parte de una palabra o un signo de puntuación. Cada token se convierte en números que el modelo puede procesar.
Paso 2: predecir la siguiente palabra
En el centro de todo hay una tarea fácil de describir: dado un texto, predecir qué token viene después. El modelo elige un token probable, lo añade al texto y repite el proceso, un token cada vez, hasta completar la respuesta. La arquitectura Transformer usa un mecanismo llamado atención, que permite al modelo considerar todas las partes del texto a la vez para decidir qué es relevante.
Paso 3: el preentrenamiento
Para aprender a predecir bien, el modelo se entrena con una enorme cantidad de textos. Durante el entrenamiento ajusta miles de millones de parámetros internos para acertar cada vez más la siguiente palabra. En ese proceso absorbe patrones del lenguaje, hechos, estilos y formas de razonar presentes en los textos.
Paso 4: aprender a ser un asistente
Un modelo solo preentrenado completa textos, pero no necesariamente responde de forma útil. Por eso hay una segunda etapa: el modelo se ajusta con ejemplos de conversaciones y con la valoración de personas que indican qué respuestas son mejores. Esta técnica se conoce como aprendizaje por refuerzo con retroalimentación humana. Es lo que hace que ChatGPT siga instrucciones, rechace peticiones peligrosas y responda en forma de conversación.
Por qué se equivoca ChatGPT
Como el modelo genera el texto más probable y no consulta una base de datos de hechos, puede producir respuestas convincentes y erróneas, las llamadas alucinaciones. También tiene una fecha límite de conocimiento, fijada por el final del entrenamiento, y solo aporta información actual cuando usa herramientas como la búsqueda web. Por eso los datos, cifras, citas y referencias deben comprobarse siempre.
Qué hace bien ChatGPT
Resumir y reorganizar textos, proponer ideas, explicar conceptos de distintas maneras, traducir, corregir la redacción y ayudar en programación son tareas en las que suele ser útil, sobre todo cuando la persona sabe evaluar el resultado.
Cómo usarlo mejor
Da contexto: di quién eres, para qué es la respuesta y qué formato esperas. Pide al modelo que muestre su razonamiento o enumere sus fuentes. Divide las tareas grandes en pasos. Y trata la respuesta como un borrador para revisar, no como una verdad terminada.
Privacidad
Evita pegar información confidencial, datos personales de terceros o secretos de la empresa. Comprueba en la configuración si tus conversaciones pueden usarse para entrenar los modelos y usa los controles disponibles. Las empresas deberían optar por versiones corporativas con contratos de protección de datos.
Para entender la base técnica, lee nuestra guía de machine learning explicado. Para seguir las novedades, consulta las noticias de inteligencia artificial.