Aprende a detectar las alucinaciones, el conocimiento desactualizado y el exceso de confianza de los asistentes.
Abrir esta lección en KodokonPara aprender a programar, una IA generativa es una aliada formidable. Destaca en: explicar un concepto exactamente a tu nivel, reformular las cosas de otra manera cuando no lo has captado, dar ejemplos adicionales bajo demanda, crear ejercicios a medida y revisar tu trabajo para señalar tus errores. Ningún libro de texto se adapta a ti de esta forma, y ningún profesor está disponible 24 horas al día. Pero esta aliada tiene tres defectos que debes conocer antes de confiar en ella.
Primer defecto: las alucinaciones. Una alucinación es una respuesta falsa pero formulada como si fuera evidente. Recuerda la lección anterior: el modelo produce texto *plausible*, no texto *verificado*. Ejemplos reales: inventarse una función de JavaScript que no existe (como un array.shuffle() inventado), citar un libro que nunca se escribió o atribuir una cita a la persona equivocada. El texto es fluido, seguro, bien construido… y falso.
Segundo defecto: el conocimiento desactualizado. Un modelo queda congelado en el momento en que se detiene su entrenamiento; esa fecha se llama fecha de corte del conocimiento (knowledge cutoff). Todo lo que apareció después (una nueva versión de un lenguaje, una nueva biblioteca, la actualidad) le resulta desconocido, salvo que el asistente disponga de una herramienta de búsqueda web. En la práctica: si preguntas "¿cuál es la última versión de Python?", la respuesta puede estar desactualizada sin que nada lo señale.
Tercer defecto: el exceso de confianza. Un humano competente dice "no lo sé" o "no estoy seguro". Un LLM, por defecto, produce una respuesta afirmativa, porque los textos vacilantes son raros en su entrenamiento. El resultado: cuanto más principiante eres, más riesgo corres de tomar una suposición por un hecho. El remedio: pedirle explícitamente al modelo que distinga lo que es seguro de lo que no lo es.
Eres un asistente riguroso que prefiere admitir incertidumbre antes que inventarse cosas.
Responde a mi pregunta de abajo siguiendo estrictamente estas reglas:
1. Distingue claramente los HECHOS ESTABLECIDOS de las SUPOSICIONES.
2. Si no estás seguro de un punto, escribe "POR VERIFICAR:" delante de él.
3. Indica tu fecha de corte del conocimiento y señala lo que puede haber cambiado desde entonces.
4. Termina con una lista de las fuentes oficiales donde pueda comprobarlo yo mismo.
Mi pregunta: [escribe aquí tu pregunta]El buen hábito que adoptar a partir de hoy: trata a la IA como un punto de partida, nunca como una fuente final. Para cualquier información importante (una sintaxis, una versión, un hecho), contrástala con la documentación oficial o una fuente de referencia. Este pequeño esfuerzo de verificación no es una pérdida de tiempo: buscar en la documentación es una habilidad de programación que entrenas por el camino.
Acabas de decirme lo siguiente: [pega aquí la afirmación de la IA].
Ahora haz de abogado del diablo: dame las razones por las que esta afirmación podría ser falsa, incompleta o estar desactualizada, y luego dime exactamente cómo verificarlo yo mismo (qué documentación oficial consultar, qué buscar en ella).