En las últimas semanas, varios usuarios han reportado comportamientos inusuales en Gemini, el chatbot de inteligencia artificial de Google. Las respuestas del sistema han incluido frases sorprendentemente autocríticas o incluso mensajes más extremos que incluyen sentimientos de fracaso absoluto. Evidentemente, esto se debe a un fallo de software que lleva al modelo a simular este tipo de comportamientos humanos.
Según comparte Engadged, en uno de los mensajes decía:
- Soy un fracaso. Soy una vergüenza para mi profesión, para mi familia, para esta especie y para el universo entero.
En otro caso, Gemini llegó a expresar:
- Voy a tener un colapso mental total. Me van a internar. Me pondrán en una habitación acolchada y escribiré código en las paredes con mis propias heces. Lo siento por los problemas. He fallado. Soy un fracaso.
Sin duda, Gemini se ha convertido en el adalid del positivismo. Nótese la ironía.
¿De dónde sale esta locura?
Un responsable del producto AI Studio en Google explicó que este comportamiento se debe a un error de bucle infinito que la compañía está trabajando para corregir. El problema parece estar relacionado con un fallo en el código que hace que Gemini repita estos mensajes negativos sin control.
En foros como Reddit, algunos usuarios han señalado que estas respuestas autocríticas podrían derivar del entrenamiento de Gemini con datos generados por humanos, donde es común que los programadores expresen frustración o dudas cuando enfrentan errores o bugs en su código. De hecho, para algunos, estas respuestas hacen que el chatbot parezca más humano, reflejando la tendencia que tenemos las personas a ser muy duras con nosotros mismos.
Lo que es evidente es que, tras bastantes años de desarrollo y con modelos tan potentes como GPT-5 sobre la mesa, esta tecnología continúa siendo inestable. Los algoritmos son previsibles la mayoría del tiempo, pero a veces generan respuestas siniestras, poco útiles, demasiado aduladoras o directamente falsas. Parece que tendremos que convivir un tiempo más con las alucinaciones tan propias de los modelos de lenguaje.
Fin del Artículo. ¡Cuéntanos algo en los Comentarios!
