Conversaciones privadas de Claude aparecieron en Google, con datos de menores y claves de carteras cripto incluidas

ChatGPT en 2024, Grok después y ahora Claude. El chatbot de Anthropic se convirtió este fin de semana en el último gran modelo de lenguaje en sufrir la exposición pública de conversaciones que sus propios usuarios creían privadas. TechCrunch y Fortune fueron los primeros medios en confirmar el hallazgo, originado en un hilo de Reddit del sábado.

El detonante fue tan sencillo como escribir site:claude.ai/share en el buscador de Google. Esa consulta devolvía un listado de conversaciones y los artefactos, que son las miniaplicaciones interactivas que Claude permite construir dentro del chat. Eran todas aquellas que sus autores habían compartido mediante un enlace con una persona o un grupo reducido de usuarios.

Lo que aparecía en esos resultados iba mucho más allá de charlas triviales. Fortune y TechCrunch documentaron claves de carteras de criptomonedas, nombres y teléfonos de niños en edad escolar, historiales médicos completos, resultados de ensayos clínicos con pacientes identificados, documentos corporativos marcados como confidenciales y evaluaciones de empleados con información personal. En un caso señalado por Fortune, un chat etiquetado como "compartido por Anthropic" mostraba además a Claude generando contenido erótico, algo que contradice de forma explícita las políticas de uso de la propia compañía.

Cómo un enlace privado terminó en un buscador

La función que causó esto es la Compartir, que genera una URL única para cada conversación con el aviso de que "cualquiera con el enlace puede verlo". Como recuerda TechCrunch, este es un diseño equivalente al de Google Docs. Sin embargo, hay un matiz importante. Y es que los documentos de Google no terminan indexados públicamente por defecto, algo que aparentemente sí pasaba con las conversaciones de Claude.

Anthropic trasladó buena parte de la responsabilidad hacia ese punto. La compañía explicó al mismo medio que no comparte directorios ni mapas de su sitio con motores de búsqueda y que los enlaces "no son adivinables ni descubribles" a menos que el propio usuario los difunda. Su portavoz, Amie Rotherham, añadió que, al compartir una conversación, el usuario la convierte en contenido público que, como cualquier otro en la web, puede terminar archivado por servicios de terceros.

Google evitó también asumir responsabilidad directa. Su portavoz, Ned Adriance, recordó a TechCrunch que ni Google ni ningún otro buscador deciden qué páginas se hacen públicas, y que la compañía respeta las directrices de rastreo e indexado que cada sitio establece para su propio contenido.

Un problema que la industria no termina de resolver

El propio Anthropic ya había pasado por esto antes: Forbes documentó el año pasado un incidente similar en el que Google llegó a indexar cerca de 600 conversaciones de Claude. El patrón se repite fuera de la compañía con la misma facilidad. Sin ir más lejos, 404 Media reveló que un investigador logró recopilar unas 100.000 conversaciones de ChatGPT marcadas como públicas, y Grok, el chatbot de xAI, ha sufrido filtraciones equivalentes. Tres compañías distintas, el mismo fallo de diseño.

Según TechCrunch, una búsqueda repetida el lunes por la tarde con el mismo método ya no devolvía resultados. Por nuestra parte, hemos comprobado esa misma consulta y, efectivamente, site:claude.ai/share ya no muestra conversaciones en Google, señal de que Anthropic cerró la vía de indexación durante el fin de semana. Aun así, buena parte de los enlaces ya expuestos seguían siendo accesibles de forma directa para quien conservara la URL.

Si quieres comprobar si alguna de tus conversaciones quedó marcada como pública, puedes revisarlo desde Ajustes > Privacidad > Chats compartidos. El proceso es similar en el resto de chatbots, así que conviene echar un vistazo en cualquiera que se haya usado. Sin duda, es irónico que el mismo laboratorio que entrenó uno de los modelos más especializados en ciberseguridad, el que conoce como Mythos 5, cometa errores tan garrafales como estos.

Fin del Artículo. ¡Cuéntanos algo en los Comentarios!