Chats de Claude quedaron expuestos en la Web y reavivaron el debate por la privacidad en la inteligencia artificial

Chats de Claude quedaron expuestos en la Web y reavivaron el debate por la privacidad en la inteligencia artificial

Uno de los conflictos relacionados con el auge de los chatbots con inteligencia artificial gira en torno a la privacidad. ¿Las conversaciones e información que se vierte en las charlas se mantienen bajo resguardo? Un incidente protagonizado por uno de los modelos de IA más conocidos echa nuevos leños al fuego de esta problemática.

El pasado fin de semana, chats privados con Claude quedaron expuestos en la Web. Según informó CNET, se podía acceder a las charlas a través de búsquedas simples en motores como Google y Bing. “Esto supone una crisis grave de privacidad para los usuarios involucrados y para Anthropic, la empresa creadora del chatbot”, observó la fuente.

Por su parte, la compañía no refiere a un incidente, sino a variables que los usuarios deben establecer a la hora de interactuar con su chatbot.

Claude expuso chats privados y profundiza las preocupaciones sobre la privacidad de la IA

¿En qué consistió el problema del chatbot de Anthropic? Reportado en primera instancia por usuarios en Reddit, el inconveniente radicó en que las conversaciones con la IA se compartieron de modo que cualquier usuario con el enlace podía acceder a ellas.

Aunque inicialmente compartidas por los propios usuarios con un grupo seleccionado, las charlas quedaron expuestas en toda la Web. Tal como señalamos, también aparecieron en motores de búsquedas web.

El desliz no fue trivial. Entre las conversaciones indexadas quedó al descubierto información confidencial, historiales médicos, datos corporativos y contenido explícito. En Google y Bing aparecían con una simple búsqueda con el agregado “site:claude.ai/share”.

Esta no es la primera vez que sucede algo así. El año pasado, cientos de conversaciones con Claude aparecieron en los resultados de búsqueda de Google y luego se eliminaron.

Siguiendo a CNET, si bien los riesgos de privacidad siempre existieron en la escena digital, el avance de la inteligencia artificial agrava esta problemática. Especialmente, si se considera que el despliegue de los agentes de IA involucra datos sumamente sensibles.

Para desprevenidos, la IA agéntica se diferencia de los chatbots por su proactividad: es capaz de realizar tareas en nombre del usuario con un alto nivel de autonomía. Esto implica la gestión de “secretos”, como los datos financieros, por ejemplo para realizar compras. El riesgo de que queden expuestos es, sin dudas, una variable que debe ser atendida.

Los comentarios de Anthropic luego del incidente: ¿Fue realmente una falla?

Un vocero de la startup señaló que el sistema no tuvo errores y que, en cambio, la exposición de la información se debió a que los usuarios decidieron compartir sus conversaciones.

“Los enlaces compartibles no se pueden adivinar ni descubrir a menos que las personas decidan compartirlos”, dijo. “Cuando alguien comparte una conversación, hace que ese contenido sea accesible públicamente y, al igual que otro contenido web público, puede ser archivado por servicios de terceros”, agregó.

En este escenario — y siendo que en buena medida la pelota está en poder del usuario— es relevante estar al tanto de los parámetros que pueden configurarse en los chatbots. En el caso de Claude, hay que ir a “Configuración”, luego de “Privacidad” y finalmente a “Chats compartidos”.

Fuente: TN