
Centinaia di chat con Claude sono state rese pubbliche – On line anche analisi mediche e strategie aziendali: cosa è successo
Le conversazioni con i chatbot basati sull’intelligenza artificiale sono realmente sicure? Centinaia di chat avute dagli utenti con Claude, il sistema sviluppato da Anthropic, sono infatti diventate visibili online e, per un periodo, potevano essere trovate facilmente attraverso i motori di ricerca come Google. Tra i contenuti individuati comparivano informazioni particolarmente delicate, tra cui dati relativi alla salute, progetti e decisioni aziendali e riferimenti a persone minorenni.
A scoprire il problema sono stati alcuni utenti di Reddit, che hanno segnalato la presenza sul web di più di 200 conversazioni distribuite all’interno di numerose pagine dei risultati di ricerca. Il fenomeno sarebbe stato causato dalla possibilità offerta da Claude di creare un collegamento pubblico per condividere una conversazione. Anche se questi link non erano stati progettati per essere normalmente catalogati dai motori di ricerca, alcuni sono comunque finiti in pagine accessibili pubblicamente e sono stati successivamente raccolti da Google. Di conseguenza, era possibile raggiungere le chat attraverso normali ricerche online.
Dopo la segnalazione, Anthropic è intervenuta rapidamente per limitare il problema e bloccare l’indicizzazione dei collegamenti. L’azienda ha dichiarato che la condivisione delle conversazioni dipende dalle scelte degli utenti e che i link non dovrebbero essere accessibili senza una pubblicazione volontaria. Ha inoltre ricordato che qualsiasi materiale reso pubblico sul web può essere successivamente memorizzato o archiviato da servizi esterni, rendendo difficile controllarne completamente la diffusione.
L’episodio non rappresenta un caso isolato nel settore dell’intelligenza artificiale. Anche altri chatbot hanno avuto in passato problemi simili. ChatGPT era stato coinvolto in un incidente che aveva reso accessibili alcune conversazioni, mentre in seguito anche Grok aveva visto numerosi scambi finire online e diventare consultabili tramite semplici ricerche. Questi episodi evidenziano quindi l’importanza di prestare attenzione ai dati inseriti nei chatbot e di migliorare costantemente i sistemi che proteggono la privacy degli utenti.