Udostępnione przez użytkowników konwersacje oraz interaktywne elementy Artifacts stworzone w chatu AI Claude od firmy Anthropic pojawiły się w publicznych wynikach wyszukiwania Google. Wśród zindeksowanych materiałów odnaleziono wrażliwe dane, w tym dokumentację medyczną, wewnętrzne pliki firmowe oraz dane osobowe dzieci. Problem wyniknął z funkcji generowania linków do udostępniania rozmów zewnętrznym osobom.
Poufne dane w wynikach wyszukiwania
Incydent został wykryty przez użytkowników serwisu Reddit, którzy zauważyli, że wpisanie w wyszukiwarkę komendy ograniczającej wyniki do adresu „site:claude.ai/share” ujawnia listę prywatnych czatów. Wśród ujawnionych treści redakcje Futurism oraz Fortune odnalazły m.in. szczegółowe raporty medyczne pacjentów, wyniki badań klinicznych, oceny pracowników oraz kod źródłowy. W jednym z przypadków bot wygenerował treści erotyczne, co jest oficjalnie zakazane przez regulamin serwisu Anthropic.
Stanowisko Anthropic i Google
Przedstawiciele Anthropic poinformowali, że udostępniane odnośniki trafiają do wyszukiwarek tylko wtedy, gdy zostaną opublikowane przez samych użytkowników w miejscach widocznych dla robotów indeksujących, takich jak fora czy media społecznościowe. Rzeczniczka firmy, Amie Rotherham, podkreśliła, że Anthropic nie przekazuje wyszukiwarkom map witryn ani katalogów czatów. Z kolei przedstawiciel Google, Ned Adriance, zaznaczył, że wyszukiwarki indeksują treści ogólnodostępne w sieci i zawsze respektują wytyczne właścicieli stron dotyczące zakazu indeksowania.
Historia podobnych wycieków
To nie pierwszy przypadek, gdy czaty sztucznej inteligencji stają się publicznie widoczne. W ubiegłym roku Forbes informował o zindeksowaniu przez Google około 600 rozmów z Claude, zanim zostały one usunięte z wyników. Ponadto w tym samym okresie badaczom udało się pobrać dane z około 100 tysięcy udostępnionych konwersacji z ChatGPT.
Co wiadomo obecnie
Do poniedziałkowego popołudnia wyszukiwanie udostępnionych linków tą samą metodą przestało zwracać wyniki, co wskazuje na wprowadzenie poprawek blokujących dalsze indeksowanie. Użytkownicy Claude mogą w każdej chwili sprawdzić i zmienić status udostępnionych przez siebie konwersacji, przechodząc do ustawień prywatności w panelu aplikacji (Settings -> Privacy -> Shared Chats).
Źródło: TechCrunch
