Pamięć ChatGPT zapisuje o użytkownikach dużo więcej, niż większość z nas przypuszcza. Prawie zawsze robi to bez prośby. Tak wynika z badania „The Algorithmic Self-Portrait: Deconstructing Memory in ChatGPT”. Przygotowali je naukowcy z Niemiec, Indii i Holandii, m.in. z Instytutu Maxa Plancka ds. Systemów Oprogramowania. Tylko 4,1 proc. przeanalizowanych wpisów powstało dlatego, że użytkownik wprost o to poprosił. Resztę chatbot dodał sam, bo uznał, że przyda się w kolejnych rozmowach. To przewidziana funkcja, a nie błąd. Wątpliwość budzi co innego: czy ludzie wiedzą, ile informacji system może zachować bez ich polecenia.
Badacze dostali historie rozmów od 80 osób, które regularnie korzystają z ChatGPT i dobrowolnie przekazały swoje dane. W materiałach od 65 z nich znaleźli 2050 wpisów pamięci z 1058 konwersacji. Ponad połowa wpisów (52 proc.) dotyczyła psychiki: pragnień, intencji, przekonań i emocji. 28 proc. zawierało dane osobowe w rozumieniu RODO, a około 7 proc. dane szczególnie wrażliwe, np. o zdrowiu. Autorzy nazywają taki zbiór „algorytmicznym autoportretem”.
Co to znaczy dla Ciebie?
ChatGPT nie tylko notuje fakty. Dopowiada sobie też wnioski, i to nie zawsze trafne. W jednym z przykładów ktoś poprosił o zespoły podobne do Nirvany, a model zapisał, że ta osoba lubi Nirvanę. Tymczasem mogła ona na przykład szukać czegoś dla znajomego. Według badania 84 proc. wpisów miało oparcie w słowach użytkownika. 5 proc. oceniono jako słabo uzasadnione, a 4 proc. nie miało pokrycia w kontekście rozmowy. Błędny wpis może potem wpływać na kolejne odpowiedzi.
Co możesz zrobić już teraz:
- Otwórz ustawienia ChatGPT, sekcję Personalizacja. Tam wyłączysz pamięć.
- Przejrzyj podsumowanie tego, co model zapamiętał (w wersjach, które to oferują), i poproś o poprawki.
- Pamiętaj, że wyłączenie pamięci nie kasuje historii rozmów. Żeby całkiem usunąć daną informację, czasem trzeba skasować też czaty lub pliki, w których się pojawiła.
- Zastanów się dwa razy, zanim opowiesz czatowi o zdrowiu, pieniądzach czy sprawach osobistych.
Blokada prywatnych rozmów kodem PIN utrudnia innym podejrzenie czatu, ale nie usuwa zapisanych danych.
Czy to dotyczy obecnej wersji?
Nie do końca, bo badanie opisuje starszy mechanizm. Pamięć to coś innego niż okno kontekstowe, czyli tekst, który model widzi w jednej rozmowie. Pamięć przenosi informacje między rozmowami. W czerwcu OpenAI wprowadziło nowy system pamięci o nazwie dreaming. Zamiast pojedynczych notatek tworzy on podsumowanie, które łączy informacje z wielu rozmów i aktualizuje się z czasem. Dzięki temu personalizacja trafiła też do darmowej wersji ChatGPT. Brakuje jednak niezależnego badania, które pokazałoby, czy nowa pamięć rzadziej zapisuje wrażliwe dane i mniej się myli.
Autorzy ostrzegają, że problem będzie rósł. Coraz częściej radzimy się chatbotów w sprawach pracy, finansów i życia prywatnego. A im więcej im opowiadamy, tym więcej sztuczna inteligencja może o nas wywnioskować.
Czytaj dalej
Asystent AI w SMS-ach: ponad 20 agentów, którym piszesz jak znajomemu
Coraz więcej agentów AI nie wymaga instalowania aplikacji. Wystarczy napisać do nich SMS-a albo wiadomość na WhatsAppie, a resztę załatwią same.
Model Dessa: Block pokazał AI, które uczyło się tylko z rozmów
Block, firma Jacka Dorseya, przedstawił model Dessa: głosową sztuczną inteligencję, która uczyła się wyłącznie z ludzkich rozmów. Opublikowane nagrania brzmią naturalnie, choć czasem dziwnie i niezręcznie.
Pozew przeciwko OpenAI: ChatGPT miał pomóc odstawić leki na padaczkę
Rodzice 31-letniej inżynierki z Amazona pozwali OpenAI. Twierdzą, że ChatGPT pomógł ich córce chorej na padaczkę odstawić leki i ukryć to przed lekarzami. Kobieta zmarła w lutym.