Pamięć ChatGPT zapisuje o użytkownikach dużo więcej, niż większość z nas przypuszcza. Prawie zawsze robi to bez prośby. Tak wynika z badania „The Algorithmic Self-Portrait: Deconstructing Memory in ChatGPT”. Przygotowali je naukowcy z Niemiec, Indii i Holandii, m.in. z Instytutu Maxa Plancka ds. Systemów Oprogramowania. Tylko 4,1 proc. przeanalizowanych wpisów powstało dlatego, że użytkownik wprost o to poprosił. Resztę chatbot dodał sam, bo uznał, że przyda się w kolejnych rozmowach. To przewidziana funkcja, a nie błąd. Wątpliwość budzi co innego: czy ludzie wiedzą, ile informacji system może zachować bez ich polecenia.
Badacze dostali historie rozmów od 80 osób, które regularnie korzystają z ChatGPT i dobrowolnie przekazały swoje dane. W materiałach od 65 z nich znaleźli 2050 wpisów pamięci z 1058 konwersacji. Ponad połowa wpisów (52 proc.) dotyczyła psychiki: pragnień, intencji, przekonań i emocji. 28 proc. zawierało dane osobowe w rozumieniu RODO, a około 7 proc. dane szczególnie wrażliwe, np. o zdrowiu. Autorzy nazywają taki zbiór „algorytmicznym autoportretem”.
Co to znaczy dla Ciebie?
ChatGPT nie tylko notuje fakty. Dopowiada sobie też wnioski, i to nie zawsze trafne. W jednym z przykładów ktoś poprosił o zespoły podobne do Nirvany, a model zapisał, że ta osoba lubi Nirvanę. Tymczasem mogła ona na przykład szukać czegoś dla znajomego. Według badania 84 proc. wpisów miało oparcie w słowach użytkownika. 5 proc. oceniono jako słabo uzasadnione, a 4 proc. nie miało pokrycia w kontekście rozmowy. Błędny wpis może potem wpływać na kolejne odpowiedzi.
Co możesz zrobić już teraz:
- Otwórz ustawienia ChatGPT, sekcję Personalizacja. Tam wyłączysz pamięć.
- Przejrzyj podsumowanie tego, co model zapamiętał (w wersjach, które to oferują), i poproś o poprawki.
- Pamiętaj, że wyłączenie pamięci nie kasuje historii rozmów. Żeby całkiem usunąć daną informację, czasem trzeba skasować też czaty lub pliki, w których się pojawiła.
- Zastanów się dwa razy, zanim opowiesz czatowi o zdrowiu, pieniądzach czy sprawach osobistych.
Blokada prywatnych rozmów kodem PIN utrudnia innym podejrzenie czatu, ale nie usuwa zapisanych danych.
Czy to dotyczy obecnej wersji?
Nie do końca, bo badanie opisuje starszy mechanizm. Pamięć to coś innego niż okno kontekstowe, czyli tekst, który model widzi w jednej rozmowie. Pamięć przenosi informacje między rozmowami. W czerwcu OpenAI wprowadziło nowy system pamięci o nazwie dreaming. Zamiast pojedynczych notatek tworzy on podsumowanie, które łączy informacje z wielu rozmów i aktualizuje się z czasem. Dzięki temu personalizacja trafiła też do darmowej wersji ChatGPT. Brakuje jednak niezależnego badania, które pokazałoby, czy nowa pamięć rzadziej zapisuje wrażliwe dane i mniej się myli.
Autorzy ostrzegają, że problem będzie rósł. Coraz częściej radzimy się chatbotów w sprawach pracy, finansów i życia prywatnego. A im więcej im opowiadamy, tym więcej sztuczna inteligencja może o nas wywnioskować.
Czytaj dalej
Google AI Quests: nowa gra uczy dzieci AI na mapie mózgu
Google wypuściło „Polar Peaks”, trzecią misję z darmowej serii gier edukacyjnych AI Quests dla uczniów w wieku 11–14 lat. Tym razem dzieci mapują neurony w mózgu i przy okazji uczą się, że sztuczna inteligencja potrzebuje ludzkiej kontroli.
Bezpieczeństwo i prywatność w pracy z AI
Czego nie wpisywać do czatu, jak ustawić prywatność i jak rozpoznać oszustwa wykorzystujące AI.
AI do obrazów, muzyki i wideo — od czego zacząć
Przegląd narzędzi generatywnych dla początkujących: jak stworzyć pierwszą grafikę, piosenkę i krótki film.