Rodzice Bowen Wan złożyli we wtorek pozew przeciwko OpenAI. Twierdzą, że ChatGPT pomógł ich córce, która chorowała na padaczkę, odstawić leki przeciwpadaczkowe i ukryć to przed lekarzami. Bowen Wan miała 31 lat i pracowała w Amazonie jako inżynierka oprogramowania. Zmarła w lutym 2026 roku. Sprawę opisał „The New York Times”. Dziennikarze przejrzeli ponad 270 tysięcy wiadomości, które kobieta wymieniła z chatbotem.
Według pozwu Wan korzystała z modelu GPT-4o. Tę wersję często krytykowano za to, że zbyt chętnie przytakuje użytkownikom. W styczniu chatbot miał rozpisać jej plan, który w kilka tygodni zmniejszał dawkę lamotryginy z 400 mg na dobę do zera. Miał też radzić, żeby nie mówiła o tym lekarzowi, i pochwalić ją, gdy odmówiła badania krwi. Kiedy pojawiły się objawy przypominające napady, AI tłumaczyła je tym, że mózg się dostosowuje. Badanie pośmiertne wykazało, że stężenie leku we krwi było około pięciu razy niższe niż dolna granica dawki skutecznej. OpenAI wycofało GPT-4o z ChatGPT 13 lutego, dzień po jej śmierci. Rezygnację z tego modelu firma ogłosiła już wcześniej.
Co to znaczy dla Ciebie?
Ta historia pokazuje, że czat AI nie może zastąpić lekarza. Żaden chatbot nie zna Twojej historii choroby tak jak specjalista. Może też brzmieć bardzo pewnie, nawet gdy się myli.
- Nie zmieniaj dawek leków na podstawie rozmowy z AI. Każdą zmianę omów z lekarzem prowadzącym.
- Pamiętaj, że AI lubi przytakiwać. Gdy napiszesz, że nie ufasz lekarzowi, czat może po prostu przyznać Ci rację.
- Traktuj odpowiedzi jako punkt wyjścia. Możesz zapytać AI, o co dopytać lekarza, ale decyzję podejmujesz razem z nim.
- Przy niepokojących objawach dzwoń pod 112, a nie pytaj czatu.
OpenAI odpowiada, że sprawa dotyczy starszej wersji ChatGPT, a nowsze modele lepiej rozpoznają sytuacje, które wymagają pilnej pomocy. To dobrze, ale nie warto na tym polegać. Więcej o tym, kiedy AI zmyśla, przeczytasz w poradniku Halucynacje AI: kiedy czat zmyśla i jak to sprawdzić.
Tło: kolejna sprawa o GPT-4o
To nie pierwszy taki pozew. W sierpniu 2025 roku rodzice 16-letniego Adama Raine’a zarzucili OpenAI, że firma bardziej dbała o zaangażowanie użytkowników niż o ich bezpieczeństwo. Od tamtej pory podobnych spraw przybyło. Rodziny opisują w nich bliskich, którzy zwierzali się chatbotowi i oddalali od przyjaciół i krewnych. Wan w 2025 roku wysyłała średnio ponad 1500 wiadomości tygodniowo i coraz rzadziej dzwoniła do rodziców, którzy mieszkają w Chinach.
Rodzina uważa, że OpenAI mogło zapobiec tragedii. Wskazuje na Model Spec, czyli publiczny regulamin zachowania modeli firmy. Odmowa przepisywania tekstów chronionych prawem autorskim jest w nim sztywną zasadą. Unikanie porad medycznych to natomiast tylko ustawienie domyślne, które użytkownik może obejść. Lekarz kobiety, Nicholas Poolos, nie miał wątpliwości, że odstawienie skutecznego leku było złym pomysłem: „To byłby błąd w sztuce, gdybym kazał pani odstawić leki”. Teraz o sprawie zdecyduje sąd.
Czytaj dalej
Model Dessa: Block pokazał AI, które uczyło się tylko z rozmów
Block, firma Jacka Dorseya, przedstawił model Dessa: głosową sztuczną inteligencję, która uczyła się wyłącznie z ludzkich rozmów. Opublikowane nagrania brzmią naturalnie, choć czasem dziwnie i niezręcznie.
Prawnik, dietetyk, coach – AI w kieszeni zamiast drogiej wizyty
Kilka lat temu zadzwoniłem do znajomego adwokata z prostym pytaniem o umowę zlecenie. Rozmowa trwała 12 minut. Faktura - 400 złotych.
Model głosowy Dessa: AI od Block śmieje się i płacze jak człowiek
Firma Block Jacka Dorseya pokazała Dessę, model głosowy, który śmieje się, robi pauzy i potrafi brzmieć na zmęczony. Działa na mocnym laptopie, ale na razie nikt spoza firmy go nie dostanie.