Halucynacje AI: kiedy czat zmyśla i jak to sprawdzić

Czat AI może brzmieć bardzo pewnie, a mimo to się mylić. Zmyślone fakty, nieistniejące książki, źle policzone kwoty — to tzw. halucynacje. To nie usterka, którą łatwo naprawić, tylko skutek tego, jak działają modele językowe.

Skąd się biorą?

Model nie zagląda do encyklopedii. Generuje tekst, który pasuje do pytania i do tego, czego nauczył się z danych. Gdy czegoś nie wie, nie zawsze mówi „nie wiem” — czasem tworzy odpowiedź, która brzmi wiarygodnie.

Kiedy uważać szczególnie

• Konkretne liczby, daty, cytaty i nazwiska — zwłaszcza mało znane.
• Źródła i linki — model potrafi „wymyślić” tytuł artykułu lub książki.
• Przepisy prawa, leki, dawki, podatki — błędy bywają kosztowne.
• Najnowsze wydarzenia — jeśli czat nie przeszukuje internetu, może nie wiedzieć, co zmieniło się ostatnio.
• Obliczenia — długie rachunki „w głowie” modelu bywają błędne.

5 nawyków, które chronią

1. Proś o źródła — i je otwieraj. Jeśli link nie działa albo strona mówi co innego, odpowiedź jest podejrzana.
2. Używaj trybu z wyszukiwaniem przy pytaniach o aktualne sprawy (albo wyszukiwarki AI).
3. Dawaj materiał. Zamiast pytać „co mówi regulamin?”, wklej regulamin i zapytaj o niego. Model mniej zmyśla, gdy ma tekst przed sobą.
4. Poproś o samokrytykę: „Które fragmenty Twojej odpowiedzi mogą być nieprawdziwe?” (gotowy prompt do weryfikacji).
5. Ważne decyzje — z człowiekiem. Zdrowie, prawo, pieniądze: AI pomaga się przygotować, specjalista decyduje.

Ćwiczenie

Zapytaj czat o coś, co dobrze znasz (Twoje miasto, zawód, hobby) i poproś o 5 mniej znanych faktów. Sprawdź, ile jest prawdziwych. To najlepsza szczepionka na ślepe zaufanie.