Model językowy przewiduje najbardziej prawdopodobny ciąg słów, a nie sprawdza faktów w bazie danych. Gdy czegoś nie wie, potrafi „dopowiedzieć” wiarygodnie brzmiącą odpowiedź. To właśnie halucynacja.
Jak się chronić: przy ważnych sprawach (zdrowie, prawo, pieniądze) sprawdzaj informacje w źródłach, proś model o podanie źródeł i weryfikuj je, korzystaj z trybów z wyszukiwaniem w internecie.
Gdzie o tym piszemy
Halucynacje AI pod kontrolą: skąd się biorą i jak je wyłapać
Model AI potrafi z pełnym przekonaniem podać nieistniejące badanie, zmyślony przepis prawa albo fałszywą datę. Halucynacje AI nie znikną, ale można nauczyć się je przewidywać i wyłapywać.
Google AI Overviews odbiera ruch wydawcom. Co dalej z siecią?
Podsumowania AI w wyszukiwarce Google mocno zmieniły to, jak ludzie trafiają na strony z artykułami. Wydawcy notują duże spadki ruchu, a Google przekonuje, że sieć ma się dobrze.
Halucynacje AI: kiedy czat zmyśla i jak to sprawdzić
Dlaczego AI potrafi pewnie podać nieprawdę i proste sposoby, żeby się przed tym chronić.