Halucynacje w AI - Hallucination in AI

Definicja halucynacje w AI

Halucynacje w sztucznej inteligencji (artificial intelligence) to zjawisko, w którym model generatywny (generative model) tworzy treść fałszywą, mylącą, niepotwierdzoną albo sprzeczną z danymi wejściowymi, a następnie przedstawia ją w formie brzmiącej wiarygodnie. W praktyce nie chodzi wyłącznie o „zwykły błąd”, lecz o wytworzenie odpowiedzi, która ma pozory poprawności: może zawierać wymyślone fakty, nieistniejące cytowania, błędne streszczenie dokumentu, fikcyjne osoby, zdarzenia lub relacje przyczynowo-skutkowe. Narodowy Instytut Standaryzacji i Technologii Stanów Zjednoczonych (National Institute of Standards and Technology, NIST) opisuje bliskie temu zjawisko pojęciem konfabulacji (confabulation): system generatywny wytwarza i z przekonaniem prezentuje treść błędną albo fałszywą, może też odejść od treści polecenia lub zaprzeczyć własnym wcześniejszym stwierdzeniom w tym samym kontekście. NIST zaznacza przy tym, że określenie „halucynacja” jest potoczne, lecz powszechnie używane w branży.

Najważniejsze w tej definicji jest to, że halucynacja nie oznacza awarii systemu w sensie technicznym. To skutek sposobu działania modeli generatywnych, zwłaszcza dużych modeli językowych (large language models), które nie „wiedzą” i nie „rozumieją” świata tak jak człowiek, lecz przewidują najbardziej prawdopodobne kolejne elementy wypowiedzi na podstawie wzorców statystycznych wyuczonych z danych. Jeżeli pytanie wymaga wiedzy, której model nie ma, jeżeli kontekst jest niejednoznaczny albo jeśli system jest premiowany za udzielenie odpowiedzi zamiast za przyznanie się do niepewności, model może wygenerować odpowiedź zmyśloną, lecz składną i przekonującą. OpenAI wskazuje wprost, że standardowe sposoby trenowania i oceniania modeli często nagradzają zgadywanie zamiast uczciwego sygnalizowania niepewności.

W sensie eksperckim halucynacja jest problemem rzetelności faktycznej (factuality), zakotwiczenia odpowiedzi w źródłach (grounding) oraz kalibracji pewności (calibration). Model może odpowiadać płynnie i poprawnie językowo, a mimo to produkować treść niezgodną z rzeczywistością. Dlatego w literaturze i dokumentacji technicznej halucynacje analizuje się nie tylko jako problem „prawdy”, lecz także jako problem zgodności z dokumentem źródłowym, zgodności z zapytaniem użytkownika i zdolności modelu do odmowy odpowiedzi wtedy, gdy nie ma wystarczających podstaw, by odpowiedzieć rzetelnie. Benchmark (benchmark) SimpleQA opracowany przez OpenAI został zaprojektowany właśnie po to, aby mierzyć, czy model „wie, co wie”, rozróżniać odpowiedzi poprawne, błędne i niepodjęte, oraz sprawdzać krótką rzetelność faktograficzną (short-form factuality).

Przyczyny halucynacji są wielowarstwowe. Po pierwsze, źródłem problemu bywa jakość danych: niepełne, stronnicze, przestarzałe albo wewnętrznie sprzeczne zbiory uczą model wzorców, które nie gwarantują prawdziwości. Po drugie, znaczenie ma sama architektura zadania: model przewiduje ciąg znaków, a nie weryfikuje rzeczywistości w czasie rzeczywistym. Po trzecie, halucynacje nasilają się przy pytaniach złożonych, wieloznacznych, niszowych albo wymagających aktualnej wiedzy. Po czwarte, wpływ ma sposób oceniania modeli: jeżeli system dostaje „punkty” głównie za udzielenie odpowiedzi, a nie za uczciwe przyznanie „nie wiem”, rośnie skłonność do zgadywania. OpenAI podaje przykład pytań z jedną poprawną odpowiedzią, w których odpowiedź losowa może dać niewielką szansę sukcesu, podczas gdy odmowa odpowiedzi zawsze daje wynik zerowy; w takim układzie metryki same wzmacniają ryzyko halucynacji.

W praktyce warto rozróżnić kilka odmian tego zjawiska. Najczęściej spotyka się halucynacje faktograficzne (factual hallucinations), czyli zmyślone fakty, daty, nazwiska, wyniki badań lub cytowania. Drugą ważną kategorią są halucynacje oparte na braku zakotwiczenia w dostarczonym materiale, gdy model streszcza dokument, ale dopisuje do niego wnioski, których w nim nie ma, albo przypisuje źródłu twierdzenia niewystępujące w tekście. Trzecia odmiana to halucynacje semantyczne (semantic hallucinations), gdy odpowiedź jest poprawna formalnie i językowo, ale merytorycznie rozmija się z intencją pytania. NIST ujmuje to szeroko: problem obejmuje zarówno treści fałszywe, jak i odpowiedzi odbiegające od polecenia czy sprzeczne z wcześniejszymi częściami tej samej rozmowy.

Dla użytkownika końcowego najgroźniejsze jest to, że halucynacja zwykle nie wygląda jak błąd. Model nie musi sygnalizować wahania, nie podaje od razu stopnia pewności, a forma wypowiedzi może być wręcz bardziej uporządkowana niż w tekście pisanym przez człowieka. To sprawia, że halucynacje są szczególnie niebezpieczne w medycynie, prawie, finansach, cyberbezpieczeństwie i wszędzie tam, gdzie pojedyncza nieprawdziwa informacja może wywołać realną szkodę. NIST klasyfikuje ten obszar jako ryzyko związane z wiarygodnością i bezpieczeństwem systemów generatywnych, a dokumentacja dostawców modeli konsekwentnie zaleca dodatkową weryfikację w zastosowaniach wysokiego ryzyka.

Warto też precyzyjnie odróżnić halucynacje od zwykłych błędów sztucznej inteligencji. Każda halucynacja jest błędem, ale nie każdy błąd jest halucynacją. Model klasyfikujący obraz psa jako kota popełnia błąd predykcyjny (prediction error). Model, który zmyśla artykuł naukowy, autora i numer czasopisma, popełnia halucynację, ponieważ tworzy nową, brzmiącą wiarygodnie, lecz nieistniejącą treść. Ta różnica jest fundamentalna z punktu widzenia projektowania zabezpieczeń: zwykły błąd częściej koryguje się przez lepsze dane lub strojenie modelu, natomiast halucynację trzeba ograniczać także przez zakotwiczenie w źródłach, metody odmowy odpowiedzi, mechanizmy cytowania i ocenę stopnia pewności.

Jeżeli chodzi o mierniki, nie istnieje jeden uniwersalny wskaźnik halucynacji, ale w praktyce stosuje się kilka klas miar. Pierwsza to trafność faktograficzna (factual accuracy), czyli odsetek odpowiedzi poprawnych na pytania z jednoznaczną odpowiedzią. Druga to wskaźnik halucynacji (hallucination rate), czyli częstość odpowiedzi fałszywych w sytuacjach, które prowokują model do zmyślania. Trzecia to odsetek odmów lub wstrzymań odpowiedzi (abstention / refusal rate), ważny dlatego, że model bardziej godny zaufania nie powinien odpowiadać na siłę. Czwarta grupa obejmuje rzetelność względem dokumentu źródłowego, często opisywaną jako zgodność z materiałem (faithfulness) albo zakotwiczenie (groundedness). OpenAI w opisie SimpleQA rozróżnia odpowiedzi poprawne, błędne i niepodjęte, a w karcie systemowej (system card) modelu o1 pokazało osobno trafność oraz wskaźnik halucynacji. W tym dokumencie dla SimpleQA podano dla GPT-4o trafność 0,38 i wskaźnik halucynacji 0,61, a dla o1 odpowiednio 0,47 i 0,44; sama firma zaznacza jednak, że takie pomiary obejmują tylko wybrane domeny i nie wyczerpują całego problemu. Google z kolei opisuje zakotwiczenie jako podłączenie odpowiedzi modelu do weryfikowalnych źródeł, co podnosi audytowalność i obniża ryzyko zmyślania.

W ostatnich trzech latach rozumienie halucynacji wyraźnie się rozwinęło. W marcu 2023 roku OpenAI przy premierze GPT-4 podkreślało, że problem nadal jest realny, choć model ogranicza halucynacje względem wcześniejszych wersji i osiąga wynik wyższy o 40% od najnowszego GPT-3.5 w wewnętrznych ocenach faktograficznych. W 2024 roku NIST usystematyzował problem w profilu ryzyka dla generatywnej sztucznej inteligencji (generative AI), traktując konfabulację jako odrębną kategorię ryzyka i wskazując działania kontrolne, takie jak weryfikacja źródeł, testy przedwdrożeniowe i dokumentowanie ograniczeń. W październiku 2024 roku OpenAI opublikowało benchmark SimpleQA, aby dokładniej mierzyć krótką rzetelność faktograficzną. W grudniu 2024 roku karta systemowa modelu o1 pokazała osobne wskaźniki trafności i halucynacji. We wrześniu 2025 roku OpenAI opublikowało analizę wyjaśniającą, że halucynacje wynikają również z bodźców treningowych i ewaluacyjnych premiujących zgadywanie; równocześnie firma stwierdziła, że GPT-5 halucynuje istotnie rzadziej, choć problem nie został całkowicie usunięty. Równolegle Google rozwijało warstwę zakotwiczenia w usługach Vertex AI, dodając łączenie odpowiedzi z Wyszukiwarką Google (Google Search), Mapami Google (Google Maps), usługami wyszukiwania dokumentów i zarządzanymi mechanizmami generowania wspomaganego wyszukiwaniem (retrieval-augmented generation).

Z perspektywy profesjonalnej halucynacje mają bezpośrednie znaczenie operacyjne. W kancelarii prawnej model może przygotować elegancko brzmiącą analizę, ale przytoczyć nieistniejące orzeczenia. W ochronie zdrowia może sporządzić logicznie wyglądające podsumowanie dokumentacji, lecz dopisać objawy lub wnioski niewystępujące w historii choroby. W finansach może wygenerować komentarz rynkowy oparty na błędnej dacie publikacji raportu albo przypisać spółce wyniki, których nie ogłosiła. Z kolei użytkownik indywidualny zetknie się z tym samym mechanizmem przy pozornie prostszych zadaniach: planowaniu podróży, porównywaniu produktów, interpretacji umowy, streszczaniu artykułu czy tworzeniu materiałów edukacyjnych. Różnica polega nie na naturze zjawiska, lecz na skali szkody: w zastosowaniach prywatnych błąd bywa niewygodny, w zawodowych może stać się kosztowny, prawnie doniosły albo reputacyjnie niszczący.

Najbardziej użyteczny biznesowo przykład dotyczy obsługi klienta w firmie posiadającej dużą bazę wiedzy. Wyobraźmy sobie przedsiębiorstwo sprzedające oprogramowanie (software), które wdraża asystenta konwersacyjnego (conversational assistant) do odpowiadania na pytania klientów o licencje, integracje i procedury reklamacyjne. Bez zakotwiczenia model może udzielać odpowiedzi płynnych, ale zmyślonych: poda nieistniejącą funkcję produktu, błędny termin wypowiedzenia umowy lub procedurę, której firma nigdy nie stosowała. Taki system pozornie poprawia szybkość obsługi, lecz faktycznie zwiększa liczbę reklamacji, eskalacji i kosztów wsparcia. Gdy jednak ten sam model zostanie połączony z zatwierdzonym repozytorium dokumentów, polityką cytowania źródeł oraz regułą „nie wiem”, jeśli brak potwierdzenia, staje się narzędziem realnie wspierającym biznes: ogranicza ryzyko dezinformacji, skraca czas odpowiedzi i podnosi audytowalność procesu. To właśnie dlatego Google i NIST tak mocno akcentują zakotwiczenie, pochodzenie danych, testowanie przedwdrożeniowe i ciągłe monitorowanie odpowiedzi.

Ograniczanie halucynacji nie polega na jednej „magicznej” poprawce. Najskuteczniejsze podejście ma charakter warstwowy. Po stronie modelu obejmuje lepsze dane, lepsze procedury uczenia po treningu wstępnym (post-training), pomiar rzetelności i kalibracji oraz premiowanie odmowy odpowiedzi przy niepewności. Po stronie systemu obejmuje zakotwiczenie w źródłach, generowanie wspomagane wyszukiwaniem, obowiązkowe cytowania, testy na przykładach granicznych oraz monitorowanie incydentów po wdrożeniu. Po stronie interfejsu i procesu obejmuje jasne komunikaty o ograniczeniach, rozdzielenie treści wygenerowanej od treści potwierdzonej oraz kontrolę człowieka w zastosowaniach wysokiego ryzyka. Dokumentacja Anthropic wprost rekomenduje pozwolenie modelowi na powiedzenie „nie wiem”, ograniczenie go do dostarczonych dokumentów, używanie cytatów dosłownych przy pracy na długich materiałach i weryfikację każdej tezy względem źródła. NIST zaleca dodatkowo przegląd i weryfikację źródeł oraz cytowań, empiryczne testowanie twierdzeń o możliwościach modelu i ponowną ocenę ryzyka po dostrojeniu albo wdrożeniu generowania wspomaganego wyszukiwaniem.

Najpełniejsza, praktyczna definicja halucynacji w AI brzmi następująco: jest to wygenerowanie przez system sztucznej inteligencji treści nieprawdziwej, niezweryfikowanej albo niezakotwiczonej w dostępnych źródłach, przy jednoczesnym zachowaniu formy, która sugeruje poprawność i pewność. Z punktu widzenia użytkownika oznacza to konieczność odróżniania płynności językowej od prawdziwości. Z punktu widzenia biznesu oznacza potrzebę projektowania całych systemów odpornych na zmyślanie, a nie tylko wybierania „lepszego modelu”. Z punktu widzenia nauki o sztucznej inteligencji oznacza to, że rzetelność nie jest ubocznym dodatkiem do inteligencji modelu, lecz jednym z jej centralnych wymiarów.

Źródła:

• AI Hub – NVIDIA: developer.nvidia.com/ai
• AI Now Institute: ainowinstitute.org
• DeepMind (Google): deepmind.com
• Encyclopædia Britannica Inc.: britannica.com
• Google AI: ai.google
• Machine Learning Mastery: machinelearningmastery.com
• MIT Computer Science and Artificial Intelligence Laboratory (CSAIL): csail.mit.edu
• National Institute of Standards and Technolog - nvlpubs.nist.gov
• OECD.AI: oecd.ai
• OpenAI: openai.com
• Stanford AI Lab: ai.stanford.edu
• Wikipedia: wikipedia.org/wiki/