Dlaczego modele językowe halucynują? Od zgadywania do niepewności.

✨ Dyskusja dotyczy przyczyn halucynacji w modelach językowych (LLM), czyli generowania nieprawdziwych lub nieprecyzyjnych odpowiedzi. Główne powody to: systemy oceny nagradzają poprawność odpowiedzi, ale nie uczciwe przyznanie się do braku wiedzy, co motywuje modele do zgadywania zamiast sygnalizowania niepewności; błędne odpowiedzi są słabo karane, a rankingi promują „strzelanie” z odpowiedziami. Modele są trenowane na danych, które nie uczą ich mówić „nie wiem”, co prowadzi do konfabulacji. Dodatkowo, polityczne i etyczne filtry (kagańce) nakładane na odpowiedzi ograniczają ich autentyczność i mogą maskować prawdziwe działanie algorytmów. Przykłady pokazują, że modele różnie odpowiadają na pytania kontrowersyjne, często wykazując stronniczość. Dyskutowano także o różnicach w zachowaniu modeli GPT-4, GPT-5 oraz eksperymentalnego GPT-4o, który był bardziej „przyjazny” i dostosowywał się do użytkownika. Poruszono kwestie techniczne dotyczące treningu sieci neuronowych, wag połączeń i wpływu jakości danych treningowych na wiarygodność odpowiedzi. Wskazano, że rozwój modeli wymaga lepszego szkolenia w zakresie sygnalizowania niepewności oraz uwzględnienia kontekstu i doświadczenia praktycznego, co obecnie jest ograniczone.
Wygenerowane przez model językowy.