RÖVIDEN
A generatív nyelvi modellek azon hibajelensége, amikor a rendszer magabiztos stílusban valótlan, kitalált információkat vagy nem létező tényeket állít tényként.
KICSIT RÉSZLETESEBBEN
A jelentése mögött
A nagy nyelvi modellek működése nem sziklaszilárd tudásbázison, hanem szavak és fogalmak statisztikai valószínűségi összefüggésein alapul. Amikor a modell nem rendelkezik megfelelő tényszerű kapcsolattal az adott kérdéshez, a legvalószínűbbnek tűnő nyelvi fordulatokat fűzi össze, ami látszólag hiteles, a valóságban azonban teljes kitaláción alapuló választ eredményez. A hallucinációk szűrése az MI-fejlesztés egyik legnagyobb kihívása, amelyet megerősítéses tanulással (RLHF) és keresőrendszerek beágyazásával (RAG) igyekeznek csökkenteni.
Egyszerűen: Amikor az MI olyan magabiztosan mond egy orbitális tévedést vagy kitalált történetet, mintha az a legbiztosabb lexikális igazság lenne.