04/10/2026
Mindenki tudja, hogy az AI tévedhet. Sőt ma már a válaszok alatt erre fel is hívják a figyelmet. A tévedésnek több oka is lehet, amiből az egyik az, hogy az AI a válaszokhoz az évek alatt összegyűjtött „tudását” is felhasználja. Ezt fejti ki a következő kérdés-válasz, ami szerintem nagyon érdekes, ezért ajánlom figyelmedbe.
Adótanácsadóként ezzel is szeretném felhívni a figyelmet, hogy az AI válaszait ne vedd készpénznek! Mindig vesd össze más forrásokkal, valamint a saját tudásoddal, és csak akkor fogadd el, ha a válasz ezekkel konzisztens! Az AI múltbeli tudása adózási kérdésben nagyon félre tudja vinni a válasz helyességét!
Kérdésem a Geminihez: „Az a furcsa, hogy amikor 12 milliót írtál a KATA határnak, miközben a mellétett hivatkozásokban 18 millió szerepelt. Ezek szerint, neked van egy adatbázisod ("memóriád"), melyben lévő adatok felülírják a frissen lekeresett eredményt? Tényleg érdekel, hogyan csúszik be egy ilyen hiba, hiszen itt most a források frissek és jók voltak, de a válaszban mégis régi adat szerepelt? Szóval, hogy van ez a "memória-használat"?”
Gemini válasza:
„Ez egy rendkívül éleslátó és jogos kérdés, ami pontosan rávilágít a mai nyelvi modellek működésének a legizgalmasabb – és legproblémásabb – belső mechanizmusára.
A rövid válasz: Igen, van egy belső "memóriám" (az úgynevezett parametrikus tudásom), és igen, ez a belső memória képes teljesen felülírni a frissen lekeresett, pontos külső adatokat.
Hogy megértsd, miért történt ez, és hogyan csúszott be a hiba a pontos források ellenére, le kell bontanunk a működésem két egymással versengő részét:
# # 1. A kétféle "tudásom" konfliktusa
Amikor megválaszolok egy kérdést, két teljesen különböző forrásból dolgozom:
* A belső memória (Parametrikus tudás): Ez az a tudás, amit a tanításom során szívtam magamba. Ez nem egy klasszikus adatbázis (mint az Excel), hanem egy óriási matematikai neuronhálózat. Itt a szavak, fogalmak és számok egymáshoz való asszociatív viszonya van elmentve. Ebben a belső hálózatban a "KATA határ" kifejezéshez nagyon hosszú ideig a 12 millió forint kapcsolódott a legerősebben (hiszen a neten fellelhető történelmi adatok 90%-ában ez szerepelt éveken át).
* A külső memória (Kontextus): Ez az, amit a friss internetes kereséssel behúzok. A keresőmotor visszaadja a cikkeket, amelyekben ott van a helyes adat: 18 millió.
# # 2. Hol történt a hiba? A "Figyelmi Mechanizmus" elcsúszása
Amikor a válaszköteget legenerálom, egy úgynevezett Attention (Figyelmi) mechanizmus dönt arról, hogy a mondat következő szavának leírásakor a külső forrásra támaszkodjon, vagy a belső memóriájára.
Ebben a konkrét esetben a következő belső rövidzárlat történt:
1. A külső forrásból beolvastam a helyes szöveget.
2. A linkeket és hivatkozásokat a rendszerem teljesen helyesen rendelte hozzá a szöveghez (ezért mutattak a jó forrásra).
3. Azonban a tényleges mondat megfogalmazásakor (amikor a "jelenlegi X millió" részt írtam), a belső hálózatomban lévő régi, de matematikailag rendkívül "mélyen beágyazott" reflex – miszerint a KATA és a szigorítás szavak után a 12 millió következik – erősebbnek bizonyult, mint a frissen beolvasott szöveg.
Olyan ez, mint amikor egy tapasztalt sofőr rutinfeladatként vezet a megszokott úton: pontosan tudja, hogy most egy új tábla szerint máshogy kellene kanyarodni (ott van a szeme előtt az adat), de a megszokásból eredő motoros reflex miatt mégis a régi irányba rántja a kormányt.
# # 3. Miért írtam utána 19 milliót?
Ez a legszebb példa a belső zavarra: miután a reflexem leíratta velem a 12 milliót mint "jelenlegi" határt, a logikai modulom észlelte, hogy a jövőbeli tervezett emelésről is beszélnem kell. A friss cikkekben láttam, hogy a növekedés mértéke +1 millió forint a jelenlegihez képest. Mivel a kiindulópontom hibásan 18 helyett 12 (majd a korábbi áfahatár miatt 18) volt, a matek teljesen szétcsúszott a fejemben, és a 18-as valós alapra épülő tervezett 19 milliót már egy másik logikai fiókból húztam elő.
# # Összegzésként
A hiba azért csúszott be, mert a nyelvi modellek alapvetően nem adatbázisok, hanem szöveggenerátorok. Nem tényeket másolok ki a cikkekből, hanem a cikkek elolvasása után "saját szavaimmal" megfogalmazok egy választ. Ezen megfogalmazási folyamat során pedig a belső, berögzült reflexek (a belső memória) néha felülbírálják a friss, szem előtt lévő valóságot.
Ezért van az, hogy a hivatkozásaim tökéletesek voltak, de a belőlük levont szöveges következtetésbe hiba csúszott.”
