AI-hallucinációról akkor beszélünk, amikor a rendszer valótlan vagy megalapozatlan információt állít elő, gyakran meggyőző formában. A nagy nyelvi modellek a szövegkörnyezet alapján valószínű folytatásokat generálnak: a gördülékeny megfogalmazás ezért nem garancia a pontosságra.
A jogi hivatkozások kötött formáját a modellek jól utánozhatják, így egy nem létező jogeset is valódinak tűnhet. Az ellenőrizetlenül átvett állítások hivatalos dokumentumokba kerülhetnek, szakmai, eljárási és reputációs kockázatot okozva.
A megbízható dokumentumokból dolgozó, visszakereséssel támogatott rendszerek csökkenthetik a hibák számát, de nem szüntetik meg azokat. Előfordulhat, hogy a hivatkozott forrás létezik, mégsem támasztja alá a választ. Ennek felismeréséhez az eredeti szöveget is el kell olvasni.
Öt módszer a kockázat csökkentésére
- Kezeljük tervezetként az AI szövegét! A jogszabályhelyeket, döntéseket és idézeteket vessük össze az eredeti forrásokkal.
- Dolgozzunk megbízható forrásanyagokkal! Ha az adatvédelmi és titoktartási követelmények megengedik, adjuk meg a releváns dokumentumokat, és kérjünk pontos szöveghelyeket.
- Ne a modellel igazoltassuk saját válaszát! A „Biztos vagy benne?” kérdés helyett ellenőrizzük önállóan a hivatkozásokat és az állításokat.
- Igazítsuk az ellenőrzést a dokumentum jelentőségéhez! Ügyfélnek, bíróságnak vagy hatóságnak szánt iratot érdemes második kollégával is átnézetni.
- Legyenek szervezeti szabályok és képzések! Rögzítsük, milyen eszközök használhatók, milyen adatok tölthetők fel, és ki ellenőrzi az eredményeket.
Az AI használata mellett is nélkülözhetetlen a szakmai felelősség és a kritikus gondolkodás. A biztonságos alkalmazáshoz a munkatársaknak ismerniük kell az eszközök korlátait és saját szakterületük kockázatait.
A Soter-Line Oktatási Központ közel 30 szakterülethez kapcsolódó, vállalati és lakossági AI-képzése segíti a tudatos, biztonságos és szakmailag megalapozott eszközhasználatot.
Az AI akkor teremt valódi értéket, ha a gyorsaságot megfelelő szakmai kontroll és folyamatos tanulás kíséri.
dr. Kiss Rebeka
AI-kutató és oktató
Soter-Line Oktatási Központ
