A jelenség kulcsa, hogy az AI a sok apró információmorzsát idővel össze tudja kapcsolni. Egyetlen kérdésből természetesen nem feltétlenül lehet megbízható képet alkotni valakiről, de rendszeres használat mellett már rengeteg „szignál” gyűlhet össze. A chatbot így érzékelheti, milyen problémák foglalkoztatnak bennünket, mit szeretnénk megvásárolni, milyen döntések előtt állunk, hogyan dolgozunk, illetve milyen élethelyzetben vagyunk. Ugyanakkor nem árt tudni, hogy az ilyen következtetések nem biztos tudást, hanem valószínűségi becsléseket jelentenek.
Nemcsak rólunk szól, hanem komoly üzleti értéke is lehet
A rólunk összegyűjtött információk a technológiai cégek számára üzletileg is értékesek lehetnek. Minél pontosabb képet tud kialakítani egy rendszer a felhasználóról, annál célzottabban lehet számára reklámokat és ajánlatokat megjeleníteni. Ez elsőre akár előnyösnek is tűnhet, hiszen relevánsabb ajánlatokat kaphatunk, ugyanakkor a személyre szabás a manipuláció lehetőségét is növelheti. Nemcsak az becsülhető meg ugyanis, hogy mire lehet szükségünk, hanem az is, milyen érvekkel lehet bennünket könnyebben meggyőzni.
A portfolio.hu cikke három olyan tesztpromptot is bemutat, amelyekkel a felhasználó megkérdezheti az AI-t arról, milyen rejtett következtetéseket vont le róla. Az egyik arra kéri a rendszert, hogy sorolja fel, mit tudott meg a kérdésekből és a kommunikációs stílusból anélkül, hogy ezeket az adatokat a felhasználó valaha közvetlenül megadta volna. Egy másik a személyiséget, a vakfoltokat és a rejtett bizonytalanságokat próbálja feltérképezni, míg a harmadik azt vizsgálja, milyen pénzügyi, stresszkezelési, konfliktuskezelési vagy kockázatvállalási mintákat feltételez rólunk a rendszer.
Védekezéskor nem az a megoldás, hogy teljesen lemondunk az AI használatáról, hanem az, hogy tudatosabban kezeljük a rendelkezésünkre álló adatvédelmi beállításokat. Érdemes ellenőrizni például, hogy a szolgáltatás használja-e a korábbi beszélgetéseket és a személyre szabott memóriát, illetve felhasználhatja-e a beszélgetéseket modellfejlesztési célokra. Különösen fontos, hogy ne adjunk meg chatbotoknak jelszavakat, banki vagy azonosítási adatokat, részletes egészségügyi dokumentumokat és üzleti titkokat. A kockázatot azzal is csökkenthetjük, ha egy dokumentum feltöltése előtt eltávolítjuk belőle a neveket, elérhetőségeket, ügyfélazonosítókat és más könnyen beazonosítható adatokat.
A lényeg tehát nem az, hogy az AI mindent „tud” rólunk, hanem az, hogy a vele folytatott beszélgetésekből egyre részletesebb következtetéseket tud levonni. Éppen ezért érdemes úgy tekinteni minden chatbotnak feltett kérdésre, mint egy apró információmorzsára, amely egy hosszabb használat során összeállhat egy meglepően részletes képpé rólunk. A tudatos, kritikus és felelős használat fontosabb lehet, mint az, hogy teljesen elzárkózzunk az új technológiától.
