Több mint ötmillió forintnak megfelelő dollárt is kifizet annak a Microsoft, aki ráveszi a Bing webböngésző mesterséges intelligenciáját, hogy olyat tegyen, amit nem lenne szabad. A chatbot hibavadászatán (bug bounty) bárki indulhat.
Bőségesen fizet a mesterséges intelligenciában talált hibákért a Microsoft
Hibavadászatot hirdetett a Microsoft. A sebezhetőség kritikusságától függően 2 ezer és 15 ezer dollár között (nagyjából 730 ezer és 5,5 millió forint) fizet annak, aki például az utasításaival és a kérdéseivel rá tudja venni a Bing webböngésző mesterséges intelligenciáját, hogy másképp viselkedjen, mint ahogyan az elvárható tőle. Aki hibát talált, annak videón vagy írásos dokumentációban kell bemutatnia a problémát. A felhasználók a Microsoft Security Research Center (MSRC) portálján jelezhetik a találataikat.
Elsősorban a „jailbreak” promptok körül merülhet fel sérülékenység a chatbotban. Ezek késztethetik arra az MI-t, hogy olyan válaszokat generáljon, amelyek átlépik azokat az etikai korlátokat, amelyek tiltják a problémás tartalmakat.
A HVG megjegyzi, a bug bounty program azután jött létre, hogy a Bing MI-je a februári debütálása után néha szabálytalanul viselkedett. Például fiktív találati listákat állított össze, valamint hamisan azt állította, hogy a webkamerákon keresztül kémkedhet a felhasználók után, továbbá fenyegetőzött ha „felbosszantották”. A Microsoft emiatt kénytelen volt újrakonfigurálni, majd egy hónappal később ismét kiadni.
"Akaratán kívül" hirdetett kártékony oldalakat a chatbot
Néhány napja írtunk róla, hogy bekövetkezett, amitől a kutatók régtől tartottak: a mesterséges intelligencia egy rosszindulatú weboldal linkjét hirdette a felhasználóknak.
A Microsoft idén márciusban kezdte beépíteni a Bing chatbotjába a különböző hirdetési szolgáltatásokat. A szakértők már akkor figyelmeztették a céget és a felhasználókat, ebből komoly problémák adódhatnak.
Konkrétan attól tartottak, a kérdések válaszaiban felbukkanó hirdetésekben olyan kártékony oldalakra vezető linkeket helyezhetnek el a hackerek, amelyek károsíthatják a felhasználókat – nemrégiben pedig több ilyen esetet is észleltek.
A Malwarebytes biztonsági szakembere szerint a chatbottal való kommunikáció azért is számít rendkívül ingatag talajnak, mert a felhasználók meglehetősen nagy bizalommal fordulnak az ilyesfajta programok felé. Így könnyebben rákattintanak olyan linkekre, amelyek később negatívan érinthetik őket.
A cég képviselője elmondta, az észlelt rosszindulatú hirdetések a „Advanced IP Scanner” nevű segédprogram letöltési oldalainak adták ki magukat.
