Tömeges megfigyelés?
Az Amazon Rekognition egy mesterséges intelligencián és gépi tanuláson alapuló szoftver, ami nagy pontossággal képes azonosítani a képeken és videókon látható tárgyakat, embereket, szöveget és tevékenységeket. Legalábbis a vállalat szerint. A legnagyobb problémát az arcfelismerő funkciója okozza. A kritikusok úgy vélik, a technológia alkalmas lehet a tömeges megfigyelésre, a faji profilozásra, valamint az alapvető emberi és szabadságjogok megsértésére.
Ingoványos talajon
A Reuters beszámolója szerint a vállalat tavaly júniusban tiltotta meg a rendőrség hozzáférését a szoftverhez. A civil szervezetek azzal támadták az Amazont, hogy a pontatlan arcfelismerések jogtalan letartóztatásokhoz és rendőrségi túlkapásokhoz vezetnek. Jeff Bezos vállalata abban bízott, az egyéves moratórium elegendő időt ad a politikusoknak, hogy megfelelő szabályrendszert alakítsanak ki az általuk fejlesztett technológiára. Nos, nem így történt. Ennek következtében továbbra sem engedik, hogy a rendőrség használja az arcfelismerő szoftvert. Azt azonban érdemes megjegyezni, a vállalat üzleti partnerei nem érintettek a korlátozásban.
A szándék a fontos. Vagy mégsem?
Nathan Freed Wessler, az American Civil Liberties Union projektigazgató-helyettese kifejezetten örült az Amazon döntésének. Úgy véli, a Kongresszusnak kötelessége lenne eltiltani az összes bűnüldöző szervet a Rekognition-höz hasonló szoftverektől. A Gender Shades névre keresztelt kutatás rámutatott, hogy a Rekognition sok esetben pontatlanul működik. Ezek a hibák főleg színesbőrű embereknél fordulnak elő. A szoftver sokszor rosszul azonosította be a megfigyelt emberek nemét.
Mit mond az Amazon?
Az Amazon ezt természetesen tagadja. Szerintük technológiájuk nagy segítséget nyújthat az eltűnt emberek, az emberkereskedők és a bűnözők azonosításában. Ráadásul, ha gyanús tevékenységet észlel a szoftver, azonnal jelzi a felhasználónak, így biztonságosabbá téve a mindennapi munkavégzést. Ez mind szép és jó, de a tévesen veszélyesnek ítélt emberek komoly bajba kerülhetnek. A Microsoft is hasonló cipőben jár, egyelőre ők sem engedélyezik az arcfelismerő szoftverük használatát a rendőrségnek. Akárcsak az Amazon, Bill Gates vállalata is kivárja a Kongresszus jogerős ítéletét.
