A mesterséges intelligencia túlzottan érzékeny a sérülésekre az egyik autókölcsönzőnél – Totalcar.

A Hertz autókölcsönző amerikai részlegének új rendszere már a bevezetésétől fogva heves vitákat generál, hiszen a visszahozott járműveken észlelt sérülések vizsgálata radikális átalakuláson ment keresztül. Eddig a feladatot egy-egy munkatárs végezte el, azonban most a bérlőknek egy speciális kamerarendszerrel ellátott kapun kell áthaladniuk, amely 360 fokos, teljes képet készít az autóról. A felvételt követően mesterséges intelligencia elemzi a járművet, keresve a kisebb-nagyobb hibákat és karcolásokat. Amennyiben a rendszer sérülést észlel, a helyreállítás költsége automatikusan a bérlőre hárul.

Bár más autókölcsönző cégek is használnak hasonló technológiákat, a Hertz az egyetlen, ahol a mesterséges intelligencia által észlelt sérülések ellenőrzése nem történik meg emberi közreműködéssel - a teljes folyamat automatizált módon zajlik. Ez számos problémához és vitás helyzethez vezetett, mivel a kamerák néha tévesen azonosítottak nem létező sérüléseket, vagy olyan apró, szabad szemmel alig észlelhető hibákért számláztak ki jelentős összegeket.

A helyzetet tovább súlyosbítja, hogy az igazságtalan költségekkel terhelt felhasználók csak rendkívül nehezen tudnak az igazukért küzdeni. A Hertz telephelyén a panaszokra általában azt válaszolják, hogy az ilyen kérdésekben az ügyfélszolgálat az illetékes, csakhogy az ügyfélszolgálat szintén automatikusan működik, emberi ügyintézővel szinte lehetetlen kapcsolatba lépni.

A fent említett okok következtében az Egyesült Államok Képviselőházának Felügyeleti és Kormányzati Reform Bizottsága komoly kérdéseket fogalmazott meg a Hertz számára. A vállalatnak arra kell választ adnia, hogy miként működik az AI által vezérelt sérüléskereső rendszer, hogyan kezelik a beérkező panaszokat, és miért tapasztalható az emberi ügyintézők hozzáférhetetlensége.

A Hertz augusztus 27-ig kapott időt a válaszra. A vállalat korábban azzal indokolta a mesterséges intelligenciára épülő ellenőrzőrendszer bevezetését, hogy szeretné minél inkább objektívvé tenni a sérülések azonosítását azáltal, hogy az emberi tényezőt kiveszik az egyenletből.