Robins a Futurism techportálnak nyilatkozva számolt be az esetről. Mint mondta, a chatbot másodpercek alatt külön-külön adatlapot hozott létre mindkét kislányáról. A rendszer évekre visszamenőleg túrta fel a hozzátartozók nyilvános és családi posztjait: név szerint azonosította a gyerekeket, kilistázta születési dátumaikat, sőt, a nagymama régi bejegyzéseiből még a születési súlyukat is előbányászta.

A profilozás itt nem állt meg. A Meta AI a kislányok életkora alapján megtippelte, hányadik osztályba járhatnak az iskolában, összegyűjtötte a kedvenc könyveiket, strandjaikat és túraútvonalaikat, majd egy újabb kérdést dobott fel: „Hol él Kalie Robins?”

A nő erre is rákattintott, mire a rendszer „Kalie Robins tartózkodási helyének behatárolása” üzenet kíséretében, a korábbi és friss bejegyzések helyadatait összevetve próbálta pontosan meghatározni a család lakhelyét. A legriasztóbb momentum az anya szerint mégis az volt, amikor az algoritmus egy olyan fotót is előszedett az egyik kislányról, amelyet állítása szerint évekkel korábban törölt a platformról.

„Nem fogok úgy tenni, mintha pontosan érteném a rendszer működését, de azt biztosan tudom, hogy ezt a fényképet évekkel ezelőtt törölten. Nem adtam meg helyszínt a videóhoz, és nem kértem a Facebookot, hogy építsen részletes adatbázist a családomról. Csupán kitettem egy felvételt, amin éneklünk a gyerekemmel” – fogalmazott Robins, hozzátéve: a megmagyarázhatatlan adatfolyam láttán teljesen elborzadt.

A megkeresésre a Meta elismerte a problémát a Futurismnek. A technológiai óriás azzal védekezett, hogy a funkciót azért fejlesztették ki, hogy a felhasználók gyorsabban juthassanak hozzá az őket érdeklő témákhoz, és az asszisztens válaszai elvileg csak olyan tartalmakból építkeznek, amelyekhez a kérdező fiókja egyébként is hozzáfér.

Ugyanakkor elismerték, hogy a kiskorúakra és magánéleti adatokra irányuló kérdésjavaslatok túllőttek a célon:

„Célunk az volt, hogy segítsük az embereket az őket érdeklő bejegyzések megértésében, de ebben az esetben hibáztunk. A funkciónak soha nem lett volna szabad ilyen kérdéseket felkínálnia egy magánszemélynek, a hibát azóta javítottuk” – közölte a vállalat.