Orientarea parentală: "inteligența artificială" folosită pentru a evalua serviciile de îngrijire a copiilor pe baza istoriei sociale a acestora
Când Jessie Battaglia a început să caute o nouă babysitter pentru fiul său de un an, ea dorea mai multe informații decât ar fi putut obține de la o verificare a criminalității, comentariile parintelui și un interviu față în față.
Așa că sa întors la Predictim, un serviciu online care utilizează "inteligența artificială avansată" pentru a evalua personalitatea unui babysitter și a îndreptat scanerele către mii de posturi Facebook, Twitter și Instagram ale unui singur candidat.
Sistemul a oferit o "evaluare a riscului" automată a unui candidat în vârstă de 24 de ani, spunând că are un "risc foarte scăzut" de a fi abuzat de droguri. Dar a oferit o evaluare a riscului ușor mai mare - două din cinci - pentru hărțuire, hărțuire, fiind "lipsită de respect" și având o "atitudine proastă".
Sistemul nu a explicat de ce a luat această decizie. Dar Battaglia, care crezuseră că sitterul era demn de încredere, simți brusc chinuri de îndoială.
"Mass-media socială arată caracterul unei persoane", a declarat Battaglia, în vârstă de 29 de ani, care locuiește lângă Los Angeles. Deci, de ce a intrat la două și nu la una?
Predictim oferă părinților aceeași carte de joc pe care zeci de alte companii de tehnologie le vând angajatorilor din întreaga lume: sisteme de inteligență artificială care analizează discursul unei persoane, expresiile faciale și istoria online cu promisiuni de a dezvălui aspectele ascunse ale vieții lor private.
Tehnologia reconfigurează modul în care unele companii abordează recrutarea, angajarea și revizuirea lucrătorilor, oferind angajatorilor o privire neegalată asupra candidaților la locul de muncă printr-un nou val de evaluare și supraveghere psihologică invazivă.
Tehnologia Fama spune că folosește AI pentru a proteja mediul social al muncitorilor pentru "comportamentul toxic" și pentru ai avertiza pe șefii lor. De asemenea, firma HireVue, care lucrează cu companii precum Geico, Hilton și Unilever, oferă un sistem care analizează în mod automat tonul, alegerea cuvintelor și mișcările faciale ale solicitanților în timpul interviurilor video pentru a anticipa abilitățile și comportamentul lor la locul de muncă. (Candidații sunt încurajați să zâmbească pentru cele mai bune rezultate.)
Dar criticii spun ca Predictim si sisteme similare prezinta propriile pericole prin luarea unor decizii automate si eventual schimbatoare de viata practic necontrolate.
Sistemele depind de algoritmi de tip black-box care dau puține detalii despre modul în care au redus complexitatea vieții interioare a unei persoane într-un calcul al virtuții sau răului. Și chiar dacă tehnologia Predictim influențează gândirea părinților, ea rămâne în întregime nedovedită, în mare măsură inexplicabilă și vulnerabilă la prejudecăți liniștite asupra modului în care un babysitter adecvat ar trebui să împartă, să privească și să vorbească.
Este vorba de "o grămadă nebună de a profita de puterea AI de a lua tot felul de decizii fără a se asigura că este răspunzător față de ființele umane", a spus Jeff Chester, directorul executiv al Centrului pentru Democrație Digitală, un grup de advocacy pentru tehnologie. "Este ca și cum oamenii au băut Kool-Aid digital și cred că este o modalitate adecvată de a ne guverna viața".
Scenariile lui Predictim analizează întreaga istorie a mass-media sociale a babysitter-ului, care, pentru mulți dintre cei mai tineri locțiitori, poate acoperi majoritatea vieții lor. Iar șefilor li se spune că vor fi într-un mare dezavantaj pentru locurile de muncă competitive dacă refuză.
Șeful și cofondatorul lui Predictim, Sal Parsa, a declarat că compania, lansată luna trecută, ca parte a Universității din California, la incubatorul tehnic SkyDeck din Berkeley, ia întrebări etice privind utilizarea tehnologiei în serios. Părinții, a spus el, ar trebui să vadă ratingurile ca pe un companion care "ar putea sau nu să reflecte atributele reale ale sitterului".
Dar pericolul angajării unui babysitter problematic sau violent, a adăugat el, face AI un instrument necesar pentru orice părinte care speră să își păstreze copilul în siguranță.
"Dacă căutați abuzive babysitters pe Google, veți vedea sute de rezultate chiar acum, " a spus el. "Sunt oameni care au boli psihice sau care se nasc doar rău. Scopul nostru este să facem tot ce putem pentru ai opri".
O scanare Predictim pornește de la 24.99 dolari și necesită un nume și o adresă de e-mail a babysitterului și consimțământul ei de a împărtăși accesul larg la conturile sale sociale. Babysitterul poate să refuze, dar un părinte este informat despre refuzul său, iar într-un e-mail se spune că "părintele interesat nu va putea să vă angajeze până când nu ați finalizat această solicitare".
Predictim spun ca folosesc algoritmi de procesare a limbajului si un software de recunoastere a imaginii cunoscut sub numele de "viziune computerizata" pentru a evalua posturile de babysittere din Facebook, Twitter si Instagram pentru indicii despre viata lor offline. Parintele este furnizat exclusiv raportul și nu are obligația de a informa rezultatul.
Părinții ar putea, probabil, să privească ei înșiși conturile sociale ale publicului. Dar rapoartele generate de calculator promite o inspecție aprofundată a anilor de activitate online, fierte până la o singură cifră: o soluție simplă, într-o manieră impracticabilă.
Ratingurile de risc sunt împărțite în mai multe categorii, inclusiv conținutul explicit și abuzul de droguri. Începutul a anunțat, de asemenea, că sistemul său poate evalua îngrijitorii cu privire la alte trăsături de personalitate, cum ar fi politețea, capacitatea de a lucra cu ceilalți și "pozitivitatea".
Compania speră să dezvolte industria "externalizării părinților" în valoare de mai multe miliarde de dolari și a început să facă publicitate prin sponsorizări plătite de părinți și bloguri "mumie". Marketingul companiei se concentrează în mare măsură pe capacitatea sa de a expune secrete ascunse și de a preveni "coșmarul fiecărui părinte", citând cazuri penale, inclusiv cele ale unui babysitter din Kentucky, acuzat la începutul acestui an, cu rănirea gravă a unei fete de opt luni.
"Dacă părinții fetiței rănite de către această babysitter au fost capabili să folosească Predictim ca parte a procesului lor de examinare", spune un document de marketing al companiei, "ei nu l-ar fi lăsat niciodată singuri cu copilul lor prețios".
Dar experții în tehnologie spun că sistemul ridică steaguri roșii de-al lor, inclusiv îngrijorarea că se preface pe temerile părinților de a vinde scanări de personalitate de precizie netestată.
Ei, de asemenea, pun la îndoială modul în care sistemele sunt instruite și cât de vulnerabile ar fi să înțeleagă neînțelegerile semnificațiilor neclarizate ale utilizării social media de către sitteri. Pentru toate scanările cu riscuri cele mai ridicate, părinților li se oferă doar o sugestie de comportament discutabil și nu există fraze, link-uri sau detalii specifice pentru a le evalua pe cont propriu.
Când o scanare a unui babysitter a fost marcată pentru un posibil comportament de agresiune, mama nenorocită care a cerut-o a spus că nu a putut să spună dacă software-ul a văzut un citat de film vechi, versuri de cântece sau altă expresie, spre deosebire de limbajul actual de agresiune.
Cu toate acestea, Predictim spune că se pregătește pentru o expansiune la nivel național. Executivii de la Sittercity, o piață on-line a babysitter-urilor vizitate de milioane de părinți, au declarat că lansează un program pilot la începutul anului viitor, care va orienta ratingurile automate ale lui Predictim în seria curentă de vizite de sitter și verificări de fond.
"Găsirea unui sitter poate veni cu o multitudine de incertitudini", a declarat Sandra Dainora, șeful de produs al lui Sittercity, care crede că unelte ca acestea ar putea deveni în curând "monedă standard" pentru găsirea îngrijitorilor online. "Părinții caută întotdeauna cea mai bună soluție, cea mai mare cercetare, cele mai bune fapte".
Washington Post