Cum poți ajunge suspect din cauza unui soft

Bianca Felseghi

Senior Editor

Programele de recunoaștere facială pot duce la identificarea greșită a suspecților de săvârșirea unor infracțiuni.

Această îngrijorare a început să fie discutată după ce poliția americană, care utilizează deja în pratica de zi cu zi un soft pentru identificarea suspecților, a fost acuzată că folosește în mod abuziv această unealtă, achitându-se cu prea multă ușurință de sarcinile care îi revin.

Cotidianul britanic The Guardian a publicat un articol despre așa-numitul „сaz Lynch”. Este vorba de arestarea în vara lui 2015 a unui dealer de droguri, Willie Lynch, din Jacksonville Florida, arestare care s-a bazat doar pe câteva fotografii făcute cu un smartphone în timpul unei așa-zise tranzacții.

Mai mulți specialiști în securitatea cibernetică și protejarea datelor personale afirmă că acest caz este reprezentativ pentru сeea ce se numește „biometrică imperfectă”.

Softul de recunoaștere facială este utilizat de câțiva ani în SUA de către poliție și alte agenții guvernamentale de protecție.

Dacă este vorba despre o persoană de culoare, există mai multe șanse ca aceasta să apară în baza de date folosită de tehnologiile de recunoaștere facială, dar și ca softul să se înșele în privința sa.

Spre exemplu, un raport executat în 2016 de o cercetătoare de la Universitatea din Georgetown, Clare Garvie, a constatat că indivizii de culoare sunt cel mai adesea analizați cu mai multă atenție de software-ul de recunoaștere a feței.

Studiul ei a fost coroborat cu o cercetare proprie a FBI, care pare să conducă înspre același rezultat: că există probabilitatea însemnată ca softul să fie incorect atunci când nu este folosit pe albi.

În străinătate, dezbaterea pe acest subiect merge până la acuzația că algoritmii implicați în tehnologia de recunoaștere facială conțin сoduri rasiale. Ce înseamnă asta?

Cel mai adesea, inginerii IT care scriu coduri sunt albi. Ei construiesc codurile bazelor de date – în acest caz, tipuri de fețe – cu ajutorul unor mecanisme recunoscute de motoare de căutare, construite, la rândul lor, tot de ingineri albi.

Când se construiesc acești algoritmi, ei se concentrează asupra unor trăsături faciale care sunt mai vizibile decât altele, astfel că mașinăria învață singură să aibă propriile prejudecăți cu privire la figurile din alte rase.

Codul este orientat să se concentreze pe fețele albe și este în cea mai mare parte testat pe subiecți albi.

„Astfel de probleme se reduc la diversitatea seturilor de date, atât cele de antrenare, cât și cele de test/evaluare. Cazurile regretabile când un algoritm pare a face discriminări sunt din cauza antrenării pe seturi prea mici de date sau care manifestă prea puțină generalitate/diversitate. Acuratețea recunoașterii persoanelor de rase diferite poate fi redusă dacă, în setul de date, anumite rase sunt sub-reprezentate.”

Bogdan Bocșe, fondatorul VisageCloud, prima soluție românească de recunoaștere facială

Altfel spus, fiindcă setul de date cu figuri provenind din alte rase este mai mic, în comparație cu rasa albă, programele inteligente de recunoaștere facială ar putea percepe imaginile cu suspecți de culoare sau asiatici ca fiind anomalii și le vor singulariza, făcând identificarea corectă mai puțin probabilă.

Cel puțin 9 motive să mergi la IQ DIGITAL SUMMIT - Cluj-Napoca – 14 IUNIE (P)

Unii dintre cei mai mari lideri de tehnologie vin la Cluj-Napoca pe 14 iunie, iar cititorii PressOne pot avea acces gratuit pentru a-i vedea și asculta.

Nanoboţii: agenţii invizibili care ne vor dubla speranţa de viaţă

Impactul nanoboţilor asupra omenirii va fi mult mai mare decât al antibioticelor.