Software-ul, potrivit agenției de presă Reuters, identifică automat imaginile care conțin atât nuditate, cât și copii, ceea ce îi permite companiei Facebook să interzică mult mai eficient pozele cu minori în ipostaze explicite.

S-a anunțat de asemenea utilizarea unui sistem similar folosit pentru depistarea persoanelor care se împrietenesc cu minori. Acesta evaluează factori precum frecvența cu care o persoană le trimite cereri de prietenie minorilor, dar și de câte ori a fost blocată persoana respectivă.

Compania testează acum implementarea software-ului pentru aplicația Instagram.

Presați de Parlamentul European și de alte agenții federale din SUA, Facebook a făcut promisiuni că va grăbi procesul de îndepărtare a tuturor pozelor extremiste și ilicite. Noul software este esențial în îndeplinirea acestui țel.

Reprezentanții Facebook care se ocupă de siguranța și securitatea datelor au declarat că software-ul poate face greșeli, însă utilizatorii au dreptul de a sesiza posibilele greșeli, imaginile urmând să fie re-verificate de către moderatori. Aceștia spun că atunci când vine vorba de minori, preferă să își asume riscul de a face greșeli, decât să pună în pericol siguranța copiilor.

Politica Facebook prevedea încă de acum câțiva ani că nici măcar membrii familiei nu au voie să posteze imagini cu copiii lor îmbrăcați sumar, îngrijorați fiind de felul în care alte persoane ar putea percepe acest lucru.

Înainte de folosirea noului software, Facebook se baza pe utilizatorii săi să eticheteze imaginile cu conținut ilicit.

Pentru moment, noul program permite depistarea doar a imaginilor cu minori în ipostaze explicite, nu și identificarea unor mesaje criptate care îi redirecționează pe utilizatori către alte site-uri care conțin pornografie infantilă. Totuși, reprezentanții Facebook spun că ”folosindu-se de imaginație” speră să rezolve și această problemă.