Apple je ovog tjedna najavio nove značajke koje će pomoći u borbi protiv zlostavljanja djece i širenja dječje pornografije. Značajke uključuju provjeru fotografiju na hardveru uređaja, odnosno iPhonea, kao i sustav prepoznavanja primljenih fotografija preko iMessages aplikacije i slanje obavijesti roditeljima u slučaju da je poslana fotografija koja upada u kriterije nasilja nad djecom.
Većina veliki internetskih platformi već rade slične provjere, tj. da fotografije i sadržaj koje korisnici objave na tim platformama (Facebook, Twitter, OneDrive, etc.) tvrtke pretvore u jedinstvene hasheve (jedinstveno generiran niz znakova) koristeć neki definiran algoritam i te hasheve usporede s hashevima fotografija dječje pornografije. Ako se pronađe dovoljno poklapanja, takvi računi se ručno provjeravaju od strane zaposlenika i prijavljuju vlastima.
Novost kod Applea je što se generiranje tih hasheva i usporedba neće raditi na iCloudu, nego na samom iPhoneu, a uz svaku fotografiju Apple će sačuvati "tag" ili "vaucher" koji sadržava određene metapodatke o toj usporedbi koje Apple smatra bitnima. Kada se fotografija uploada na iCloud, uploadat će se i vaucher. Na iCloudu vršit će se zbrajanje tih vauchera i ako korisnik prijeđe neku zadanu granicu, sustav će alarmirati Apple i neki zaposlenik će ručno provjeriti sadržaj.
Ono što je stručnjake za privatnost uzbunilo oko ove značajke, jest što će se metapodaci o fotografijama generirati za sve fotografije na uređaju, što znači da i ako netko ne koristi iCloud, na uređajima će i dalje bit spremljeni vaucheri uz svaku fotografiju s metapodacima o toj fotografiji koje je izgenerirao algoritam koji je fotografije na uređaju usporedio s nečim, u ovom slučaju povezanim s nasiljem nad djecom. Apple ovakvom borbom za zaštitu djece kreira infrastrukturu, a strah je da se ta infrastrukture s vremenom i pod pritiscima raznih vlasti može koristiti ne samo za identifikaciju dječje pornografije na hardveru uređaja, nego bilo čega s čime se odluči usporediti fotografije. Isti argument je i za slanje obavijesti roditeljima o porukama koje prime djeca koja su dio istog iFamily računa. Infrastruktura je postavljena da se takav tok informacija može proširiti i na neke druge račune.
U internom dopisu koji je u posjedu portala 9to5Mac, Appleov podpredsjednik za softver Sebastien Marineau-Mes zahvalio je svima koji su radili na novim značajkama, što je zahtjevalo suradnju raznih odjela unutar tvrtke. Ponosan je na nove značajke, i navodi kako su reakcije poprilično pozitivno, ali i da postoji nerazumijevanje kod nekih ljudi pa će Apple nastavljati objašnjavati kako nove značajke funkcioniraju. Direktno nisu dani odgovori na neka pitanja o implikacijama za privatnost, no možda u nadolazećim danima Apple ponudi još objašnjenja.
