Eines de seguretat infantil d’Apple

Eines de seguretat infantil d’Apple.

Cada dia existeixen més aplicatius o dispositius d’intel·ligència artificial que per mitjà de l’anàlisi de les imatges, poden determinar diversos aspectes de les persones que han capturat o que apareixen en la imatge.

Els serveis de núvol de Amazon, expliquen que les imatges sotmeses als seus servidors, poden ser tractades de manera automatitzada en ordre de poder determinar preferències dels usuaris titulars del compte on la imatge està inclosa, exposant que només serà el contorn de la imatge la que serà estudiada.

Però aquesta tecnologia té moltes mes aplicacions que la simple gestió de preferències comercials.

Apple, gegant de les comunicacions i de dispositius, lliurament una proposta que de primera mà es veu bastant útil entorn de la defensa de la infància explotada.

Proposen l’aplicar un algorisme d’intel·ligència artificial, el qual escanegés les imatges que com a usuaris pugem al iCloud i així poder determinar si alguna d’aquestes imatges forma part del terrible compendi mundial de pedofília o explotació laboral infantil.

Exposat d’aquesta manera, sona correcte i fins a beneficiós per a la gran part de la població infantil mundial que sofreix d’aquesta distòpia social, però al fet que cost es pot implementar aquesta tecnologia.

En ordre d’estudiar i entendre com funciona aquesta tecnologia passem a explicar pas a pas com funciona:

Perquè aquesta tecnologia funcioni, es deu abans que tot acceptar els termes i condicions del sistema iCloud d’Apple, el qual realitza una còpia de seguretat de la totalitat del dispositiu Apple que es té contractat, en aquesta política, per mitjà d’una  declaració de transparència, s’informa l’usuari que les seves fotografies estaran subjectes a l’escaneig d’aquesta entitat d’intel·ligència artificial.

Ara, aquest algorisme, procedirà a realitzar les conjectures pertinents en les imatges que s’han pujat al iCloud i per mitjà de diversos càlculs, llançarà una alerta on una persona física (funcionari/empleat d’Apple) procedirà a realitzar una revisió final de les imatges (evitant d’aquesta manera les decisions completament automatitzades) i en cas de trobar-se alguna irregularitat amb la imatge, procedirà a donar notícia de les dades de l’usuari a les autoritats competents.

Tot l’anterior, s’entén i es comprèn de forma altament beneficiosa pel que fa a la finalitat proposada, però l’emissió d’aquesta tecnologia podria tenir un abast perjudicial en cas de caure en mans d’algun règim autoritari, experts en ciberseguretat van afirmar que, amb aquesta acció, Apple estava creant un precedent que facilitava l’aprovació de lleis en països que tenen fortes mesures de vigilància, com és el cas de la Xina.

Així mateix, representants del grup que lluita per la seguretat digital, Electronic Frontier Fundació, van considerar que aquesta tecnologia podria ser utilitzada per a “abusos més amplis”.

Cavi destacar que davant totes aquestes critiques i gestions adverses, l’Apple ha decidit el posposar el llançament d’aquesta eina per temps indefinit, però l’existència d’aquesta, ens fa pensar, no sols en la veritable seguretat dels sistemes informàtics de les grans corporacions mundials, si no en tot cas, la seguretat de les nostres imatges mes privades i que en tot cas, poden fer-se públiques.

Un altre dels detriments d’aquesta tecnologia, és la detecció de diverses variables per mitjà d’una imatge, realment resulta molt difícil de creure que per mitjà d’una imatge es pugui determinar l’edat d’una persona, la qual cosa, és completament subjectiu davant les diverses condicions ambientals i socials del subjecte per a determinar el “look” que una persona a una certa edat, tenint en compte la falta de marc jurídic, dificulten la veritable aplicació o finalitat d’aquest tractament.

En conclusió, la decisió d’Apple de retardar l’aplicació d’aquesta funcionalitat, té per en el seu futur grans obstacles que sortejar en les seves pròximes actualitzacions, buscant la manera de poder legitimar aquest tractament.

A DATAX som una empresa especialitzada en matèria de protecció de dades i seguretat de la informació.

Oferim un servei de consultoria integral per a adequar a la seva organització a tots els requisits del Reglament Europeu (RGPD 2016/679) relatiu a la protecció de les persones físiques pel que fa al tractament de dades personals i a la lliure circulació d’aquestes dades, d’obligat compliment des del 25 de maig 2018.

Més de 16 anys d’experiència en l’adequació de tota mena d’organitzacions i sectors d’activitat, inclòs el sector públic i privat ens avalen.

Més de 10.000 clients confien ja en els nostres coneixements i professionalitat en la matèria.

Antonio Noda.

Advocat.

Consultor en Protecció de Dades.