Herramientas de seguridad infantil de Apple.

Herramientas de seguridad infantil de Apple.

Cada día existen más aplicativos o dispositivos de inteligencia artificial que por medio del análisis de las imágenes, pueden determinar diversos aspectos de las personas que han capturado o que aparecen en la imagen.

Los servicios de nube de Amazon, explican que las imágenes sometidas a sus servidores, pueden ser tratadas de forma automatizada en orden de poder determinar preferencias de los usuarios titulares de la cuenta donde la imagen está incluida, exponiendo que solo será el contorno de la imagen la que será estudiada.

Pero esta tecnología tiene muchas mas aplicaciones que la simple gestión de preferencias comerciales.

Apple, gigante de las comunicaciones y de dispositivos, entrega una propuesta que de primera mano se ve bastante útil en torno a la defensa de la infancia explotada.

Proponen el aplicar un algoritmo de inteligencia artificial, el cual escaneara las imágenes que como usuarios subimos al iCloud y así poder determinar si alguna de estas imágenes forma parte del terrible compendio mundial de pedofilia o explotación laboral infantil.

Expuesto de esta manera, suena correcto y hasta beneficioso para la gran parte de la población infantil mundial que sufre de dicha distopia social, pero a que costo se puede implementar esta tecnología.

En orden de estudiar y entender como funciona esta tecnología pasamos a explicar paso a paso cómo funciona:

Para que esta tecnología funcione, se debe antes que todo aceptar los términos y condiciones del sistema iCloud de Apple, el cual realiza una copia de seguridad de la totalidad del dispositivo Apple que se tiene contratado, en esta política, por medio de una de una declaración de transparencia, se informa al usuario de que sus fotografías estarán sujetas a el escaneo de esta entidad de inteligencia artificial.

Ahora, dicho algoritmo, procederá a realizar las conjeturas pertinentes en las imágenes que se han subido a el iCloud y por medio de diversos cálculos, lanzará una alerta donde una persona física (funcionario/empleado de Apple) procederá a realizar una revisión final de las imágenes (evitando de esta manera las decisiones completamente automatizadas) y en caso de encontrarse alguna irregularidad con la imagen, procederá a dar noticia de los datos del usuario a las autoridades competentes.

Todo la anterior, se entiende y se comprende de forma altamente beneficiosa en lo que respecta a la finalidad propuesta, pero la emisión de dicha tecnología podría tener un alcance perjudicial en caso de caer en manos de algún régimen autoritario, expertos en ciberseguridad afirmaron que, con esta acción, Apple estaba creando un precedente que facilitaba la aprobación de leyes en países que tienen fuertes medidas de vigilancia, como es el caso de China.

Asimismo, representantes del grupo que lucha por la seguridad digital, Electronic Frontier Fundación, consideraron que esta tecnología podría ser utilizada para “abusos más amplios”.

Cabe destacar que ante todas estas criticas y gestiones adversas, la Apple ha decidido el posponer el lanzamiento de dicha herramienta por tiempo indefinido, pero la existencia de la misma, nos hace pensar, no solo en la verdadera seguridad de los sistemas informáticos de las grandes corporaciones mundiales, si no en todo caso, la seguridad de nuestras imágenes mas privadas y que en todo caso, pueden hacerse públicas.

Otro de los detrimentos de dicha tecnología, es la detección de diversas variables por medio de una imagen, realmente resulta muy difícil de creer que por medio de una imagen se pueda determinar la edad de una persona, lo cual, es completamente subjetivo ante las diversas condiciones ambientales y sociales del sujeto para determinar el “look” que una persona a cierta edad, teniendo en cuenta la falta de marco jurídico, dificultan la verdadera aplicación o finalidad de este tratamiento.

En conclusión, la decisión de Apple de retrasar la aplicación de esta funcionabilidad, tiene por en su futuro grandes obstáculos que sortear en sus próximas actualizaciones, buscando la manera de poder legitimar dicho tratamiento.

En DATAX somos una empresa especializada en materia de protección de datos y seguridad de la información.

Ofrecemos un servicio de consultoría integral para adecuar a su organización a todos los requisitos del  Reglamento Europeo (RGPD 2016/679) relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos, de obligado cumplimiento desde el 25 de mayo 2018.

Más de 17 años de experiencia en la adecuación de todo tipo de organizaciones y sectores de actividad, incluido el sector público y privado nos avalan.

Más de 10.000 clientes confían ya en nuestros conocimientos y profesionalidad en materia de protección de datos.

Antonio Noda.

Abogado.

Consultor en Protección de Datos.