Camino al infierno con Apple

Dice un refrán que el camino al infierno está empedrado de buenas intenciones Recientemente la compañía Apple anuncio qué estará haciendo uso de una nueva tecnología para monitorear los teléfonos de sus clientes. Compañía anunció que la nueva tecnología tiene como propósito mantener a los padres más informados y más activos en su rol como protectores de sus hijos a la hora de ellos navegar por la internet. La nueva tecnología usará inteligencia artificial para aprender del uso que le den las personas o los usuarios a los teléfonos y monitorear aquellas imágenes que consideras que son de tipo obsceno. La nueva tecnología también va a monitorear cualquier envío de imágenes que puedan ser calificadas como pornografía infantil. Con esta acción Apple se presenta ante el mundo como un protector de la niñe. Hay que decir que la intención es loable. Sin embargo detrás de esta buena intención puede haber un mal resultado. 

El problema de la pornografía infantil es uno muy real. Son muchos los casos de niños que han sido explotados por adultos inescrupulosos que se lucran de intercambiar y comerciar con imágenes de los niños. En los peores casos se dan los casos de violaciones que se mercadean en la red oscura. El FBI y otras agencia del orden a nivel mundial llevan una lucha en contra de este tipo de crimen sin embargo se han visto limitados por qué la tecnología de inscripción de los teléfonos Apple es demasiado de segura e impenetrable incluso para los expertos en ciber seguridad del gobierno. Por esta razón Apple ha decidido tomar la iniciativa y ser ellos quienes hagan monitoreo a los usuarios de su tecnología en su red. 

En el anuncio que hizo Apple se dijo que se va a hacer una alianza con el National Center for Missing and Exploited Children una organización sin fines de lucro que se dedica a monitorear el tráfico de pornografía infantil a nivel mundial. Apple también anuncio que va a estar haciendo actualizaciones a Siri y a su motor de búsqueda para que detecten esas instancias en donde se esté intentando buscar ese tipo de imágenes criminales. 

Apple asegura que la tecnología que ellos han desarrollado no les permite ver las imágenes si no que le permite al sistema identificarlas y alertar a las autoridades. En el caso de las cuentas que sean compartidas en familia se habilitará una aplicación que notificará a los padres de cualquier evento inusual que envuelva pornografía con sus hijos. Este tipo de iniciativa tiene como propósito acortar el tiempo en el que se notifique a las autoridades pertinentes o a los padres sobre actividad inusual que envuelva pornografía y menores.

Toda esta idea suena bien hay que hacer algo para atajar el crimen. Pero que sea una de las compañías más grandes y poderosas a nivel mundial quién esté llevando a cabo este tipo de iniciativa preocupa. En este nuevo siglo se ha dado el fenómeno de que las corporaciones gigantescas que tienen el tamaño de países y el presupuesto de países también han regulado sus operaciones de tal manera que se violan a diario derechos constitucionales de los ciudadanos. La Constitución de Estados Unidos protege a los ciudadanos de cualquier abuso por parte del gobierno pero no lo protege de abusos o violaciones a derechos por parte de las corporaciones. Por ejemplo el gobierno no puede prohibir a nadie hablar de tal o cual manera o decir tal o cual cosa. Pero una corporación puede regular el contenido de un mensaje y determinar como ofensivo o no deseado cualquier expresión que vaya contraria las reglas internas. El derecho a la libertad de expresión es absoluto fuera de las redes sociales Pero dentro de ellas en ese país llamado Facebook, o Apple, o Twitter no hay Constitución que proteja a nadie. 

La iniciativa de Apple suena bien sin embargo el hecho de que se esté espiando las fotos que comparten los usuarios de su tecnología preocupa porque es una invasión a la privacidad. La cosa preocupa más cuando se hace un algoritmo que determine que imágenes son adecuadas y cuáles no. En ocasiones anteriores los algoritmos de algunas de las compañías de redes sociales han cometido errores. Recientemente un joven logró probar que el algoritmo de Twitter discrimina contra personas que no son delgadas. El caso de Facebook y la tecnología que tuvieron que descontinuar porque comenzó a tomar vida propia asusta. Microsoft tuvo un problema con un chat bot que se volvió racista y antisemita. Los algoritmos aceleran algunos procesos pero complican otras situaciones. 

Imagínese por un momento que uno de los algoritmos detecta pornografía infantil por error. A esa familia se le someterá a un proceso legal que los dejará marcados de por vida. Cuando se determine que fue un error de la compañía las reputaciones de esa familia y la paz mental de ese núcleo quedará alterado por siempre. Esto es un caso hipotético pero podría pasar por lo que se ha visto antes con el uso de la tecnología de inteligencia artificial. 

La intención de Apple suena buena y noble pero como dice el refrán, el camino al infierno está pavimentado de buenas intenciones. Cuántos casos de leyes que se han hecho con buenas intenciones han terminado en abusos. Eso ha pasado con el gobierno y ahora con un mercado que está poco regulado veremos esta situaciones con las corporaciones de comunicaciones gigantes de Estados Unidos. Big brother te está viendo desde tu celular. Quién sabe si en un futuro decidan monitorear comunicaciones para ver dónde hay lenguaje de odio. No dudo que sea pronto.