Cuando Google añadió la tecnología de escaneo de fotos a los teléfonos
Android,
causó una gran polémica, acusándola de instalar «en secreto» nueva tecnología de monitoreo en teléfonos Android «sin el permiso del
usuario».
En aquel momento, Google aseguró que
SafetyCore
era un marco de apoyo y que no comenzaría a escanear fotos ni otro contenido.
La nueva aplicación, según la empresa,
«proporciona una infraestructura en el dispositivo para realizar una
clasificación segura y privada que ayuda a los usuarios a detectar contenido
no deseado. Los usuarios controlan SafetyCore, y SafetyCore solo clasifica
contenido específico cuando una aplicación lo solicita a través de una
función opcional».
Pues bien, ese momento ha llegado y empieza con Google Messages. Según informa
9to5Google,
«Google Messages está implementando advertencias de contenido sensible que
difuminan las imágenes de desnudos en Android». No solo difuminan el contenido, sino que también advierten de que dichas
imágenes pueden ser dañinas y ofrecen opciones para ver contenido explícito o
bloquear números.
Este análisis de IA se realiza en el dispositivo, y Google también garantiza
que no se les envía nada. GrapheneOS, respaldó esta afirmación: SafetyCore
«no proporciona análisis del lado del cliente para informar a Google ni a
terceros. Proporciona modelos de aprendizaje automático en el dispositivo
que las aplicaciones pueden usar para clasificar el contenido como spam,
estafas, malware, etc. Esto permite que las aplicaciones revisen el
contenido localmente sin compartirlo con un servicio y lo marquen con
advertencias para los usuarios».
Pero GrapheneOS también lamentó que
«es lamentable que no sea de código abierto ni se haya publicado como parte
del Proyecto de Código Abierto de Android, y que los modelos tampoco sean
abiertos, y mucho menos de código abierto… No tendríamos ningún problema
en tener funciones de redes neuronales locales para los usuarios, pero
tendrían que ser de código abierto». Volviendo al tema del secretismo, de nuevo.
La actualización de Google Messages era esperada. La pregunta ahora es ¿qué
vendrá después?. Y el riesgo es que esta función se esté introduciendo al
mismo tiempo que el contenido seguro y cifrado del usuario se ve sometido a
una
creciente presión por parte de legisladores y agencias de seguridad
de todo el mundo. Cada vez que se introduce esta tecnología, los defensores de
la privacidad se resisten.
Por ahora, la función está deshabilitada por defecto para adultos, pero
habilitada por defecto para niños.
Los adultos pueden habilitar las nuevas medidas de seguridad en la
configuración de Mensajes de Google, en Protección y seguridad: Administrar
advertencias de contenido sensible. Según la edad del niño, su configuración
solo se puede cambiar en la configuración de su cuenta o en Family Link.
Esto no termina aquí, y al igual que con
Gmail y otras plataformas, los 3 mil millones de usuarios de Google de Android, correo electrónico y
otras plataformas deberán decidir con qué nivel de escaneo, monitoreo y
análisis de IA se sienten cómodos y dónde poner límites. Esto se aplica al
dispositivo, pero muchas de las nuevas actualizaciones no ofrecen la misma
protección de privacidad.
El monitoreo de IA ha llegado para quedarse y tomará tiempo acostumbrarse.
Como señala
Phone Arena, el nuevo escaneo de fotos
«también funciona a la inversa: si intentas enviar o reenviar una imagen
que podría considerarse sensible, te avisará con un aviso para avisarte de
lo que estás a punto de compartir y tendrás que confirmarlo antes de que se
envíe».
Fuente:
Forbes