SafetyCore es un nuevo servicio del sistema de Google para dispositivos
Android 9+ que proporciona la infraestructura en el dispositivo para realizar
una clasificación segura y privada para ayudar a los usuarios a detectar
contenido no deseado.
Android System SafetyCore es un nuevo componente de seguridad del sistema operativo Android que está relacionado con la protección y advertencias de contenido sensible de Google. No es en sí una aplicación, sino que es un servicio que ejerce sus funciones de seguridad a través de otras apps en las que el usuario está expuesto este contenido.
El servicio Android System SafetyCore escanea imágenes en busca de desnudos y contenido sensible. Por el momento, solo hará esta tarea en la aplicación Mensajes de Google. Es probable que en un futuro funcione en otras apps de mensajería y redes sociales, volviéndose una función esencial del control parental de Android.
¿Y qué hace cuando detecta desnudos? Pues difumina las imágenes automáticamente para proteger al usuario de este contenido sensible. Así, Android System SafetyCore permitirá proteger a menores de contenido sensible y todos los usuarios en general de desnudos indeseados.
Google ha aclarado que la nueva aplicación Android System SafetyCore no
realiza ningún análisis de contenido del lado del cliente: los usuarios tienen
el control sobre SafetyCore que sólo clasifica contenido específico cuando una
aplicación lo solicita a través de una función habilitada opcionalmente.
«Android ofrece muchas protecciones en el dispositivo que salvaguardan a
los usuarios contra amenazas como malware, spam de mensajería y protección
contra abusos, y protección contra estafas telefónicas, al mismo tiempo que
preservan la privacidad del usuario y mantienen a los usuarios en control de
sus datos», dijo un portavoz de la cuando fue contactado para hacer comentarios.
SafetyCore (nombre del paquete «com.google.android.safetycore»)
fue presentado por Google
en octubre de 2024, como
parte de un conjunto de medidas de seguridad
diseñadas para combatir estafas y otro contenido considerado sensible en la
aplicación Google Messages para Android.
Android System SafetyCore es una aplicación oficial de Google. Se trata de un servicio de seguridad que no tiene interfaz gráfica (por eso no puedes abrirla como una app) pero que trabaja en segundo plano para ejercer acciones de seguridad en el sistema.
En la página de Play Store de Android System SafetyCore puedes ver que esta aplicación le pertenece a Google. De hecho, en la web Google for Developers se menciona que este es un nuevo componente del sistema Android que sirve como infraestructura de protección para otras apps del sistema.
La función, que requiere 2 GB de RAM, se está implementando en todos los
dispositivos Android que ejecutan la versión 9 de Android y posteriores, así
como en aquellos que ejecutan Android Go, una versión liviana del sistema
operativo para teléfonos inteligentes de nivel básico.
Por otro lado, el escaneo del lado del cliente (CSS) se considera un enfoque
alternativo para permitir el análisis de datos en el dispositivo en lugar de
debilitar el cifrado o agregar puertas traseras a los sistemas existentes. Sin
embargo, el método ha generado serias preocupaciones sobre la privacidad, ya
que es propenso a abusos al obligar al proveedor de servicios a buscar
material más allá del alcance acordado inicialmente.
En algunos sentidos, las advertencias de contenido confidencial de Google para
la aplicación Mensajes son muy similares a la
función de seguridad de comunicación de Apple en iMessage, que emplea el aprendizaje automático en el dispositivo para analizar los
archivos adjuntos de fotos y videos y determinar si una foto o un video parece
contener desnudez.
Los encargados del mantenimiento del sistema operativo GrapheneOS, en una
publicación compartida en X, reiteraron que SafetyCore no proporciona escaneo
del lado del cliente y está diseñado principalmente para ofrecer modelos de
aprendizaje automático en el dispositivo que otras aplicaciones pueden usar
para clasificar el contenido como spam, estafa o malware.
«Clasificar cosas como esta no es lo mismo que intentar detectar contenido
ilegal y reportarlo a un servicio»,
dijo GrapheneOS.
«Eso violaría enormemente la privacidad de las personas de múltiples
maneras y los falsos positivos seguirían existiendo. No es lo que es y no se
puede usar para eso».
Fuente:
THN