En agosto de 2021, Apple anunció que introduciría dos nuevas funciones de seguridad en sus productos para proteger a los menores.
Una consistía en detectar, mediante hashes de imágenes, si una foto era CSAM (material de abuso sexual infantil) cuando el usuario la subiera a iCloud; la otra añadía una función de filtrado que ocultaría la imagen y mostraría una advertencia si detectaba que un menor recibía o enviaba una foto sexualmente explícita a través de iMessage.
El anuncio generó una gran controversia. De inmediato, incluso empleados internos de Apple expresaron su preocupación, y varias organizaciones y personas, entre ellas la EFF (Electronic Frontier Foundation), firmaron una carta abierta en contra. Aquí en GeekNews también se publicaron varios artículos relacionados.
Apple respondió que era un malentendido pensar que esto vulneraba la privacidad, pero la controversia y la preocupación no se disiparon fácilmente. De hecho, más tarde The New York Times informó sobre un caso de perjuicio causado por una acción unilateral basada en el algoritmo de detección de CSAM de Google, lo que mostró en la práctica que estas preocupaciones no carecían de fundamento.
- Apple introduce nuevas funciones de seguridad para proteger a los menores
- Apple lamenta la controversia del "escaneo del iPhone"
- Apple retrasa el lanzamiento de la función de escaneo de fotos de iCloud para proteger a los menores
- CSAM: ¿qué es lo que preocupa a la gente sobre Apple?
- Google señaló como criminal a un padre que tomó fotos de la lesión de su bebé enfermo
Ahora, según lo que Apple declaró a WIRED, ha abandonado el plan de revisar si las fotos eran CSAM al momento de subirlas a iCloud.
En su lugar, dice que reforzará aún más la función de filtrado que advierte cuando detecta que un menor recibe o envía fotos sexualmente explícitas. En concreto, está investigando cómo ofrecer esta función no solo para fotos, sino también para videos, y además planea permitir que esta detección de CSAM basada en machine learning en el dispositivo pueda usarse en apps distintas de iMessage. Y quizá para evitar otra controversia, subraya que estas funciones estarán desactivadas por defecto (opt-in) y que Apple no sabrá cuándo se produzcan estas detecciones.
Parece que, debido a la intensa polémica del año pasado, Apple ha descartado por completo el plan de escanear fotos subidas a la nube y en su lugar se orienta a seguir desarrollando funciones que filtren CSAM directamente dentro del dispositivo. Sin embargo, como la censura mediante machine learning en el dispositivo ya era uno de los puntos centrales de la controversia desde entonces, da la impresión de que esta medida de Apple quizá no sea suficiente para calmar por completo las críticas y preocupaciones relacionadas.
3 comentarios
Me preocupé al ver el caso de Google, así que me alegra que Apple haya decidido desistir.
Este tipo de texto con una opinión personal también está muy bien.
¡Gracias por el resumen tan claro!