Investigación de seguridad de Private Cloud Compute

• Apple publicó materiales sobre Private Cloud Compute (PCC), que procesa en la nube las solicitudes de alto cómputo de Apple Intelligence, para que investigadores externos puedan verificar directamente sus garantías de seguridad y privacidad
• El material publicado incluye la PCC Security Guide, binarios de software, código fuente de componentes clave y el primer Virtual Research Environment (VRE) para plataformas de Apple
• VRE ejecuta el software de nodo PCC como una máquina virtual en Mac con Apple silicon y permite inspeccionar releases, verificar logs de transparencia, descargar binarios, realizar arranque virtual, ejecutar inferencia con un modelo demo, y modificar y depurar
• Apple Security Bounty agregó PCC como nuevo objetivo y pagará hasta 1 millón de dólares por lograr ejecución de código arbitrario con privilegios arbitrarios mediante un ataque remoto contra datos de solicitudes
• El esquema de verificación de PCC se enfoca en permitir que, incluso en el procesamiento de IA en la nube, los usuarios puedan confirmar directamente el software que se ejecuta en el centro de datos y sus garantías de privacidad

---

Publicación de materiales de verificación de PCC

• Private Cloud Compute (PCC) es un sistema que extiende a la nube el modelo de seguridad de los dispositivos Apple mientras procesa solicitudes de Apple Intelligence intensivas en cálculo
• Para aumentar la confianza pública, Apple permite que investigadores de seguridad y privacidad inspeccionen y verifiquen las garantías de extremo a extremo de PCC
• En las semanas posteriores al anuncio de Apple Intelligence y PCC, Apple entregó primero materiales, incluido el PCC Virtual Research Environment (VRE), a auditores externos y a algunos investigadores de seguridad
• Con esta publicación, cualquier investigador de seguridad y privacidad, y cualquier persona con interés técnico, puede estudiar PCC y verificarlo de forma independiente
• Apple Security Bounty también se amplió para incluir PCC, con recompensas por reportes de problemas que rompan las garantías de seguridad y privacidad de PCC

Qué cubre la PCC Security Guide

• La Private Cloud Compute Security Guide resume cómo la arquitectura de PCC fue diseñada para cumplir requisitos clave
• La guía cubre los componentes de PCC y la forma en que trabajan en conjunto para ofrecer un nivel de privacidad en el procesamiento de IA en la nube
• Los temas principales son los siguientes
  • Cómo la atestación de PCC se construye sobre funciones base inmutables implementadas en hardware
  • Cómo se autentican y enrutan las solicitudes de PCC para ofrecer no direccionabilidad (non-targetability)
  • Cómo se garantiza técnicamente que pueda inspeccionarse el software que se ejecuta en los centros de datos de Apple
  • Cómo se mantienen las propiedades de privacidad y seguridad de PCC incluso ante diversos escenarios de ataque

Virtual Research Environment

• Apple ofrece por primera vez un Virtual Research Environment (VRE) para plataformas de Apple
• VRE es un conjunto de herramientas que permite realizar directamente análisis de seguridad de Private Cloud Compute en una Mac
• Los investigadores pueden ir más allá de comprender las funciones de seguridad de PCC y verificar si PCC mantiene la privacidad del usuario de la forma descrita por Apple
• VRE ejecuta el software de nodo PCC en una máquina virtual con solo unas pocas modificaciones
  • El software de espacio de usuario se ejecuta igual que en un nodo PCC
  • El proceso de arranque y el kernel se ajustan para la virtualización
  • Incluye un Secure Enclave Processor (SEP) virtual, lo que por primera vez hace posible la investigación de seguridad sobre este componente
  • Para la inferencia usa el soporte de gráficos paravirtualizados de macOS

Tareas posibles en VRE y requisitos de ejecución

• Con las herramientas de VRE se pueden realizar las siguientes tareas
  • Listar e inspeccionar releases del software de PCC
  • Verificar la consistencia de los logs de transparencia
  • Descargar los binarios correspondientes a cada release
  • Arrancar un release en un entorno virtualizado
  • Ejecutar inferencia sobre un modelo demo
  • Modificar y depurar el software de PCC para investigaciones más profundas
• VRE está disponible en la versión más reciente de macOS Sequoia 15.1 Developer Preview
• Para ejecutarlo se requiere una Mac con Apple silicon y 16 GB o más de memoria unificada
• La forma de empezar puede consultarse en la documentación de configuración de Private Cloud Compute Virtual Research Environment

Código fuente de PCC publicado

• Apple publicó el código fuente de algunos componentes clave que ayudan a implementar los requisitos de seguridad y privacidad de PCC
• El código fuente se ofrece bajo un acuerdo de licencia de uso limitado para permitir un análisis más profundo de PCC
• Los proyectos publicados cubren varias áreas de PCC
  • CloudAttestation: se encarga de la composición y verificación de la atestación de nodos PCC
  • Thimble: incluye el daemon privatecloudcomputed que se ejecuta en los dispositivos de los usuarios y usa CloudAttestation para imponer transparencia verificable
  • splunkloggingd: filtra los logs que pueden exportarse desde los nodos PCC para evitar divulgaciones accidentales de datos
  • srd_tools: incluye las herramientas de VRE y puede usarse para entender cómo VRE ejecuta el código de PCC
• El código fuente disponible de PCC puede consultarse en el proyecto apple/security-pcc en GitHub

Apple Security Bounty para PCC

• Apple amplió Apple Security Bounty para recompensar vulnerabilidades que comprometan las garantías fundamentales de seguridad y privacidad de PCC
• Las nuevas categorías de recompensas para PCC están alineadas con las principales amenazas de la Security Guide
  • Divulgación accidental de datos: vulnerabilidades que provocan exposición no intencional de datos por fallas de configuración o problemas de diseño del sistema
  • Compromiso externo mediante solicitudes de usuario: vulnerabilidades que permiten a un actor externo abusar de solicitudes de usuario para acceder sin autorización a PCC
  • Acceso físico o interno: vulnerabilidades que permiten comprometer el sistema mediante acceso a interfaces internas
• Los niveles de recompensa se ofrecen en rangos comparables a los de iOS
• Se pagan las recompensas máximas por vulnerabilidades que comprometan datos de usuarios y datos de solicitudes de inferencia fuera del límite de confianza de PCC

Montos de recompensas de PCC

• Las categorías de recompensas de PCC son las siguientes
  • Ataque remoto contra datos de solicitudes: hasta US$1,000,000 por ejecución de código arbitrario con privilegios arbitrarios
  • Acceso a los datos de solicitud de un usuario o a información sensible relacionada con solicitudes de usuario fuera del límite de confianza: hasta US$250,000
  • Ataque a datos de solicitudes desde una posición de red privilegiada: hasta US$150,000 por acceso a los datos de solicitud de un usuario u otra información sensible fuera del límite de confianza
  • Posibilidad de ejecutar código no atestado: hasta US$100,000
  • Divulgación accidental o inesperada de datos por problemas de despliegue o configuración: hasta US$50,000
• Apple evaluará como elegibles para Apple Security Bounty los problemas de seguridad que tengan un impacto significativo en PCC, incluso si no coinciden con las categorías publicadas
• Los reportes se evalúan según la calidad de la presentación, la prueba de explotabilidad y el impacto en los usuarios
• La información del programa y los envíos están disponibles en la página de Apple Security Bounty

Transparencia verificable en el procesamiento de IA en la nube

• PCC fue diseñado como parte de Apple Intelligence para lograr un gran avance en privacidad en IA
• Entre sus propiedades clave se incluye la transparencia verificable, una característica que lo diferencia de otros enfoques de IA basados en servidores
• A partir de la experiencia del Apple Security Research Device Program, las herramientas y la documentación publicadas facilitan investigar y verificar las funciones clave de seguridad y privacidad de PCC
• Apple describe PCC como la arquitectura de seguridad más avanzada desplegada para cómputo de IA en la nube a gran escala, y busca impulsar junto con la comunidad de investigación la confianza en el sistema y el fortalecimiento de la seguridad y la privacidad