Por qué no me queda otra que despedirme: la dirección de Google perdió la brújula moral
(mayrhofer.eu.org)- El responsable de seguridad de Android decidió renunciar y envió una carta de despedida a sus colegas, citando la pérdida de rumbo ético de la dirección de Google
- Aceptó la propuesta para ser Director of Android Platform Security en 2017, cuando Google aún tenía una cultura orientada al interés público, con metas de carbono neutral, cancelación de contratos con el Pentágono y principios de IA
- Durante su gestión logró avances de protección al usuario como cifrado completo del dispositivo por defecto, copias de seguridad con cifrado de extremo a extremo e Insider Attack Resistance
- La causa directa de su renuncia fue que Google abandonó su objetivo de carbono neutral y firmó un contrato de IA con el Ministry of War de EE. UU., decisión tomada por la alta dirección sin discusión interna
- Como pacifista y académico europeo, afirma que no puede involucrarse en trabajo para un ejército que libra guerras de agresión, y expresa su preocupación de que este contrato pueda derivar en vigilancia sobre él mismo y sobre ciudadanos de la UE
Motivos para unirse y el Google de los primeros años
- En 2017 no podía rechazar la oferta para el puesto de Director of Android Platform Security; Trump ya era presidente en ese momento, pero le parecía una situación controlable y, sobre todo, Google era una empresa distinta nueve años atrás
- Android era open source first y acababa de superar los 2 mil millones de usuarios
- Había investigado la seguridad de Android desde fuera desde 2009, pero aunque el código era público, el contacto directo con el equipo interno de Android era muy difícil
- Era una oportunidad para liderar desde dentro el sistema operativo de código abierto basado en Linux más usado del mundo, y expresa su agradecimiento por la confianza de Dave Kleidermacher y Nick Kralevich
- Como académico y profesor titular de seguridad informática, era el puesto en Silicon Valley que más encajaba con el espíritu académico y los principios éticos al servicio del bien público
- Cuando se incorporó, se recibía e incluso se esperaba que los Googlers llevaran su identidad y sus valores al trabajo, y la cultura era transparente y abierta a debates diversos
Los valores de interés público del Google de antes
- El objetivo corporativo era lograr la neutralidad total de carbono, y después de que empleados expresaran su oposición, se canceló el contrato con el Pentágono (él firmó la carta abierta de 2018)
- Los Principios de IA anunciados por Sundar Pichai en 2018 especificaban áreas que no debían perseguirse
- Armas y tecnologías que causen daño o lo faciliten directamente a las personas
- Tecnologías de recopilación y uso de información con fines de vigilancia que violen normas internacionales
- Tecnologías contrarias al derecho internacional y a los principios de derechos humanos
- "Don't Be Evil" no era solo un eslogan, sino la estrella guía (north star) al tomar decisiones difíciles
- El lema del equipo de Android Security era: "ya sea que el dispositivo cueste 1000 dólares o 100, y ya sea que la persona usuaria sea una celebridad o una persona refugiada, lo hacemos tan seguro que ni nosotros mismos podamos vulnerarlo"
- Proteger el interés del usuario era la máxima prioridad, incluso cuando eso chocaba con intereses comerciales de otras apps o servicios de Google
Logros de seguridad durante su gestión
- Con Android 10, impulsó a la industria al habilitar por defecto el cifrado completo del dispositivo incluso en los equipos más baratos
- Mientras la discusión pública se centraba en Apple, Google introdujo discretamente las copias de seguridad de Android con cifrado de extremo a extremo, estableciendo un estándar de facto que sigue siendo relevante en el debate entre autoridades y privacidad de los usuarios
- Insider Attack Resistance, ARM MTE y las credenciales digitales con prioridad en la privacidad fueron resultado de colaboraciones para proteger a los usuarios incluso frente a partes maliciosas dentro de Google
- En sus primeros días conoció a expertos de primer nivel como Dianne Hackborn, considerada una leyenda de Android; todos fueron amables con alguien recién llegado y compartieron su conocimiento
El Google que cambió y la decisión de renunciar
- La dirección de Google abandonó silenciosamente su objetivo de neutralidad de carbono debido al consumo energético de los modelos de IA
- Más grave aún, la dirección firmó un contrato de IA con el Ministry of War de EE. UU.
- El "any lawful purpose" del actual gobierno de EE. UU. ya ha demostrado repetidamente violar el derecho internacional
- Estos cambios no se discutieron ni compartieron dentro de la empresa, sino que fueron decididos unilateralmente por la alta dirección; aunque antes estaba en la cadena de mando, no se enteró por canales internos
- Considera que no puede apoyar de forma explícita, implícita, directa ni indirecta las acciones del Ministry of War de EE. UU., cuyo lema es "Maximum lethality, not tepid legality", y concluyó que no le quedaba otra opción más que renunciar
Las dos caras de la decisión
- Por un lado, fue una decisión muy difícil
- Va a extrañar a las personas que aún quieren hacer el bien, la posibilidad de cambios positivos, a ingenieros excepcionales y una cultura madura para tratar los errores, como los blameless post-mortem
- Por otro lado, se volvió una decisión inevitable y sencilla
- Como pacifista, hace mucho tiempo decidió no trabajar para un ejército que libra guerras de agresión, distinguiéndolo de acciones puramente defensivas
- Como académico europeo, considera que el actual gobierno de EE. UU. se ha vuelto hostil hacia él, y que "any lawful purpose" incluye incluso la vigilancia masiva de ciudadanos de la UE
- Interpreta que este contrato implica la posibilidad de que productos de Google (IA) se utilicen directamente contra él y contra personas de su entorno
Planes a futuro
- Según su contrato, el período de notificación es de 3 meses a partir del último día del mes en que presentó la renuncia; seguirá disponible por canales internos de forma limitada hasta 2026-08-31 para cerrar y traspasar proyectos en curso
- Se desvincula de inmediato de cualquier trabajo en sistemas de IA que pudieran entrar en el contrato DoW (hasta ahora no tiene conocimiento de haber estado involucrado)
- Después podrá ser contactado por diversos canales externos, y planea seguir trabajando en protocolos de comunicación y almacenamiento con cifrado de extremo a extremo, identidad digital que preserve la privacidad, seguridad de sistemas embebidos y seguridad de sistemas operativos y de la cadena de suministro
- La intersección de todos esos temas sigue siendo la seguridad y privacidad de Android (en especial AOSP)
- Expresa su profundo deseo de que la dirección de Google recupere su brújula moral
Addendum (2026-06-12)
- La carta de despedida se difundió mucho más de lo esperado
- Reafirma que Android sigue siendo el mejor sistema operativo móvil actual por su equilibrio entre apertura, flexibilidad y seguridad
- Aunque persisten algunas limitaciones e incomodidades, dice no conocer una alternativa mejor
- Los equipos de Android Security y Privacy siguen comprometidos con mejorar de manera constante y consistente la protección de los usuarios
- La decisión de dejar Google no es una evaluación sobre quienes integran esos equipos, y confía en que los equipos que quedan seguirán tomando las decisiones correctas
1 comentarios
Comentarios de Hacker News
No es que me importe especialmente, pero decir que Google recién ahora perdió su brújula moral es algo que solo puede afirmar alguien que se volvió lo bastante rico como para jubilarse, no solo para renunciar
Google es literalmente la empresa de seguimiento y perfilado más grande y sistemática del mundo, y con el auge de los LLM su escala no ha hecho más que crecer
Haber hecho la vista gorda ante eso por conveniencia o por lo que sea, y recién ahora decir que perdió su brújula moral, se ve hipócrita
La empresa siguió cambiando, pero al mismo tiempo tampoco cambió tanto, y siempre le gustó decir cosas bonitas y decirles a los demás cómo debían comportarse, pero casi nunca estuvo dispuesta a renunciar a ingresos reales por hacer lo correcto
La justificación típica era que, si Google no lo hacía, alguien más lo haría, y que ese alguien obviamente no sería tan moral como los Googlers
Si ya tienes algunos años, recordarás cuando Google se oponía públicamente a los anuncios gráficos invasivos y que violaban la privacidad. Esa era una parte central de la imagen de Google, antes de que se dieran cuenta de que podían ganar mucho dinero con la compra de DoubleClick
Google había perdido su brújula moral mucho antes de que esta persona entrara a trabajar ahí. Eso no significa que sea especialmente malvada, pero sí que se unió a las filas de una empresa que cotiza en bolsa bastante común
No entiendo por qué actúan como si el rastreo y la segmentación publicitaria y el desarrollo de armas letales autónomas estuvieran en el mismo plano moral
No sé si los comentarios sarcásticos sean necesariamente justos. Todos sabemos que la gente de Google no era un grupo de santos, pero decir que puedes tolerar eso y aun así no aceptar ciertos usos de la IA en la guerra no me parece incoherente
En otras palabras, mis acciones por fin terminaron de consolidarse, y como en 2017 nadie podía saber que Google no era un bastión de esperanza ética, ahora ya soy lo bastante rico e independiente como para señalar que renuncio únicamente por motivos morales
Dicho eso, la frase “Google perdió su brújula moral” en realidad nunca ha sido del todo correcta
A estas alturas parece bastante claro que las corporaciones solo responden a corrientes económicas, y esas corrientes están determinadas por lo que la gente realmente quiere. En general, yo diría que la gente perdió su brújula moral. No en lo que dice, sino en cómo vota en política y con su cartera
Personalmente, no entiendo muy bien por qué la gente rechaza automáticamente cualquier colaboración con el ejército. Entiendo ser pacifista, pero aun así no me convence
La historia está llena de demasiadas tragedias causadas por la debilidad. Por ejemplo, tanto Alemania como la Unión Soviética pudieron invadir Polonia, y la masacre de Katyn sigue siendo una herida nacional. ¿Quién no querría detener a un invasor como Gengis Kan? ¿Has oído hablar de la masacre de Yangzhou o de las tres masacres de Jiading? ¿Por qué habría que dejar que la civilización se someta a la barbarie?
No me malinterpreten. Odio la guerra. Sigo enfureciéndome sin parar por guerras interminables como la de Irak, y creo que G.W. Bush y su gabinete fueron realmente malvados. Por supuesto, el peligro es real. Incluso un ejército creado para la defensa puede convertirse fácilmente en herramienta de tiranía o imperialismo si no se lo controla. Por eso hay que mantener un estricto control civil y pesos y contrapesos sobre el poder. Pero eso no significa que los ejércitos sean inherentemente malos, ¿o sí?
No necesitan enfrentar de verdad el hecho central de su existencia: que disfrutan de una porción desproporcionada de la prosperidad mundial, algo que no habría sido posible sin un poder militar abrumador. No creo que la gente que vive en Ucrania hablara así
Cuanto más envejezco, más simpatizo con el coronel Jessup: https://www.youtube.com/watch?v=9FnO3igOkOk
Y ese país se está volviendo cada vez más hostil hacia sus aliados y está haciendo cosas extrañas en el escenario internacional que son difíciles de justificar
Todas las decisiones de política exterior están alineadas con evitar enfrentamientos militares y una guerra nuclear. Por eso existe una tendencia excesivamente fuerte a resolver los conflictos por la vía diplomática
Pero la gente común no entiende esto y asume que la paz actual, sostenida por las armas nucleares, es algo real y permanente. Defiende políticas como el pacifismo sin considerar las armas nucleares ocultas bajo tierra, es decir, sin reflejar la realidad
La situación actual se resume en esta frase: los tiempos difíciles crean personas fuertes, las personas fuertes crean tiempos buenos, los tiempos buenos crean personas débiles y las personas débiles crean tiempos difíciles
Soy escritor y la semana pasada, al volver a leer un libro mío escrito años antes de que aparecieran los LLM, me estremecí al ver que yo mismo había usado la estructura “X no es Y, es Z”.
Ahora tengo un dilema moral. Se siente demasiado como ese tono robótico de LLM tan doloroso, así que quiero corregir esa frase en la próxima edición. Pero al mismo tiempo la escribí yo, no un LLM, así que también quiero dejarla. ¡Los dilemas morales que les toca enfrentar a los humanos!
A veces yo también vuelco mis ideas en un LLM, dejo que las ordene y luego itero sobre eso para pulir lo que realmente quiero decir.
Leí Zen and the Art of Motorcycle Maintenance hace más de 20 años, y se me quedó grabada la idea de que escribir se vuelve difícil si intentas decidir al mismo tiempo qué decir y cómo decirlo. Volcar ideas en un LLM es una forma de ganar impulso.
Dicho eso, ese patrón de paralelismo negativo que los LLM usan en exceso me saca de quicio y siempre tengo que borrarlo a mano. A veces me pregunto si esa forma de pensar tendrá alguna ventaja en programación. Por ejemplo, en código la negación defensiva puede mejorar la calidad, pero en escritura, si se abusa, diluye un buen texto.
Pero, ¿qué harías si ya no sintieras que puedes juzgar con bastante probabilidad si algo fue producido con ayuda de un LLM?
¿Dirías que da igual porque de todos modos ya no se puede distinguir, o dejarías de leer cualquier cosa por miedo a terminar consumiendo trabajo asistido por LLM?
Yo estoy bien con ello siempre que no esté lleno de señales típicas. Si lo está, simplemente es mala escritura y no me dan ganas de leerla.
“¡Mira lo que hice con Claude, los LLM van a cambiar el mundo!”
“Qué flojo, este autor usó un LLM para escribir una entrada de blog”.
Sorprende que al autor le haya tomado 8 años adoptar una postura ética. En ese tiempo, la acción de Google subió 600%.
Como alguien que trabajó en Google, afirmar que Google recién en esta década perdió su brújula moral es completamente ridículo.
Más aún, insinuar que Google todavía tenía una brújula moral en 2017, cuando esta persona entró, es absurdo.
Es un chiste total; debería hacer un poco de introspección.
No entiendo el tono negativo de aquí.
Es un experto de primer nivel en seguridad, y liderar la seguridad de la plataforma Android era una oportunidad de generar un impacto enormemente positivo para muchísima gente. Y de hecho lo hizo durante 10 años.
La gente sopesa muchos factores en conflicto. Al principio pudo haber tenido grandes aspiraciones de aplicar ideas interesantes y orientadas a la investigación en Android, y ahora quizá haya logrado muchas de ellas. Entonces tal vez ahora esté considerando otros factores.
Es horrible asumir que las personas solo se mueven por dinero, o especular que tomó esta decisión porque su patrimonio personal superó cierto umbral. Más aún si ni siquiera lo conoces.
Casi todos los académicos que conozco se mueven por curiosidad personal, ambición intelectual, la necesidad de encontrar y resolver problemas, y un fuerte deseo de contribuir positivamente. Yo también soy académico, conozco a Rene y creo que eso también aplica en su caso.
Si esa persona ganó dinero con su trabajo, eso está bien.
Ya no creo estar en minoría. La actitud general de este hilo puede ser “negativa”, pero contiene una verdad mucho más realista y directa.
Y, como siempre, agrego que esta persona debería devolver todo el dinero que Google le pagó. Claro, en toda la historia de este tipo de textos piadosos eso nunca ha pasado ni una sola vez, y por eso el meme sigue vivo.
Parece que cada quien está proponiendo una fecha arbitraria, según su propia brújula moral, para cuándo Google perdió la suya.
Siguiendo esa lógica, para mí Google se volvió malvado en el momento en que Brin y Page publicaron un artículo diciendo que PageRank nunca podría beneficiar al consumidor si se combinaba con publicidad, y después montaron una empresa de anuncios basada en PageRank.
Todo el negocio de Google está construido sobre el abandono de la brújula moral por parte de la alta dirección.
Sergey Brin y Larry Page escribieron que “los motores de búsqueda financiados por publicidad estarán inherentemente sesgados hacia los anunciantes y se alejarán de las necesidades de los consumidores”. Y aun así terminaron entrando al negocio publicitario.