Tesla dijo que faltaban datos clave en un accidente fatal, pero un hacker los encontró

• Tesla afirmó que no existían datos clave relacionados con un accidente de conducción autónoma
• Sin embargo, un hacker encontró datos internos y desató la controversia
• Esto generó dudas sobre la credibilidad del testimonio de Tesla y el estado real de sus datos
• La responsabilidad legal de Tesla y su actitud ante la entrega de pruebas vuelven a estar bajo escrutinio
• Los riesgos de la tecnología de conducción autónoma y los problemas de transparencia vuelven a quedar en evidencia

---

Resumen de la controversia sobre el ocultamiento de datos del accidente de Tesla

• Tesla sostuvo que, en relación con un accidente fatal de conducción autónoma, la empresa no podía acceder a los datos clave de ese caso
• Sin embargo, un hacker encontró los datos relevantes dentro de los sistemas internos de Tesla, lo que demostró que los datos que antes se habían declarado inexistentes sí existían
• Esto plantea dudas sobre si Tesla ocultó la verdad en su testimonio judicial o, al menos, si no comprendía bien su propio sistema interno de gestión de datos
• El caso detonó varios temas, como la atribución de responsabilidad legal, la obligación de entregar pruebas y la transparencia en la gestión de datos de los vehículos autónomos
• También aumentó el interés en la confiabilidad de la tecnología de conducción autónoma y en la actitud de las empresas tecnológicas frente a futuros procesos de respuesta ante accidentes

[GN⁺]

Opiniones en Hacker News

• Comparto enlace al archivo

• Quiero saber si entendí bien. ¿Los datos del accidente se envían automáticamente a Tesla y, en cuanto se transmiten, se marcan de inmediato para borrado? Si funciona así, Tesla termina teniendo el control exclusivo del acceso a esos datos y puede decidir si usarlos o no como le convenga. No parece que algo así pudiera sostenerse en un tribunal, pero hasta ahora así ha sido. Y, por supuesto, uno esperaría que existiera un registro de auditoría sobre el borrado de datos del accidente en los servidores de Tesla, pero nadie ha verificado si realmente existe

  • Los datos del vehículo no los controla de forma exclusiva solo Tesla, sino todos los fabricantes. No hay una forma estandarizada de registrar o consultar los datos, y los logs de cada componente solo los pueden interpretar sus respectivos proveedores
  • Viéndolo de forma más positiva, después de un accidente existe el riesgo de que terceros accedan al vehículo y a su memoria, exponiendo datos personales del propietario o conductor. Además, si los datos sobre el estado del vehículo se hacen públicos, pueden distorsionarse según quién los presente, así que creo que solo expertos oficiales deberían poder acceder a ellos. Es una idea parecida al manejo en sitio de las cajas negras de los aviones
  • Otra razón es que podría haber conflicto con el código de subida de otros tipos de datos que Tesla recibe. En el caso del primer tipo de datos (datos arbitrarios), si el vehículo recibe confirmación de que se guardaron en el servidor de Tesla, es razonable borrarlos localmente para liberar espacio. No es lo ideal en un accidente, pero no creo que se pueda afirmar automáticamente que el borrado fue malicioso
  • Me parece una situación parecida a las “grabaciones para mejorar la calidad de la llamada”. Los reguladores exigen avisar al cliente, pero si la grabación los perjudica dicen que no existe, y solo la publican cuando les conviene. Tesla ya ha tenido muchos casos de manejo descuidado de enormes cantidades de datos de clientes, y hace poco incluso se compartieron videos del interior de vehículos dentro de la oficina. Hubo una actriz porno que grabó un video en un Tesla en conducción autónoma, y supongo que ese video “para mejora de calidad” también habrá circulado por todos lados
  • Antes ya hubo muchos casos en que la gente tuvo que demandar a Tesla para pedir datos de telemetría del vehículo. Ni siquiera era para usarlos en contra de la empresa, sino en demandas por accidentes de tránsito, y aun así Tesla se negaba a entregarlos. En cambio, Tesla sí ha divulgado datos de telemetría a la prensa sin consentimiento para defenderse o incluso para instalar una versión falsa. Por ejemplo, dicen que “el vehículo advirtió al conductor que prestara atención”, pero luego investigas y resulta que solo hubo una alerta 18 minutos antes del choque

• Hace tiempo compré en eBay una unidad de infoentretenimiento de un Model 3 y la hackeé. La cantidad de datos almacenados adentro era enorme. Después de obtener acceso al sistema, pude sacar el VIN del vehículo e incluso rastrear la subasta de deshuesadero de donde había salido. Con la información de ubicación registrada se veía por completo el patrón de vida del dueño: dónde vivía, dónde trabajaba, qué tiendas visitaba con frecuencia, etc. La última ubicación GPS registrada era una intersección en T en North Carolina, y con Street View hasta se podía ver el árbol contra el que probablemente chocó el vehículo

  • Me da curiosidad el hardware. ¿Era una computadora basada en Linux con una tarjeta SD o un SSD? ¿Qué sistema de archivos usaba?
  • Eso de “ver un fragmento de la vida del dueño”… bromeo con si eso incluiría incluso su muerte

• Según el video anotado reproducido en el tribunal, Tesla detectó un vehículo a 170 pies de distancia y luego un peatón a 116 pies. Pero Tesla planeó una trayectoria que atravesaba justo el punto donde estaban ambos, al final de la vía donde estaban la señal y el letrero. O sea, detectó al vehículo y al peatón y aun así intentó pasar entre ellos. Me pregunto qué tan grave era realmente el estado de ese software

  • Adjunto un video de un caso que de verdad muestra un problema así: vimeo.com/1093113127/e1fb6c359c. No es solo que detectara al peatón e intentara pasar por ahí, sino que incluso después de atropellarlo siguió la ruta como si nada
  • Dicen que la IA va a revolucionar el mundo y convertirse en Skynet, pero en realidad su pathfinding está al nivel de un bot de Counter-Strike
  • Creo que es el llamado “dog/pig problem”. El problema de estos sistemas es que no tienen “object permanence”. Aunque detecten un vehículo a 170 pies, al acercarse dejan de seguir detectándolo, y con el peatón pasa lo mismo. El sistema de Tesla filtra objetos fijos (vehículos detenidos o señales), y eso también es común en sistemas de asistencia a la conducción de otras marcas, salvo en modo de asistencia de estacionamiento. La diferencia es que la mayoría de los conductores de otras marcas no sobreconfían en el sistema, mientras que los conductores de Tesla tienden a confiar demasiado en estas funciones de asistencia. Video relacionado: escena de The Mitchells vs. the Machines
  • Mi suposición es que el vehículo y el peatón detectados en realidad eran otros distintos a las víctimas. (Si fueran las víctimas, no lo habrían expresado como “a vehicle” o “a pedestrian”)

• “Inmediatamente después del accidente del 25 de abril de 2019 a las 9:14PM, los datos cruciales se subieron automáticamente a los servidores de Tesla y se guardaron en la base de datos central. Desde la sede se envió al vehículo un mensaje automatizado confirmando la recepción de la instantánea de colisión. Poco después, esos mismos datos fueron marcados en el sitio como ‘unlink’, es decir, la copia interna del vehículo quedó marcada para borrado. Tesla explicó en el tribunal que este procedimiento es habitual en accidentes”. Todo este proceso me impacta

  • Me sorprende que la gente le dé tanta confianza a esta empresa con tanta facilidad. Ya sea que siga como líder de los EV o se convierta en una nueva potencia en IA y robótica, este comportamiento corporativo supera cualquier cosa que uno imaginaría. Tiene un aire de inmoralidad tipo Aperture Science
  • No logro imaginar un caso en que ese procedimiento pueda defenderse legítimamente y no causar problemas. Tengo muchas dudas sobre compliance, requisitos legales y retención de datos, y también me pregunto quién metió ese código en el despliegue. Lo importante es que no fue un error de una sola persona, sino una decisión de equipo
  • El problema aún mayor es que Tesla también “borró activamente” los datos del servidor central
  • La parte que cité (el borrado de los datos dentro del vehículo) no me parece tan rara; la parte del borrado en el servidor es mucho más impactante
  • El comentario principal del hilo anterior en HN sobre este caso decía que la indemnización era excesiva. Tengo curiosidad por ver si en este hilo la discusión será distinta

• Cuando descubrieron a Volkswagen manipulando las emisiones, despidieron y acusaron al CEO. ¿No debería pasar lo mismo con Tesla?

  • Lo raro del Dieselgate es que de hecho alguien fue castigado. Es muy poco común que las empresas, especialmente en lo penal, reciban ese tipo de consecuencias
  • El juez a cargo determinó en la sentencia que “no había evidencia suficiente de que la omisión inicial de Tesla al entregar los datos hubiera sido intencional”, y en cambio ordenó que Tesla reembolsara al demandante los costos de recolectar los datos por su cuenta
  • Creo que se necesita una coalición de fiscales generales estatales demócratas, como en los litigios contra Big Tobacco
  • Despedir al CEO es facultad del consejo. El consejo de Tesla cree que el valor de la empresa está inflado de forma anormal y que ese valor está ligado directamente al CEO
  • Este caso es completamente distinto al de VW, y lo único que tienen en común es que ambas son automotrices. Puede que el CEO de Tesla deba ser despedido o acusado, pero no sería porque el caso de VW siente precedente

• Si Tesla implementa secure boot, en adelante a nadie le será fácil encontrar sus fallas. Y entonces la posibilidad de “pérdida” de datos de accidentes será aún mayor, igual que cuando la policía “pierde” grabaciones de bodycam

  • Estoy totalmente de acuerdo con este comentario. Los hackers pudieron sacar a la luz los problemas porque no se había aplicado secure boot ni imágenes cifradas. Los desarrolladores embebidos conocen bien cosas como MCUboot. Pero los gerentes suelen evitar adoptarlo por la complejidad; aun así, si lo aprueban, todo el firmware quedará como los chats de Signal: solo el fabricante podrá abrirlo. El hardware con especificación PSA incluso debe resistir ataques de glitch de múltiples bits, así que desde ese punto los hackers ya no tendrán acceso

• Citando la retractación del testimonio judicial de un empleado de Tesla, lo veo como “básicamente perjurio”

  • Lo que más me intriga es qué castigo recibirán realmente los empleados que dijeron esas mentiras. Me pregunto si el sistema terminará protegiéndolos por actuar como representantes de la empresa

• Después de leer este artículo, decidí que jamás compraré un Tesla. Felicito a greenthehacker por haber intentado hackearlo. Ojalá disfrute por mucho tiempo su Starbucks venti de chocolate caliente

  • Me pregunto si antes de hoy ya estabas pensando en comprar un Tesla. Ya hubo varios accidentes mortales relacionados con la conducción autónoma; tengo curiosidad por qué este caso se siente especialmente distinto. Para mí, el punto de quiebre fue el caso en Florida donde un Tesla se metió debajo de un camión grande y el conductor murió de forma espantosa
  • Lo de desearle que tome “un Starbucks venti de chocolate caliente” por mucho tiempo, ¿no es básicamente desearle diabetes? Lo digo en tono de broma
  • También hay una broma preguntando si el hecho de que Musk antes bromeara invocando a la Fuerza Aérea alemana (Luftwaffe) tampoco afectó la intención de comprar un Tesla

• Creo que nada de lo que está pasando sorprenderá a nadie que haya entendido bien la personalidad de Elon. Exageraciones sobre funciones, plazos e incluso rankings de videojuegos… también veo la compra de Twitter como un movimiento para ampliar su propio engaño