El software de conducción autónoma de Tesla detectó un maniquí infantil y aun así no logró detenerse. El mismo tipo de vehículo lesionó a un estudiante real en 2023.
Un Tesla autónomo atropella a un maniquí identificado como peatón durante una prueba de seguridad
FSD reconoce al niño ficticio y pasa de todos modos
Dan O’Dowd vía BlueSky Social
Tesla planea desplegar una pequeña flota de robotaxis en Austin en las próximas semanas. Pero estos no serán los tan prometidos «CyberCab».
En lugar de ello, Tesla utilizará los Model Y estándar que funcionan con su software de conducción autónoma total (FSD), el mismo sistema que está en el centro de las crecientes preocupaciones de seguridad.
Aunque el director ejecutivo Elon Musk afirma que la tecnología está casi lista, una prueba independiente reciente sugiere lo contrario.
Un nuevo video del Proyecto Dawn muestra un Modelo Y con FSD versión 13.2.9 que no se detiene ante un maniquí de tamaño infantil que cruza frente a un autobús escolar detenido.
Tesla atropella a un muñeco de prueba
En el video, el Tesla detecta al maniquí como peatón, pero lo atropella de todos modos. El coche no reduce la velocidad ni se detiene, ni siquiera con la señal de stop del autobús escolar desplegada y las luces rojas intermitentes.
Dan O’Dowd, graduado de Caltech y fundador del Proyecto Dawn, dirigió la prueba. Su grupo ha criticado durante mucho tiempo el software de Tesla.
Advirtieron sobre este mismo escenario hace dos años y medio. Su anuncio del Super Bowl de 2023 destacó problemas similares.
Después de ese anuncio, surgió un incidente inquietante de la vida real.
Un Tesla Model Y golpeó al estudiante de secundaria Tillman Mitchell cuando salía de un autobús escolar en Hollister, Carolina del Norte.
Sufrió lesiones que pusieron en peligro su vida, incluyendo una fractura de cuello y una pierna rota. Los investigadores sospechan que el piloto automático o el FSD pudieron haber estado activos durante el accidente .
El Tesla FSD 13.2.9 aún atropellará a un niño mientras pasa ilegalmente un autobús escolar detenido con las luces rojas intermitentes y la señal de pare extendida. Elon Musk, ¿cuántos niños necesita atropellar el FSD antes de que arreglen esto? ¡Advertí sobre este peligro en el Super Bowl 2023!
— Dan O’Dowd (@realdanodowd.bsky.social) 28/05/2025 14:17:41.446
El sistema señala el obstáculo, pero no actúa
La prueba no mostró ningún caso de ceguera de software. El sistema identificó al maniquí como un peatón. Aun así, el vehículo continuó sin vacilar.
Este resultado plantea dudas sobre si el FSD de Tesla toma decisiones correctas, incluso cuando detecta obstáculos.
Tesla no ha demandado a O’Dowd ni al Proyecto Dawn por la demostración.
Los críticos, incluido el YouTuber Mark Rober, también han llevado a cabo acciones similares sin ninguna respuesta legal.
Rober mostró una vez un Tesla destrozando una pared de espuma con una carretera pintada. Ese video sigue sin ser impugnado legalmente.
Robotaxi confinado a zonas más fáciles
A pesar de estos problemas, Musk sigue siendo optimista.
«Vamos a estar extremadamente atentos al despliegue, como debe ser. Estaremos muy atentos a lo que hacen los vehículos», declaró a CBS News.
El lanzamiento en Austin se limitará a zonas específicas. Tesla geolocalizará los vehículos en zonas de la ciudad más transitables.
Musk también reiteró su plan para que los propietarios presten sus vehículos para usarlos como robotaxi. Sin embargo, no hay un plazo para esta función.
En 2019, Musk afirmó que Tesla tendría un millón de robotaxis para 2020. Hasta la fecha, no se ha lanzado ninguno.
Ahora afirma que las pruebas en Austin muestran que prácticamente no hay intervención. Esto se refiere a los momentos en que un conductor debe tomar el control del sistema.
Tesla mantiene su enfoque en la seguridad. Pero los críticos argumentan que los errores en el software de conducción autónoma tienen mayor impacto que las aplicaciones defectuosas.
A medida que comienza el programa piloto de Austin, la industria y el público estarán observando de cerca.
Hasta el momento, la revolución de los robotaxis, largamente prometida por Tesla, ha generado más señales de alerta que viajes.