“
Los investigadores federales de seguridad vial quieren que Tesla les diga cómo y por qué desarrolló la solución en un llamado a revisión de más de 2 millones de vehículos equipados con el sistema de conducción parcialmente automatizado Autopilot de la compañía.
Los investigadores de la Administración Nacional de Seguridad del Tráfico en Carreteras de EE. UU. tienen preocupaciones sobre si la solución al llamado a revisión funcionó porque Tesla ha reportado 20 choques desde que la solución fue enviada como una actualización de software en línea en diciembre.
La solución al llamado a revisión también debía abordar si se debería permitir que Autopilot opere en carreteras que no son autopistas de acceso limitado. La solución para eso fue aumentar las advertencias al conductor en carreteras con intersecciones.
Pero en una carta a Tesla publicada en el sitio web de la agencia el martes, los investigadores escribieron que no pudieron encontrar una diferencia entre las advertencias al conductor para prestar atención antes del llamado a revisión y después de que se lanzó el nuevo software. La agencia dijo que evaluará si las advertencias al conductor son adecuadas, especialmente cuando una cámara de monitoreo del conductor está cubierta.
La agencia solicitó volúmenes de información sobre cómo Tesla desarrolló la solución, y se centró en cómo utilizó la ciencia del comportamiento humano para probar la efectividad del llamado a revisión.
‘Soluciones inadecuadas’
Phil Koopman, profesor de la Universidad Carnegie Mellon que estudia la seguridad de la conducción automatizada, dijo que la carta muestra que el llamado a revisión hizo poco para resolver los problemas con Autopilot y fue un intento de aplacar a la NHTSA, que exigió el llamado a revisión después de más de dos años de investigación.
“Es bastante claro para todos los que están observando que Tesla intentó hacer la solución mínima posible para ver con qué podían salirse con la suya”, dijo Koopman. “Y la NHTSA tiene que responder enérgicamente o de lo contrario otras compañías automotrices comenzarán a implementar soluciones inadecuadas”.
Los defensores de la seguridad han expresado durante mucho tiempo su preocupación de que Autopilot, que puede mantener un vehículo en su carril y a una distancia de los objetos delante de él, no fue diseñado para operar en carreteras que no son autopistas de acceso limitado.
Missy Cummings, profesora de ingeniería e informática en la Universidad George Mason que estudia vehículos automatizados, dijo que la NHTSA está respondiendo a críticas de legisladores por una falta percibida de acción en cuanto a los vehículos automatizados.
“Por mucho que sea torpe nuestro gobierno, el ciclo de retroalimentación está funcionando”, dijo Cummings. “Creo que el liderazgo de la NHTSA ahora está convencido de que esto es un problema”.
La carta de 18 páginas de la NHTSA pregunta cómo Tesla utilizó la ciencia del comportamiento humano en el diseño de Autopilot, y la evaluación de la importancia de evaluar los factores humanos.
También quiere que Tesla identifique cada puesto involucrado en la evaluación del comportamiento humano y las calificaciones de los trabajadores. Y pregunta si los puestos todavía existen en la compañía.
Se dejó un mensaje de parte de The Associated Press temprano el martes buscando un comentario de Tesla sobre la carta.
Tesla está en proceso de despedir alrededor del 10% de su fuerza laboral, alrededor de 14,000 personas, en un esfuerzo por reducir costos para hacer frente a la caída de las ventas globales.
Cummings dijo que sospecha que el CEO Elon Musk habría despedido a cualquier persona con conocimientos en comportamiento humano, una habilidad clave necesaria para implementar sistemas parcialmente automatizados como Autopilot, que no pueden conducirse a sí mismos y requieren que los humanos estén listos para intervenir en todo momento.
“Si vas a tener una tecnología que depende de la interacción humana, mejor tener a alguien en tu equipo que sepa lo que está haciendo en ese espacio”, dijo.
Cummings dijo que su investigación ha demostrado que una vez que un sistema de conducción se hace cargo del volante de los humanos, queda poco para que el cerebro humano haga. Muchos conductores tienden a depender demasiado del sistema y desconectarse.
“Puedes tener la cabeza fija en una posición, puedes tener potencialmente los ojos en la carretera, y puedes estar a un millón de millas de distancia en tu cabeza”, dijo. “Todas las tecnologías de monitoreo del conductor en el mundo aún no te obligarán a prestar atención”.
¿Está Autopilot activo o desactivado?
En su carta, la NHTSA también le pide a Tesla información sobre cómo la solución al llamado a revisión aborda la confusión del conductor sobre si Autopilot ha sido desactivado si se aplica fuerza al volante. Anteriormente, si Autopilot se desactivaba, los conductores podrían no darse cuenta rápidamente de que tenían que retomar la conducción.
El llamado a revisión agregó una función que da una “desaceleración más pronunciada” para alertar a los conductores cuando Autopilot ha sido desactivado. Pero la solución al llamado a revisión no activa la función automáticamente, los conductores tienen que hacerlo. Los investigadores preguntaron cuántos conductores han tomado ese paso.
La NHTSA está preguntando a Tesla, “¿Qué quiere decir que tienen una solución y no se activa realmente?” dijo Koopman.
La carta, dijo, muestra que la NHTSA está viendo si Tesla hizo pruebas para asegurarse de que las soluciones realmente funcionaban. “Viendo la solución, me costó creer que haya mucho análisis que demuestre que estas mejorarán la seguridad”, dijo Koopman.
La agencia también dice que Tesla realizó actualizaciones de seguridad después de que se envió la solución al llamado a revisión, incluido un intento de reducir los choques causados por el hidroplaneo y de reducir las colisiones en carriles de alta velocidad. La NHTSA dijo que investigará por qué Tesla no incluyó las actualizaciones en el llamado a revisión original.
La NHTSA podría buscar más soluciones de llamado a revisión, hacer que Tesla limite dónde puede funcionar Autopilot, o incluso obligar a la compañía a deshabilitar el sistema hasta que se solucione, dijeron expertos en seguridad.
La NHTSA inició su investigación de Autopilot en 2021, después de recibir 11 informes de que los Teslas que usaban Autopilot golpearon vehículos de emergencia estacionados. En documentos que explican por qué se puso fin a la investigación debido al llamado a revisión, la NHTSA dijo que finalmente encontró 467 choques involucrando Autopilot que resultaron en 54 heridas y 14 muertes.
Suscríbete a la newsletter Eye on AI para mantenerte al tanto de cómo la IA está moldeando el futuro de los negocios. Regístrate gratis.”