PyE
Desbloquea el Editor’s Digest gratis
Roula Khalaf, editora del FT, selecciona sus historias favoritas en este boletín semanal.
Mientras me metía debajo de la mesa de la cocina con mi hijo de cinco años este fin de semana, ella me explicó que estábamos en un automóvil, pero que «puede conducirse solo, así que podemos relajarnos, ¿de acuerdo?». Nos acomodamos para una siesta imaginaria de camino a la playa imaginaria.
No le dije que los adultos realmente están luchando para convertir esta visión en realidad. Incluso Waymo, la empresa que está más adelantada, todavía sólo tiene taxis autónomos en un puñado de ciudades de Estados Unidos.
Mientras tanto, los fabricantes de automóviles están empaquetando muchos de sus nuevos modelos con los llamados Automatización parcial “Nivel 2” en cambio, características que pueden conducir una cierta cantidad de tiempo en algunas circunstancias, pero requieren que el conductor humano preste atención y asuma el control cuando sea necesario. Sin embargo, este punto intermedio, que depende de humanos y máquinas, está resultando problemático. Y es un problema que vale la pena señalar, incluso si no te interesan los automóviles, porque otros sectores también están comenzando a adoptar el concepto de “copilotos” automatizados para ayudar a todos, desde codificadores hasta médicos.
El gran problema se conoce como “complacencia con la automatización”. La gente ha estado estudiando el fenómeno durante décadas en todo tipo de sistemas parcialmente automatizados, desde la aviación hasta los procesos de fabricación.
Cuando se pide a los humanos que supervisen los sistemas automatizados, su atención comienza a divagar, lo que significa que no siempre se dan cuenta a tiempo cuando surge un problema, ni son lo suficientemente conscientes del contexto como para hacerse cargo de inmediato. Y cuanto mejor funciona un sistema automatizado la mayor parte del tiempo, más complacientes nos volvemos los humanos.
Mica Endsley, ex científica jefe de la Fuerza Aérea de EE. UU., ha hecho una carrera de estudiar estos temas después de haberlos encontrado por primera vez en la década de 1980. «El público no comprende del todo las formas sutiles en que la automatización afecta su atención [but] es como darle a la gente un sedante”, me dijo. «Van a encontrar algo más que hacer o se van a distraer, y ninguna de las dos cosas es buena».
Resulta que los conductores de automóviles no son inmunes. Los estudios de varios sistemas de automatización parcial han encontrado que los conductores se vuelven cada vez es más probable que se desvincule cuanto más los usan. En Estados Unidos, la Junta Nacional de Seguridad en el Transporte ha culpado complacencia de la automatización en una serie de accidentes automovilísticos.
Si los humanos son notoriamente malos monitores, la solución, aparentemente, es monitorear a los monitores. Los organismos de seguridad y los reguladores han presionado para que los volantes detecten si hay personas sosteniéndolos y cámaras orientadas al conductor que detecten la dirección de la mirada del conductor y la postura de la cabeza en todo momento. La mayoría proporciona alertas visuales, de audio e incluso de vibración del asiento que aumentan en intensidad para advertir a los conductores distraídos que vuelvan a prestar atención a la carretera. Los coches Tesla tienen un sistema disciplinario por el cual, si los conductores acumulan demasiados “tachones”, el sistema de automatización parcial se suspende durante una semana.
Pero intimidar a los conductores para que presten atención no parece ser suficiente. Cuando Mikael Ljung Aust, especialista en comportamiento del conductor de Volvo Cars, realizó un estudio En una pista de prueba con empleados, descubrió que las alertas de distracción lograron que las personas mantuvieran la vista en la carretera y las manos en el volante. Pero incluso entonces, casi el 30 por ciento de ellos dejaron que el coche chocara directamente contra un objeto en la carretera.
En entrevistas de seguimiento, los conductores dijeron que vieron venir el objeto, pero confiaron en que el automóvil se ocuparía de él, al menos hasta que fue demasiado tarde. “Incluso si escribes muy claramente en el manual: ‘El coche no puede ver estos objetos’ y les muestras imágenes una vez que salen a la carretera, para algunas personas… . . Parece que no pueden evitar confiar en el coche”.
Él y varios otros expertos en seguridad dijeron que la mejor solución a los peligros de la autocomplacencia parecía ser mantener al conductor más activamente involucrado en la dirección y la conducción, con el sistema parcialmente automatizado encendido en segundo plano, guiando suavemente cuando sea necesario en lugar de tomar el control. .
En otras palabras, si imaginamos la automatización como una escala, con humanos haciendo todo en un extremo y máquinas haciendo todo en el otro, el mejor camino podría ser retroceder ligeramente hacia mantener un mayor control humano, al menos hasta que la tecnología sea buena. suficiente para saltar al otro extremo de la escala.
De lo contrario, nos enfrentamos a un punto medio parcialmente automatizado, donde un viaje en coche se parece menos a una siesta y más a mirar ansiosamente la carretera con los ojos bien abiertos y el cuello erguido, por miedo a que el coche vuelva a gritarnos que prestemos atención. ¿Es ese el tipo de futuro con el que alguna vez soñó cualquier niño de cinco años?
