Insights sobre drones militares para carros autônomos mais seguros

Os carros autônomos muitas vezes enfrentam situações comuns para motoristas humanos. Quando confrontados com zonas de construção, autocarros escolares, cortes de energia ou peões mal comportados, estes veículos comportam-se muitas vezes de forma imprevisível, provocando acidentes ou eventos de congelamento, causando perturbações significativas no tráfego local e possivelmente impedindo os socorristas de realizarem o seu trabalho. Como os carros autônomos não conseguem lidar com esses problemas rotineiros, as empresas autônomas recorrem a babás humanas para supervisioná-los remotamente e intervir quando necessário.

Esta ideia – humanos supervisionando veículos autônomos à distância – não é nova. Os militares dos EUA têm feito isso desde a década de 1980 com veículos aéreos não tripulados (UAVs). Naqueles primeiros anos, os militares sofreram numerosos acidentes devido a estações de controle mal projetadas, falta de treinamento e atrasos nas comunicações.

Como piloto de caça da Marinha na década de 1990, fui um dos primeiros pesquisadores a examinar como melhorar as interfaces de supervisão remota de UAV. As milhares de horas que eu e outras pessoas passamos trabalhando e observando esses sistemas geraram um profundo conhecimento sobre como gerenciar operações remotas com segurança. Com as recentes revelações de que as operações remotas de automóveis autónomos comerciais nos EUA são geridas por operadores nas Filipinas, fica claro que as empresas autónomas não aprenderam as lições militares arduamente adquiridas que promoveriam hoje uma utilização mais segura de automóveis autónomos.

Enquanto estava estacionado no Pacífico Ocidental durante a Guerra do Golfo, passei uma quantidade significativa de tempo em centros de operações aéreas, aprendendo como os ataques militares eram planeados, implementados e depois replaneados quando o plano original inevitavelmente desmoronou. Após obter meu doutorado, aproveitei essa experiência para iniciar pesquisas sobre o controle remoto de UAVs para todos os três ramos das forças armadas dos EUA. Sentado ombro a ombro em pequenos reboques com operadores que pilotam UAVs em exercícios locais ou a 6.400 quilômetros de distância, meu trabalho era aprender sobre os pontos problemáticos dos operadores remotos, bem como identificar possíveis melhorias à medida que executavam o controle de supervisão sobre UAVs que poderiam estar voando do outro lado do mundo.

O controle de supervisão refere-se a situações em que humanos monitoram e apoiam sistemas autônomos, intervindo quando necessário. Para carros autônomos, esse descuido pode assumir diversas formas. A primeira é a teleoperação, onde um humano controla remotamente a velocidade e a direção do carro à distância. Os operadores sentam-se em um console com volante e pedais, semelhante a um simulador de corrida. Como este método depende de controle em tempo real, é extremamente sensível a atrasos na comunicação.

A segunda forma de controle de supervisão é a assistência remota. Em vez de dirigir o carro em tempo real, um humano fornece orientação de nível superior. Por exemplo, um operador pode clicar num caminho num mapa (chamado colocar “migalhas”) para mostrar ao carro para onde ir ou interpretar informações que a IA não consegue compreender, como sinais manuais de um trabalhador da construção civil. Este método tolera mais atrasos que a teleoperação, mas ainda é sensível ao tempo.

Cinco lições das operações militares com drones

Ao longo de 35 anos de operações com UAV, os militares encontraram consistentemente cinco grandes desafios durante as operações com drones, que fornecem lições valiosas para carros autônomos.

Latência

A latência – atrasos no envio e recebimento de informações devido à distância ou à má qualidade da rede – é o desafio mais importante para o controle remoto de veículos. Os humanos também têm seu próprio atraso: o atraso neuromuscular. Mesmo em condições perfeitas, as pessoas não conseguem responder de forma confiável a novas informações em menos de 200 a 500 milissegundos. Em operações remotas, onde já existe atraso na comunicação, isso torna o controle em tempo real ainda mais difícil.

Nas primeiras operações de drones, os pilotos da Força Aérea dos EUA em Las Vegas (o principal centro de operações de UAV dos EUA) tentaram decolar e pousar drones no Oriente Médio usando teleoperação. Com um atraso de pelo menos dois segundos entre o comando e a resposta, a taxa de acidentes foi 16 vezes maior que a dos caças que realizavam as mesmas missões. Os militares mudaram para operadores locais de linha de visão e, eventualmente, para decolagens e pousos totalmente automatizados. Quando entrevistei os pilotos desses UAVs, todos eles enfatizaram como era difícil controlar a aeronave com um atraso significativo.

As empresas de automóveis autônomos normalmente dependem de redes de telefonia celular para entregar comandos. Estas redes não são confiáveis ​​nas cidades e estão sujeitas a atrasos. Esta é uma das razões pelas quais muitas empresas preferem a assistência remota em vez da teleoperação total. Mas mesmo a assistência remota pode dar errado. Em um incidente, uma operadora da Waymo instruiu um carro a virar à esquerda quando um semáforo apareceu amarelo no feed de vídeo remoto – mas a latência da rede significava que o semáforo já havia ficado vermelho no mundo real. Depois de transferir seu centro de operações remotas dos EUA para as Filipinas, a latência da Waymo aumentou ainda mais. É imperativo que o controle não seja tão remoto, tanto para resolver o problema de latência, mas também para aumentar a supervisão de vulnerabilidades de segurança.

Projeto de estação de trabalho

O mau design da interface causou muitos acidentes com drones. Os militares aprenderam da maneira mais difícil que controlos confusos, ecrãs de difícil leitura e modos de autonomia pouco claros podem ter consequências desastrosas. Dependendo da plataforma específica do UAV, a FAA atribuiu entre 20% e 100% dos acidentes de UAV do Exército e da Força Aérea causados ​​por erro humano até 2004 ao mau design da interface.

Muitos acidentes de aeronaves UAV foram causados ​​por sistemas de controle humano deficientes. Em um caso, botões foram colocados nos controladores de forma que fosse relativamente fácil desligar acidentalmente o motor em vez de disparar um míssil. Este projeto pobre levou a acidentes em que os operadores remotos desligaram inadvertidamente o motor em vez de lançar um míssil.

A indústria autônoma revela indícios de problemas comparáveis. Alguns ônibus autônomos usam controladores de jogos prontos para uso, que, embora baratos, nunca foram projetados para controle de veículos. O uso off-label de tais controladores pode levar à confusão de modos, o que foi um fator na recente queda do ônibus espacial. São necessários testes humanos significativos para evitar tais problemas, não apenas antes da implantação do sistema, mas também após grandes atualizações de software.

Carga de trabalho do operador

As missões de drones normalmente incluem longos períodos de vigilância e coleta de informações, terminando ocasionalmente com um ataque de míssil. Estas missões podem por vezes durar dias; por exemplo, enquanto os militares esperam que a pessoa de interesse saia de um edifício. Como resultado, os operadores remotos experimentam oscilações extremas na carga de trabalho: às vezes uma intensidade avassaladora, às vezes um tédio esmagador. Ambas as condições podem levar a erros.

Quando os operadores teleoperam drones, a carga de trabalho é alta e a fadiga pode se instalar rapidamente. Mas quando a autonomia a bordo cuida da maior parte do trabalho, os operadores podem ficar entediados, complacentes e menos alertas. Este padrão está bem documentado na pesquisa de UAV.

Os operadores de automóveis autônomos provavelmente estão enfrentando problemas semelhantes em tarefas que vão desde a interpretação de sinais confusos até ajudar os carros a escapar de becos sem saída. Em cenários simples, os operadores podem ficar entediados; em emergências – como dirigir em uma zona de inundação ou responder durante uma queda de energia em toda a cidade – eles podem ficar rapidamente sobrecarregados.

Os militares tentaram durante anos ter uma pessoa supervisionando muitos drones ao mesmo tempo, porque isso é muito mais econômico. No entanto, os custos de mudança cognitiva (recuperar a consciência de uma situação após mudar o controlo entre drones) resultam em picos de carga de trabalho e elevado stress. Isso, juntamente com interfaces cada vez mais complexas e atrasos na comunicação, tornou isso extremamente difícil.

As montadoras autônomas provavelmente enfrentarão os mesmos obstáculos. Eles precisarão modelar as cargas de trabalho dos operadores e ser capazes de prever com segurança qual deverá ser o pessoal e quantos veículos uma única pessoa pode supervisionar efetivamente, especialmente durante operações de emergência. Se todo carro autônomo precisar de um ser humano dedicado para prestar muita atenção, tais operações não seriam mais rentáveis.

Treinamento

Os primeiros programas de drones careciam de requisitos formais de treinamento, com programas de treinamento elaborados por pilotos, para pilotos. Infelizmente, supervisionar um drone é mais parecido com o controle de tráfego aéreo do que realmente pilotar uma aeronave, por isso os militares muitas vezes colocavam operadores de drones em funções críticas com preparação inadequada. Isso causou muitos acidentes. Só anos mais tarde é que os militares realizaram uma análise adequada dos conhecimentos, competências e capacidades necessárias para conduzir operações remotas seguras e alteraram o seu programa de treino.

As empresas de condução autónoma não partilham publicamente os seus padrões de formação e atualmente não existem regulamentos que regem as qualificações dos operadores remotos. A segurança rodoviária depende fortemente destes operadores, mas sabe-se muito pouco sobre como são seleccionados ou ensinados. Se os despachantes da aviação comercial forem obrigados a ter treinamento formal supervisionado pela FAA, que é muito semelhante aos operadores remotos autônomos, deveríamos exigir que as empresas comerciais autônomas seguissem padrões semelhantes.

Planejamento de Contingência

A aviação possui protocolos fortes para emergências, incluindo procedimentos predefinidos para perda de comunicação, estações de controle terrestre de backup e comportamentos a bordo altamente confiáveis ​​quando a autonomia falha. Nas forças armadas, os drones podem voar para áreas seguras ou pousar de forma autônoma se o contato for perdido. Os sistemas são projetados tendo em mente ameaças à segurança cibernética, como falsificação de GPS.

Os carros autônomos parecem muito menos preparados. A queda de energia em São Francisco em 2025 deixou os veículos Waymo congelados nas vias de trânsito, bloqueando os socorristas e criando perigos. Esses veículos deveriam realizar “manobras de risco mínimo”, como puxar para o lado – mas muitos deles não o fizeram. Isto sugere lacunas no planeamento de contingência e na concepção básica à prova de falhas.

A história das operações militares com drones oferece lições cruciais para a indústria automobilística autônoma. Décadas de experiência mostram que a supervisão remota exige latência extremamente baixa, estações de controle cuidadosamente projetadas, carga de trabalho gerenciável do operador, programas de treinamento rigorosos e bem elaborados e um forte planejamento de contingência.

As empresas autônomas parecem estar repetindo muitos dos primeiros erros cometidos em programas de drones. As operações remotas são tratadas como um recurso de suporte e não como um sistema de segurança de missão crítica. Mas enquanto a IA lutar contra a incerteza, o que acontecerá num futuro próximo, a supervisão humana remota continuará a ser essencial. Os militares aprenderam estas lições através de dolorosas tentativas e erros, mas a comunidade autônoma parece ignorá-las. A indústria da condução autónoma tem a oportunidade – e a responsabilidade – de aprender com os nossos erros em ambientes de combate antes que isso prejudique os utentes das estradas em todo o mundo.

Um artigo completo sobre este tópico será apresentado na reunião da Conferência Internacional IEEE sobre Sistemas Homem-Máquina (ICHMS) de 2026, em Cingapura, em julho.