O que um carro que dirige sozinho deve fazer quando um veículo próximo está virando de forma imprevisível para frente e para trás na estrada, como se seu motorista estivesse bêbado? Que tal encontrar um veículo dirigindo na direção errada? Antes que os carros autônomos estejam na estrada, todos devem saber como responderão em situações inesperadas.

Eu desenvolvi, testar e implantar ônibus autônomos, identificar métodos para garantir que os veículos autônomos sejam seguros e confiáveis. Mas não há pista de teste como as estradas reais do país, e nenhuma maneira de testar essas novas máquinas tão exaustivamente quanto os carros movidos por humanos modernos têm sido, com trilhões de milhas percorridas todos os anos durante décadas. Quando carros autônomos pegam a estrada, eles colidem de maneiras sérias e secundárias. No entanto, todas as suas decisões são feitas eletronicamente, então, como as pessoas podem ter certeza de que estão dirigindo com segurança?

Felizmente, há um comum, Método popular e bem estudado para garantir que novas tecnologias sejam seguras e eficazes para uso público:O sistema de teste para novos medicamentos. A abordagem básica envolve garantir que esses sistemas façam o que pretendem, sem quaisquer efeitos colaterais negativos graves - mesmo que os pesquisadores não entendam totalmente como eles funcionam.

Efeitos abrangentes

Espera-se que os carros autônomos melhorem a segurança no trânsito, liberando o tempo e a atenção dos motoristas e transformando cidades e até sociedades.

As regulamentações criadas para carros autônomos terão efeitos massivos que afetarão a economia e a sociedade. As regras provavelmente virão de alguma combinação dos dois reguladores automotivos atuais, a Administração Nacional de Segurança do Tráfego Rodoviário federal e os departamentos estaduais de transporte.

As regras federais se concentram principalmente nos padrões de segurança para estruturas, componentes mecânicos e elétricos dos veículos, como airbags e cintos de segurança. Os estados podem aplicar suas próprias regras de segurança - por exemplo, regulamentar as emissões e lidar com licenciamento de motorista e registro de veículos, que muitas vezes também inclui a exigência de cobertura de seguro.

Regulamentos atuais

As regras estaduais e federais atuais tratam motoristas e carros como entidades separadas. Mas carros autônomos, por definição, combine os dois. Sem consistência entre esses regulamentos, confusão reinará.

O governo Obama apresentou 116 páginas de regulamentos com muitos detalhes, mas pouca compreensão de como funcionam os carros autônomos. Por exemplo, eles pediram que cada carro tivesse etiquetas permanentes legíveis por humanos listando suas capacidades específicas de direção autônoma, incluindo limites de velocidade, rodovias e condições climáticas específicas, tudo isso seria extremamente confuso para os usuários. Os regulamentos também exigiam que as decisões éticas fossem feitas "conscientemente e intencionalmente" - o que é questionável, se não impossível, para uma máquina.

A administração Trump reduziu as regras para 26 páginas, mas ainda não abordou a importante questão de testar carros autônomos.

Examinando algoritmos

O teste de algoritmos é muito parecido com o teste de medicamentos. Em ambos os casos, os pesquisadores nem sempre podem dizer exatamente por que algo funciona (especialmente no caso de algoritmos de aprendizado de máquina), mas é possível avaliar o resultado:o doente melhora depois de tomar um medicamento?

A Food and Drug Administration exige que os medicamentos sejam testados e não quanto aos seus mecanismos de tratamento, mas pelos resultados. Os dois critérios principais são eficácia - quão bem o medicamento trata a condição a que se destina - e segurança - quão graves são os efeitos colaterais ou outros problemas. Com este método, é possível provar que um medicamento é seguro e eficaz sem saber como funciona.

De forma similar, regulamentos federais podem - e devem - exigir o teste de algoritmos de carros autônomos. A data, governos testaram carros como máquinas, garantindo a direção, freios e outras funções funcionam corretamente. Claro, também há testes do governo para motoristas humanos.

Uma máquina que faz as duas coisas deve passar pelos dois tipos de testes - principalmente para veículos que não permitem a entrada de motoristas humanos.

Avaliação de julgamento

Na minha opinião, antes de permitir qualquer carro autônomo específico na estrada, NHTSA deve exigir resultados de teste do carro e seus algoritmos de condução para demonstrar que são seguros e confiáveis. O padrão mais próximo no momento é a exigência da Califórnia de que todos os fabricantes de carros autônomos apresentem relatórios anuais de quantas vezes um motorista humano teve que assumir o controle de seus veículos quando os algoritmos não funcionaram adequadamente.

Esse é um bom primeiro passo, mas não diz aos reguladores ou ao público nada sobre o que os veículos estavam fazendo ou o que estava acontecendo ao seu redor quando os humanos assumiram o controle. Os testes devem examinar o que os algoritmos direcionam o carro a fazer em rodovias com caminhões, e em bairros com animais, crianças, pedestres e ciclistas. O teste também deve observar o que os algoritmos fazem quando o desempenho do veículo e a entrada dos sensores são comprometidos pela chuva, neve ou outras condições meteorológicas. Os carros devem passar por cenários com zonas de construção temporárias, cruzamentos de quatro vias, veículos na direção errada e policiais dando direções que contradizem semáforos e outras situações.

Os testes de direção humana incluem algumas avaliações do julgamento e tomada de decisão de um motorista, mas os testes para carros autônomos devem ser mais rigorosos porque não há como confiar em conceitos centrados no ser humano como o instinto, reflexo ou autopreservação. Qualquer ação que uma máquina realiza é uma escolha, e o público deve ser claro sobre a probabilidade de essas escolhas serem seguras.

Comparando com humanos

Os algoritmos dos carros autônomos calculam constantemente as probabilidades. Qual a probabilidade de uma forma específica ser uma pessoa? Qual a probabilidade de os dados do sensor significarem que a pessoa está caminhando em direção à estrada? Qual a probabilidade de a pessoa sair para a rua? Qual a probabilidade de o carro parar antes de bater nela? Na verdade, isso é semelhante ao funcionamento do cérebro humano.

Isso representa uma oportunidade direta para testar carros autônomos e quaisquer atualizações de software que um fabricante possa distribuir para veículos já na estrada:eles poderiam apresentar motoristas de teste humano e algoritmos de direção autônoma com os mesmos cenários e monitorar seu desempenho ao longo de muitos testes. Qualquer carro que dirige sozinho que faz bem como, ou melhor do que, pessoas, pode ser certificado como seguro para a estrada. É muito parecido com o método usado em testes de drogas, em que o desempenho de um novo medicamento é avaliado em relação às terapias e métodos existentes conhecidos por serem ineficazes, como a típica pílula de açúcar com placebo.

As empresas devem ser livres para testar quaisquer inovações que desejem em suas trilhas fechadas, e até mesmo em vias públicas com motoristas de segurança humana prontos para assumir o volante. Mas antes que os carros autônomos se tornem produtos regulares disponíveis para compra, ao público deve ser mostrada uma prova clara de sua segurança, confiabilidade e eficácia.

Este artigo foi publicado originalmente em The Conversation. Leia o artigo original.