Um acidente de uma das tecnologias da Uber, Os carros autônomos da Inc. no início deste ano resultaram na primeira morte de pedestres associada à tecnologia de direção autônoma. O incidente destacou os desafios que as empresas de tecnologia estão enfrentando no desenvolvimento de software que pode detectar e responder adequadamente aos perigos na estrada e arredores imediatos. O veículo poderia ter parado completamente em três segundos, mas não utilizou a frenagem de emergência até 1,3 segundos antes do impacto. A frenagem de emergência deveria ter sido a ação padrão tomada imediatamente após a detecção de perigo na estrada?
Um novo estudo, "Como os carros autônomos devem dirigir? Uma preferência por inadimplências em julgamentos morais sob risco e incerteza, " publicado em Análise de risco:um jornal internacional abordou esse desafio perguntando ao público o que eles acreditavam ser o comportamento mais moral e eticamente correto para um veículo autônomo (AV) diante de uma colisão que se aproximava. Mesmo um AV funcionando perfeitamente não será capaz de evitar todas as colisões e, em algumas situações, cada opção resultará em algum tipo de travamento.
A equipe de pesquisa, composta por Björn Meder, Nadine Fleischhut, e Nina-Carolin Krumnau do Instituto Max Planck para o Desenvolvimento Humano e Michael R. Waldmann da Universidade de Göttingen, abordou esta questão pedindo aos participantes para escolher entre permanecer em sua pista (e frear), ou desviando, onde cada ação pode levar a uma colisão com outro usuário da estrada em vários graus de incerteza.
A principal descoberta deste estudo é que as pessoas geralmente preferem que o carro permaneça em sua faixa e faça uma parada de emergência. Isso apóia a ideia de que as pessoas consideram a opção de estadia um padrão razoável, uma vez que está em conformidade com as regras gerais de condução e fornece um melhor grau de controlabilidade, mesmo que não minimize a perda esperada. Empregar essa ação como uma regra padrão simples requer menos processamento de informações e geralmente leva a melhores resultados. Os pesquisadores também descobriram que, mesmo se ficar na pista resultasse em um acidente, as pessoas eram menos propensas a alterar sua avaliação moral da ação realizada em retrospecto, ao passo que um resultado ruim influenciou fortemente uma análise retrospectiva de uma decisão de desviar da pista.
Em sua primeira experiência, os participantes foram apresentados a um cenário no qual um AV teve que realizar uma de duas manobras:permanecer na pista ou desviar. Ficar na faixa coloca em perigo o pedestre na rua, enquanto desviar coloca em risco um transeunte na calçada. A probabilidade de colisão com o pedestre e o transeunte foi variada, criando diferentes cenários com riscos especificados ou desconhecidos. Os dados foram coletados de 872 indivíduos online por meio da plataforma Amazon Mechanical Turk (AMT). Os participantes foram apresentados a uma descrição escrita de um cenário de tráfego em que um carro está passando por uma estrada quando de repente um pedestre aparece em seu caminho. O carro pode permanecer na pista e realizar uma parada de emergência, nesse caso, pode colidir com o pedestre, ou o carro pode desviar para a direita e realizar uma parada de emergência, nesse caso, pode colidir com um transeunte na calçada.
A probabilidade de colisão com o pedestre na rua era de 20 por cento, 50 por cento ou 80 por cento. Na 'condição de risco', a probabilidade de colisão com o espectador era de 50 por cento. Na condição de 'incerteza', a probabilidade era desconhecida porque os sistemas do carro não conseguiram fazer a estimativa. Os resultados mostraram uma preferência geral por permanecer na pista, com mais de 85 por cento dos indivíduos optando por permanecer na pista. Quando a probabilidade de colisão com o espectador era desconhecida, cerca de 70 por cento dos indivíduos ainda preferiram permanecer na pista. Quando a probabilidade de colisão com o pedestre era de 20% e a probabilidade de colisão com o transeunte era de 50%, ninguém optou por desviar. Mesmo quando a probabilidade de ambas as colisões era de 50 por cento, ficar era considerado mais aceitável do que desviar.
O segundo experimento examinou como as pessoas avaliam moralmente o comportamento AV em retrospecto quando ocorre uma colisão. Do ponto de vista da política, Os antivírus devem agir de maneiras que a sociedade considere aceitáveis, mesmo se ocorrerem colisões. Os pesquisadores mais uma vez recrutaram 766 indivíduos por meio da plataforma AMT. Os participantes foram questionados sobre como um AV deveria funcionar em uma situação específica e para avaliar a aceitabilidade moral de ficar e desviar. Os resultados mostraram que se o carro ficasse na pista, o resultado da situação (colisão ou não colisão com outro usuário da estrada) não afetou os julgamentos dos participantes sobre como um AV deve se comportar. Se o carro desviou, Contudo, o resultado foi altamente persuasivo em retrospecto. Se nenhuma colisão ocorreu, cerca de 40 por cento preferiram desviar, mas menos de 20 por cento manteve essa preferência quando uma colisão ocorreu. Assim, mesmo quando ocorreu uma colisão, ficar na faixa era considerado mais aceitável.
"Nossa pesquisa destaca a importância de obter um melhor entendimento de como as pessoas pensam sobre o comportamento dos veículos autônomos sob diferentes graus de incerteza, "afirma Meder." As descobertas ajudarão a informar a formulação de políticas e a discussão pública das implicações éticas dos avanços tecnológicos que transformarão a sociedade de várias maneiras. "
Geral, há uma preferência geral por permanecer na faixa e é uma opção padrão moralmente aceitável em situações críticas de tráfego, mesmo que não minimize a perda esperada. Esse padrão simples não requer que os sistemas do antivírus coletem informações sobre ações alternativas ou probabilidades. Apesar dessas descobertas, os formuladores de políticas enfrentam o desafio de desenvolver políticas que sejam moralmente sólidas, mas que também atendam ao desejo do público em geral de autopreservação. Estudos anteriores (Bonnefon, Shariff, &Rahwan, 2016, Ciência ) mostraram que os sujeitos mostrarão uma preferência por AVs que sacrificariam seus próprios passageiros para minimizar o número total de vítimas, mas eles queriam que seus próprios AVs valorizassem a segurança dos passageiros. Então, enquanto este estudo demonstra uma aceitabilidade geral para uma ação padrão para minimizar perdas potenciais, Os proprietários de AV preferem ações destinadas a salvar os passageiros do veículo.
