Muita discussão e pensamento ético sobre carros autônomos se concentraram em dilemas trágicos, como hipóteses em que um carro tem que decidir se atropela um grupo de alunos ou se joga de um penhasco, matando seus próprios ocupantes. Mas esse tipo de situação é um caso extremo.

Como o acidente mais recente - em que um carro que dirigia sozinho matou um pedestre em Tempe, Arizona - demonstra, o mundano, situações cotidianas em cada faixa de pedestres, curva e interseção apresentam dilemas éticos muito mais difíceis e mais amplos.

Ética dos extremos

Como um filósofo que trabalhava com engenheiros no Centro de Pesquisa Automotiva de Stanford, Fiquei inicialmente surpreso ao ver que passamos nossas reuniões de laboratório discutindo o que achei ser uma pergunta fácil:como um carro que dirige sozinho deve se aproximar de uma faixa de pedestres?

Minha suposição era que pensaríamos em como um carro deveria decidir entre a vida de seus passageiros e a vida de seus pedestres. Eu sabia como pensar sobre esses dilemas porque esses cenários de colisão se assemelham a um famoso quebra-cabeças filosófico chamado de "problema do bonde". Imagine um bonde desgovernado sendo lançado pelos trilhos e acertando um grupo de cinco ou uma única pessoa - você mataria um para salvar cinco?

Contudo, muitos filósofos hoje em dia duvidam que investigar tais questões seja uma via de pesquisa frutífera. Barbara Fried, um colega de Stanford, por exemplo, argumentou que dilemas trágicos fazem as pessoas acreditarem que dilemas éticos surgem principalmente em circunstâncias extremas e terríveis.

Na verdade, dilemas éticos são onipresentes. Todo dia, situações mundanas são surpreendentemente confusas e complexas, frequentemente de maneiras sutis. Por exemplo:sua cidade deve gastar dinheiro em um programa de prevenção do diabetes ou em mais assistentes sociais? Se o seu Departamento de Saúde Pública local contratar outro inspetor para os padrões de higiene do restaurante, ou continuar um programa de fornecimento gratuito de agulhas e suprimentos para injeção?

Essas perguntas são extremamente difíceis de responder devido às incertezas sobre as consequências - como quem será afetado e em que grau. As soluções que os filósofos têm proposto para situações extremas e desesperadoras são de pouca ajuda aqui.

O problema é semelhante aos carros autônomos. Pensar em situações extremas e cenários de acidente não pode ajudar a responder às perguntas que surgem em situações mundanas.

Um desafio nas faixas de pedestres

Alguém poderia perguntar, o que pode ser tão difícil em situações mundanas de tráfego, como se aproximar de uma faixa de pedestres, passando por um cruzamento, ou fazer uma curva à esquerda. Mesmo que a visibilidade na faixa de pedestres seja limitada e às vezes seja difícil dizer se um pedestre próximo realmente quer atravessar a rua, os motoristas lidam com isso todos os dias.

Mas para carros autônomos, tais situações mundanas representam um desafio de duas maneiras.

Primeiro, existe o fato de que o que é fácil para os humanos muitas vezes é difícil para as máquinas. Seja reconhecendo rostos ou andando de bicicleta, somos bons em percepção e tarefas mecânicas porque a evolução construiu essas habilidades para nós. Este, Contudo, torna essas habilidades difíceis de ensinar ou projetar. Isso é conhecido como "Paradoxo de Moravec".

Segundo, em um futuro onde todos os carros serão autônomos, pequenas mudanças no comportamento de dirigir fariam uma grande diferença no conjunto. Decisões tomadas por engenheiros hoje, em outras palavras, irá determinar não como um carro dirige, mas como todos os carros dirigem. Algoritmos tornam-se políticas.

Os engenheiros ensinam os computadores a reconhecer rostos e objetos usando métodos de aprendizado de máquina. Eles também podem usar o aprendizado de máquina para ajudar os carros autônomos a imitar como os humanos dirigem. Mas isso não é uma solução:não resolve o problema de que decisões abrangentes sobre segurança e mobilidade são tomadas por engenheiros.

Além disso, os carros autônomos não devem dirigir como as pessoas. Os humanos não são realmente bons motoristas. E eles dirigem de maneiras eticamente problemáticas, decidir se deve ceder nas faixas de pedestres, com base na idade dos pedestres, raça e renda. Por exemplo, pesquisadores em Portland descobriram que pedestres negros são ultrapassados ​​por duas vezes mais carros e tiveram que esperar um terço a mais do que pedestres brancos antes de poderem atravessar.

Carros autônomos devem dirigir com mais segurança, e de forma mais justa do que as pessoas.

Ética mundana

Os problemas éticos se aprofundam quando você atende aos conflitos de interesse que surgem em situações mundanas, como faixas de pedestres, voltas e cruzamentos.

Por exemplo, o projeto de carros autônomos precisa equilibrar a segurança de outras pessoas - pedestres ou ciclistas - com os interesses dos passageiros dos carros. Assim que um carro anda mais rápido do que o ritmo de caminhada, é incapaz de evitar que colida com uma criança que pode correr para a estrada no último segundo. Mas o ritmo de caminhada é, claro, muito lento. Todo mundo precisa chegar aos lugares. Então, como os engenheiros devem encontrar o equilíbrio entre segurança e mobilidade? E que velocidade é segura o suficiente?

Existem outras questões éticas que também surgem. Os engenheiros precisam fazer concessões entre mobilidade e impactos ambientais. Quando eles são aplicados em todos os carros do país, pequenas mudanças na aceleração controlada por computador, curvas e frenagem podem ter efeitos enormes no uso de energia e nas emissões de poluição. Como os engenheiros devem compensar a eficiência das viagens com o impacto ambiental?

Qual deve ser o futuro do tráfego?

Situações mundanas apresentam novos problemas de engenharia e éticos, mas também levam as pessoas a questionar os pressupostos básicos do sistema de tráfego.

Para mim, Comecei a questionar se realmente precisamos de lugares chamados "faixas de pedestres". Afinal, carros autônomos podem potencialmente torná-lo seguro para atravessar uma estrada em qualquer lugar.

E não são apenas as faixas de pedestres que se tornam desnecessárias. Os semáforos nos cruzamentos também podem ser uma coisa do passado. Os humanos precisam de semáforos para garantir que todos possam cruzar o cruzamento sem acidentes e caos. Mas os carros autônomos poderiam se coordenar sem problemas.

A grande questão aqui é:Considerando que os carros que dirigem sozinhos são melhores do que os motoristas humanos, por que os carros deveriam estar sujeitos a regras que foram projetadas para falibilidade e erros humanos? E para estender este experimento de pensamento, considere também a questão mais geral:se nós, como sociedade, poderia projetar nosso sistema de tráfego do zero, como gostaríamos que fosse?

Porque essas questões difíceis dizem respeito a todos em uma cidade ou em uma sociedade, eles exigem que uma cidade ou sociedade chegue a um acordo sobre as respostas. Isso significa equilibrar interesses concorrentes de uma forma que funcione para todos - quer as pessoas pensem apenas nas faixas de pedestres ou no sistema de tráfego como um todo.

Com carros autônomos, as sociedades podem redesenhar seus sistemas de tráfego. Da faixa de pedestres ao design geral do tráfego - são as situações mundanas que levantam questões realmente difíceis. Situações extremas são uma distração.

O problema do bonde não responde a essas perguntas difíceis.

Este artigo foi publicado originalmente em The Conversation. Leia o artigo original.