A proteção dos cidadãos em face de desastres geralmente requer a tomada de decisões de longo alcance. Qualquer ajuda é bem-vinda - inclusive da AI.

Os incêndios florestais estão cada vez mais fora de controle, conforme mostrado por eventos recentes na Califórnia e na Austrália. No entanto, os bombeiros continuam a lutar incansavelmente contra as chamas - e hoje em dia eles têm mais à disposição do que apenas água e queimadas controladas. A digitalização há muito faz parte de seu arsenal na forma de sistemas de geoinformação, webcams e drones. Estas se tornaram ferramentas essenciais para prever e controlar incêndios florestais, ainda assim, as enormes quantidades de dados que eles produzem levam rapidamente a experiência humana ao seu limite. "IA é sempre útil quando você está lidando com uma grande quantidade de dados, "diz Benjamin Scharte, que chefia a Equipe de Pesquisa de Risco e Resiliência do Centro de Estudos de Segurança da ETH (CSS). Recentemente, ele e seu colega Kevin Kohler se uniram para analisar o uso de IA na proteção civil.

"Ser capaz de usar algoritmos para fazer previsões é muito empolgante, "diz Kohler. Em qual direção a frente de fogo está indo? Onde devemos definir as próximas queimaduras controladas? Analisando todos os dados disponíveis, As ferramentas de modelagem baseadas em IA podem ajudar a responder a essas perguntas. Esses dados podem incluir previsões do tempo, duração da seca, direção do vento - e até mesmo a quantidade potencial de combustível disponível para o fogo. As previsões resultantes podem tornar a resposta a desastres mais eficiente. Na melhor das hipóteses, podem até atuar como forma de prevenção.

A proteção civil é particularmente sensível ao uso de IA porque, com muita frequência, é uma questão de vida ou morte - e cada minuto conta. Muitas vezes, espera-se que os especialistas tomem decisões precipitadas com consequências de longo alcance, por isso, eles são gratos por qualquer assistência que possa sustentar essas decisões com dados mais robustos. Em última análise, Contudo, a qualidade de uma decisão sempre depende da qualidade dos dados. "Por mais inteligente que seja meu algoritmo, será de pouca utilidade em uma emergência se eu não puder fornecer os dados corretos para o desastre, "Kohler adverte.

Mesmo os dados da mais alta qualidade nunca podem substituir totalmente a experiência adquirida por especialistas ao longo de muitos anos, portanto, a questão de saber se um ser humano ou uma máquina deve tomar a decisão final é altamente complexa. Tomado como um todo, o algoritmo pode produzir uma perda econômica menor ou menos vítimas do que sua contraparte humana, mas também pode tomar decisões em casos individuais que consideramos inaceitáveis. "É claro para mim que nós, como sociedade, continuará a lutar com a ideia de deixar as decisões para máquinas autônomas, "Scharte diz.

Uma questão de confiança

Então, em que ponto estaríamos dispostos a deixar uma máquina tomar suas próprias decisões? Scharte e Kohler concordam que isso depende do contexto:"A proteção civil às vezes é uma questão de vida ou morte. Os humanos deveriam participar da tomada dessas decisões - não é o lugar para as máquinas tomarem decisões totalmente autônomas."

Um fator crucial é quanta fé as pessoas têm no algoritmo. A confiança abre o caminho para a aceitação, e ambos são aprimorados quando podemos seguir claramente o que um algoritmo está fazendo. Por exemplo, quando os médicos entendem a lógica de decisão de um algoritmo, é mais provável que confiem nele e o incorporem em seu trabalho. Numerosos estudos confirmaram isso - mas Scharte parece cauteloso:"Transparência e explicabilidade nem sempre aumentam a segurança." Existem até casos em que a transparência pode ser uma desvantagem, incluindo riscos provocados pelo homem, como crimes cibernéticos e terrorismo. "Se você revelar exatamente como um algoritmo detecta padrões de comportamento suspeitos, então os atores adversários têm melhores chances de enganá-lo deliberadamente, "avisa Scharte.