O curta Slaughterbots retrata um futuro próximo em que enxames de micro-drones assassinam milhares de pessoas por suas crenças políticas. Lançado em novembro de 2017 por acadêmicos e ativistas alertando sobre os perigos da inteligência artificial avançada (IA), rapidamente se tornou viral, atraindo mais de 3 milhões de visualizações até o momento. Ajudou a desencadear um debate público sobre o futuro das armas autônomas e pressionou diplomatas reunidos na Convenção das Nações Unidas sobre Armas Convencionais.

Mas esse tipo de narrativa especulativa de ficção científica não é útil apenas para atrair a atenção. As pessoas que projetam e constroem tecnologia avançada podem usar histórias para considerar as consequências de seu trabalho e garantir que seja usado para o bem. E achamos que esse tipo de "prototipagem de ficção científica" ou "ficção de design" pode ajudar a prevenir preconceitos humanos de abrir caminho para novas tecnologias, aprofundando ainda mais os preconceitos e injustiças da sociedade.

Um viés pode levar à preferência arbitrária de algumas categorias (de resultados, pessoas, ou ideias) sobre outros. Por exemplo, algumas pessoas podem ser preconceituosas contra a contratação de mulheres para cargos executivos, estejam eles conscientes disso ou não.

A tecnologia construída em torno de dados que registram esse viés pode acabar replicando o problema. Por exemplo, O software de recrutamento projetado para selecionar os melhores currículos para um determinado trabalho pode ser programado para procurar características que reflitam um preconceito inconsciente em relação aos homens. Nesse caso, o algoritmo acabará favorecendo os currículos masculinos. E isso não é teórico - realmente aconteceu com a Amazon.

Projetar algoritmos sem considerar possíveis implicações negativas foi comparado a médicos "escrevendo sobre os benefícios de um determinado tratamento e ignorando completamente os efeitos colaterais, não importa o quão sério eles sejam. "

Algumas empresas de tecnologia e pesquisadores estão tentando resolver o problema. Por exemplo, O Google elaborou um conjunto de princípios éticos para orientar seu desenvolvimento de IA. E os acadêmicos do Reino Unido lançaram uma iniciativa chamada Not-Equal, que visa encorajar maior equidade e justiça no design e uso da tecnologia.

O problema é que, publicamente, as empresas tendem a fornecer apenas uma visão positiva das consequências potenciais das tecnologias do futuro próximo. Por exemplo, carros sem motorista são frequentemente retratados como resolvendo todos os nossos problemas de transporte, desde o custo à segurança, ignorando o aumento dos perigos dos ataques cibernéticos ou o fato de que eles podem encorajar as pessoas a caminhar ou pedalar menos.

A dificuldade em entender como as tecnologias digitais funcionam, especialmente aqueles que são fortemente orientados por algoritmos obscuros, também torna mais difícil para as pessoas uma visão complexa e abrangente dos problemas. Essa situação produz uma tensão entre uma narrativa positiva tranquilizadora e a vaga suspeita de que preconceitos estão embutidos em algum grau nas tecnologias que nos cercam. É aqui que pensamos que a narração de histórias por meio da ficção de design pode entrar.

As histórias são um método natural de pensar sobre possibilidades e situações complexas, e os temos ouvido durante toda a nossa vida. A ficção científica pode nos ajudar a especular sobre o impacto das tecnologias do futuro próximo na sociedade, como Slaughterbots faz. Isso pode até incluir questões de justiça social, como certos grupos, como refugiados e migrantes, podem ser excluídos das inovações digitais.

Revelando o (possível) futuro

Histórias de ficção de design fornecem uma maneira inovadora para designers, engenheiros e futuristas (entre outros) para pensar sobre o impacto da tecnologia de uma perspectiva humana e vincular isso a possíveis necessidades futuras. Com uma mistura de lógica e imaginação, a ficção de design pode revelar aspectos de como a tecnologia pode ser adotada e usada, iniciar conversas sobre suas futuras ramificações.

Por exemplo, o conto "Crime-sourcing" explora o que poderia acontecer se a IA usasse informações de crowdsourcing e um banco de dados criminal para prever quem poderia cometer um assassinato. Os pesquisadores descobriram que, como o banco de dados estava cheio de pessoas em grupos étnicos minoritários que, por razões sociais, eram estatisticamente mais propensos a reincidir, o modelo de "fonte do crime" tinha mais probabilidade de suspeitar erroneamente das minorias do que dos brancos.

Você não precisa ser um escritor talentoso ou fazer um filme inteligente para produzir ficção de design. Atividades de brainstorming envolvendo cartões e storyboards têm sido usadas para desenvolver ficção de design e ajudar a desenvolver o processo de contar histórias. Tornar as oficinas que usavam esses tipos de ferramentas mais comuns capacitaria mais engenheiros, empresários e formuladores de políticas a usar este método de avaliação. E tornar o trabalho resultante disponível publicamente ajudaria a expor os vieses potenciais das tecnologias antes que afetem a sociedade.

Incentivar designers a criar e compartilhar mais histórias desta forma garantiria que a narrativa que sustenta a nova tecnologia não apresentasse apenas uma imagem positiva, nem extremamente negativa ou distópica. Em vez de, as pessoas serão capazes de apreciar ambos os aspectos do que está acontecendo ao nosso redor.

Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.