p Crédito:Liu zishan / Shutterstock.com
p Inteligência artificial, ou AI, está passando por um período de expansão massiva. Não é porque os computadores alcançaram a consciência humana, mas devido aos avanços no aprendizado de máquina, onde os computadores aprendem com grandes bancos de dados como classificar novos dados. Na vanguarda estão as redes neurais que aprenderam a reconhecer rostos humanos ou jogar Go. p O reconhecimento de padrões em dados também pode ser usado como uma ferramenta de previsão. AI está sendo aplicado a ecocardiogramas para prever doenças cardíacas, aos dados do local de trabalho para prever se os funcionários irão embora, e feeds de mídia social para detectar sinais de depressão incipiente ou tendências suicidas. Qualquer caminhada na qual haja dados abundantes - e isso significa praticamente todos os aspectos da vida - está sendo analisada pelo governo ou empresas para a aplicação de IA.
p Uma atividade que atualmente parece distante da IA é o humanitarismo; a organização de ajuda local a outros seres humanos em crise devido à guerra, fome ou outro desastre. Mas as organizações humanitárias também vão adotar a IA. Porque? Porque parece capaz de responder a perguntas no cerne do humanitarismo - perguntas como quem devemos salvar, e como ser eficaz em grande escala. A IA também ressoa fortemente com os modos existentes de pensamento e ação humanitária, em particular os princípios de neutralidade e universalidade. O humanitarismo (acredita-se) não toma partido, é imparcial em sua aplicação e oferece ajuda independentemente das particularidades de uma situação local.
p
p A maneira como o aprendizado de máquina consome big data e produz previsões certamente sugere que ele pode compreender a enormidade do desafio humanitário e fornecer uma resposta baseada em dados. Mas a natureza das operações de aprendizado de máquina significa que elas irão realmente aprofundar alguns dos problemas do humanitarismo, e introduzir novos próprios.
p
As matemáticas
p Explorar essas questões requer um breve desvio para as operações concretas do aprendizado de máquina, se quisermos contornar a desinformação e mistificação que atribui ao termo AI. Porque não existe inteligência na inteligência artificial. Nem realmente aprende, embora seu nome técnico seja aprendizado de máquina.
p AI é simplesmente minimização matemática. Lembre-se de como na escola você ajustaria uma linha reta a um conjunto de pontos, escolhendo a linha que minimiza as diferenças gerais? O aprendizado de máquina faz o mesmo para padrões complexos, ajustar recursos de entrada a resultados conhecidos, minimizando uma função de custo. O resultado se torna um modelo que pode ser aplicado a novos dados para prever o resultado.
p Todos e quaisquer dados podem ser enviados por meio de algoritmos de aprendizado de máquina. Qualquer coisa que possa ser reduzida a números e marcada com um resultado pode ser usada para criar um modelo. As equações não sabem ou não se importam se os números representam as vendas da Amazon ou as vítimas do terremoto.
p Essa banalidade do aprendizado de máquina também é seu poder. É uma compressão numérica generalizada de questões importantes - não há compreensões dentro da computação; os padrões indicam correlação, não causação. A única inteligência vem no mesmo sentido que a inteligência militar; isso é, alvejando. As operações são aquelas de minimizar a função de custo para otimizar o resultado.
p E os modelos produzidos pelo aprendizado de máquina podem ser difíceis de reverter para o raciocínio humano. Por que escolheu essa pessoa como um risco de liberdade condicional ruim? O que esse padrão representa? Não podemos necessariamente dizer. Portanto, há uma opacidade no centro dos métodos. Não aumenta a agência humana, mas a distorce.
p
Lógica dos poderosos
p O aprendizado de máquina não se limita a tomar decisões sem apresentar razões, modifica nossa própria ideia de razão. Isso é, muda o que é conhecível e o que é entendido como real.
p Por exemplo, em algumas jurisdições nos EUA, se um algoritmo produzir uma previsão de que uma pessoa presa provavelmente reincidirá, essa pessoa terá sua fiança negada. Encontrar padrões em dados torna-se uma autoridade calculista que desencadeia consequências substanciais.
p Aprendizado de máquina, então, não é apenas um método, mas uma filosofia maquínica onde o cálculo abstrato é entendido para acessar uma verdade que é vista como superior à criação de sentido da percepção comum. E como tal, os cálculos da ciência de dados podem acabar contando mais do que testemunhos.
p Claro, o campo humanitário não é ingênuo quanto aos perigos da datafication. É bem sabido que o aprendizado de máquina pode propagar discriminação porque aprende com dados sociais, que por si só são tendenciosos. E, portanto, as instituições humanitárias serão naturalmente mais cuidadosas do que a maioria para garantir todas as salvaguardas possíveis contra dados de treinamento tendenciosos.
p Mas o problema vai além do preconceito explícito. O efeito mais profundo do aprendizado de máquina é produzir as categorias por meio das quais pensaremos sobre nós mesmos e sobre os outros. O aprendizado de máquina também produz uma mudança para a preempção:excluir futuros com base na correlação, e não na causalidade. Isso constrói o risco da mesma forma que o Twitter determina os tópicos de tendência, alocar e reter recursos de uma forma que demarque algoritmicamente o que merece e o que não merece.
p Devemos talvez estar particularmente preocupados com essas tendências porque, apesar de suas melhores intenções, a prática do humanitarismo freqüentemente mostra tendências neocoloniais. Ao reivindicar neutralidade e universalidade, algoritmos afirmam a superioridade do conhecimento abstrato gerado em outro lugar. Incorporando a lógica dos poderosos para determinar o que acontece com as pessoas na periferia, IA humanitária torna-se um mecanismo neocolonial que atua no lugar do controle direto.
p Como as coisas estão, o aprendizado de máquina e a chamada IA não serão nenhum tipo de salvação para o humanitarismo. Em vez de, irá aprofundar a já profunda dinâmica neocolonial e neoliberal das instituições humanitárias por meio da distorção algorítmica.
p Mas nenhum aparelho é um sistema fechado; o impacto do aprendizado de máquina é contingente e pode ser alterado. Isso é tão importante para IA humanitária quanto para IA em geral - para, se uma técnica alternativa não for mobilizada por abordagens como os conselhos populares, a próxima geração de escândalos humanitários será impulsionada pela IA. p Este artigo foi publicado originalmente em The Conversation. Leia o artigo original.
