Ibrahim Diallo teria sido despedido por uma máquina. Notícias recentes relataram a crescente frustração que ele sentiu quando seu passe de segurança parou de funcionar, o login do sistema do seu computador foi desativado, e finalmente ele foi expulso do prédio pelo pessoal de segurança. Seus gerentes não foram capazes de oferecer uma explicação, e impotente para dominar o sistema.

Alguns podem pensar que isso foi uma amostra do que estava por vir, já que a inteligência artificial ganha mais poder sobre nossas vidas. Pessoalmente, Eu tirei a conclusão oposta. Diallo foi demitido porque um gerente anterior não havia renovado seu contrato no novo sistema de computador e vários sistemas automatizados então entraram em ação. Os problemas não foram causados ​​por IA, mas por sua ausência.

Os sistemas não exibiam inteligência baseada em conhecimento, o que significa que eles não tinham um modelo projetado para encapsular o conhecimento (como experiência em recursos humanos) na forma de regras, texto e links lógicos. Igualmente, os sistemas não mostraram inteligência computacional - a capacidade de aprender com conjuntos de dados - como reconhecer os fatores que podem levar à demissão. Na verdade, parece que Diallo foi demitido como resultado de um sistema antiquado e mal projetado, acionado por um erro humano. A IA certamente não é a culpada - e pode ser a solução.

A conclusão que eu tiraria dessa experiência é que algumas funções de recursos humanos estão prontas para serem automatizadas por IA, especialmente como, nesse caso, a automação estúpida tem se mostrado tão inflexível e ineficaz. A maioria das grandes organizações terá um manual de pessoal que pode ser codificado como um sistema automatizado, sistema especialista com regras e modelos explícitos. Muitas empresas criaram esses sistemas em uma variedade de domínios que envolvem conhecimento especializado, não apenas em recursos humanos.

Mas um sistema de IA mais prático poderia usar uma combinação de técnicas para torná-lo mais inteligente. A forma como as regras devem ser aplicadas às nuances de situações reais pode ser aprendida com os registros de RH da empresa, da mesma forma, os sistemas jurídicos de common law, como os da Inglaterra, usam precedentes estabelecidos por casos anteriores. O sistema poderia revisar seu raciocínio à medida que mais evidências se tornassem disponíveis em qualquer caso, usando o que é conhecido como "atualização bayesiana". Um conceito de IA chamado "lógica difusa" pode interpretar situações que não são preto e branco, aplicando evidências e conclusões em vários graus para evitar o tipo de tomada de decisão rígida que levou à demissão de Diallo.

A necessidade de várias abordagens às vezes é esquecida na atual onda de entusiasmo excessivo por algoritmos de "aprendizado profundo", redes neurais artificiais complexas inspiradas no cérebro humano que podem reconhecer padrões em grandes conjuntos de dados. Como isso é tudo que eles podem fazer, alguns especialistas agora defendem uma abordagem mais equilibrada. Algoritmos de aprendizado profundo são ótimos no reconhecimento de padrões, mas certamente não mostram um entendimento profundo.

Usar IA dessa forma provavelmente reduziria os erros e, quando eles ocorreram, o sistema pode desenvolver e compartilhar as lições com a IA correspondente em outras empresas, de modo que erros semelhantes sejam evitados no futuro. Isso é algo que não pode ser dito para soluções humanas. Um bom gerente humano aprenderá com seus erros, mas o próximo gerente provavelmente repetirá os mesmos erros.

Então, quais são as desvantagens? Um dos aspectos mais marcantes da experiência de Diallo é a falta de humanidade demonstrada. Uma decisão foi tomada, embora seja um erro, mas não comunicado ou explicado. Uma IA pode cometer menos erros, mas seria melhor comunicar suas decisões? Acho que a resposta provavelmente não é.

Perder o emprego e o sustento é um momento estressante e emocional para qualquer pessoa, exceto para os funcionários mais frívolos. É um momento em que se exige sensibilidade e compreensão. Então, Eu certamente consideraria o contato humano essencial, não importa o quão convincente seja o chatbot AI.

Um funcionário demitido pode sentir que foi injustiçado e pode desejar contestar a decisão por meio de um tribunal. Essa situação levanta a questão de quem foi o responsável pela decisão original e quem a defenderá judicialmente. Agora é certamente o momento de abordar as questões legais e éticas colocadas pelo surgimento da IA, enquanto ele ainda está em sua infância.

Este artigo foi publicado originalmente em The Conversation. Leia o artigo original.