p Quando um fundo de capital de risco apoiado pela CIA se interessou pela tecnologia de varredura facial de Rana el Kaliouby para detectar emoções, a cientista da computação e seus colegas fizeram um exame de consciência - e então recusaram o dinheiro. p "Não estamos interessados ​​em aplicativos em que você esteja espionando pessoas, "disse el Kaliouby, o CEO e cofundador da startup Affectiva de Boston. A empresa treinou seus sistemas de inteligência artificial para reconhecer se os indivíduos estão felizes ou tristes, cansado ou com raiva, usando um repositório fotográfico de mais de 6 milhões de faces.

p Avanços recentes na visão computacional alimentada por IA aceleraram a corrida por carros autônomos e impulsionaram os recursos cada vez mais sofisticados de marcação de fotos encontrados no Facebook e Google. Mas, à medida que esses "olhos" intrometidos de IA encontram novos aplicativos nas filas de caixa da loja, câmeras do corpo da polícia e zonas de guerra, as empresas de tecnologia que os desenvolvem estão lutando para equilibrar as oportunidades de negócios com difíceis decisões morais que podem afastar os clientes ou seus próprios trabalhadores.

p El Kaliouby disse que não é difícil imaginar o uso de reconhecimento facial em tempo real para detectar desonestidade - ou, nas mãos de um regime autoritário, para monitorar a reação ao discurso político a fim de erradicar a dissidência. Mas a pequena empresa, que surgiu de um laboratório de pesquisa do MIT, estabeleceu limites para o que fará.

p A empresa evitou "qualquer segurança, aeroporto, até mesmo detecção de mentiras, "el Kaliouby disse. Em vez disso, A Affectiva fez parceria com montadoras tentando ajudar motoristas de aparência cansada a ficarem acordados, e com marcas de consumo que querem saber se as pessoas respondem a um produto com alegria ou nojo.

p Esse mal-estar reflete novos escrúpulos sobre as capacidades e possíveis abusos de quem tudo vê, sempre observando os sistemas de câmeras de IA - mesmo quando as autoridades estão cada vez mais ansiosas para usá-los.

p Imediatamente após o tiroteio mortal de quinta-feira contra um jornal em Annapolis, Maryland, a polícia disse que se voltou para o reconhecimento facial para identificar o suspeito que não cooperava. Eles fizeram isso acessando um banco de dados estadual que inclui fotos de detidos anteriores e, mais controversamente, todos que se registraram para obter uma carteira de motorista de Maryland.

p A informação inicial dada às autoridades policiais disse que a polícia recorreu ao reconhecimento facial porque o suspeito havia danificado suas impressões digitais em uma aparente tentativa de evitar a identificação. O relatório revelou-se incorreto e a polícia disse que usou o reconhecimento facial devido aos atrasos na obtenção da identificação por impressão digital.

p Em junho, O Aeroporto Internacional de Orlando anunciou planos para exigir exames de identificação facial dos passageiros em todos os voos internacionais de chegada e partida até o final deste ano. Vários outros aeroportos dos EUA já estão usando essas varreduras para alguns, mas nem todos, voos internacionais de partida.

p Empresas e municípios chineses já estão usando câmeras inteligentes para envergonhar os jaywalkers em tempo real e vigiar as minorias étnicas, sujeitando alguns à detenção e doutrinação política. Mais perto de casa, as câmeras e sensores suspensos na nova loja sem caixa da Amazon em Seattle visam tornar o furto obsoleto, rastreando todos os itens que os compradores pegam e devolvem.

p As preocupações com a tecnologia podem abalar até mesmo as maiores empresas de tecnologia. Google, por exemplo, disse recentemente que sairá de um contrato de defesa depois que os funcionários protestaram contra a aplicação militar da tecnologia de IA da empresa. O trabalho envolveu análise de computador de imagens de vídeo de drones do Iraque e outras zonas de conflito.

p Preocupações semelhantes sobre contratos governamentais geraram discórdia interna na Amazon e na Microsoft. Desde então, o Google publicou diretrizes de IA enfatizando usos que são "socialmente benéficos" e que evitam "preconceitos injustos".

p Amazonas, Contudo, até agora desviou a pressão crescente de funcionários e defensores da privacidade para interromper o Rekognition, uma poderosa ferramenta de reconhecimento facial que vende para departamentos de polícia e outras agências governamentais.

p Dizer não a algum trabalho, claro, geralmente significa que outra pessoa o fará. O projeto de filmagem do drone envolvendo o Google, apelidado de Projeto Maven, teve como objetivo acelerar o trabalho de busca de "padrões de vida, coisas que são suspeitas, indicações de ataques potenciais, "disse Robert Work, um ex-alto funcionário do Pentágono que lançou o projeto em 2017.

p Embora doa perder o Google porque eles são "muito, muito bom nisso, "Trabalho disse, outras empresas continuarão esses esforços.

p O interesse comercial e governamental pela visão computacional explodiu desde as descobertas no início desta década, usando uma "rede neural" semelhante ao cérebro para reconhecer objetos em imagens. Treinar computadores para identificar gatos em vídeos do YouTube foi um desafio inicial em 2012. Agora, O Google tem um aplicativo para smartphone que pode dizer qual raça.

p Uma grande reunião de pesquisa - a Conferência anual sobre Visão Computacional e Reconhecimento de Padrões, realizada em Salt Lake City em junho - transformou-se de uma sonolenta reunião acadêmica de "pessoas nerds" em uma exposição de negócios da corrida do ouro atraindo grandes empresas e agências governamentais, disse Michael Brown, cientista da computação na York University de Toronto e organizador de conferências.

p Brown disse que os pesquisadores receberam ofertas de empregos bem remunerados no local. Mas poucos dos milhares de artigos técnicos submetidos à reunião abordam as preocupações do público mais amplo sobre a privacidade, preconceitos ou outros dilemas éticos. "Provavelmente não estamos discutindo tanto quanto deveríamos, " ele disse.

p As startups estão traçando seus próprios caminhos. Brian Brackeen, o CEO da Kairos, empresa de software de reconhecimento facial com sede em Miami, estabeleceu uma política geral contra a venda de tecnologia para policiais ou para vigilância governamental, argumentando em um ensaio recente que "abre a porta para a má conduta grosseira dos moralmente corruptos".

p Neurala, uma startup sediada em Boston, por contraste, está desenvolvendo um software para a Motorola que ajudará câmeras corporais usadas pela polícia a encontrar uma pessoa na multidão com base em suas roupas e aparência. O CEO Max Versace disse que "IA é um espelho da sociedade, "portanto, a empresa escolhe apenas parceiros de princípios.

p “Não fazemos parte desse totalitário, Esquema orwelliano, " ele disse. p © 2018 Associated Press. Todos os direitos reservados.