A startup Diveplane quer tornar a IA ética:CEO explica o que isso significa

Crédito:Pixabay/CC0 Public Domain

No mundo de hoje, a inteligência artificial é usada para tomar algumas grandes decisões. As faculdades contam com ele para admitir alunos. Os conselhos de liberdade condicional o usam para aprovar ou negar a libertação de presos.
Uma startup no Triângulo de Pesquisa da Carolina do Norte está se esforçando para tornar os sistemas de IA mais éticos, e a empresa garantiu um financiamento significativo para isso. Na segunda-feira, a Diveplane anunciou que havia arrecadado US$ 25 milhões em financiamento da Série A, dinheiro importante para investimentos iniciais. A empresa Raleigh se orgulha de criar inteligência artificial ética, o uso responsável de máquinas por meio da identificação e correção de vieses não intencionais.

A Diveplane foi cofundada em 2018 por Michael Capps, ex-presidente da Epic Games, com sede em Cary, Carolina do Norte. Nos últimos quatro anos, a Diveplane atraiu vários clientes e investidores notáveis, incluindo várias estrelas do futebol americano.

Agora apoiada com milhões adicionais de capital de risco e empresas de defesa, a Diveplane procura escalar, com o objetivo final de remodelar os sistemas de IA que passaram a ditar grande parte da vida cotidiana.

Então, o que torna a abordagem da Diveplane à IA única? E quão grande espera chegar? Em 15 de setembro, Capps conversou com o The News &Observer para discutir. Aqui estão cinco grandes lições:

IA explicável vs. caixa preta

O Diveplane fornece o que é conhecido como inteligência artificial explicável, sistemas que permitem aos humanos entender melhor como os resultados das máquinas surgiram. Com essa clareza, Capps disse que as organizações podem identificar melhor as falhas que podem produzir resultados tendenciosos.

"Para isso (acontecer), é necessário um toque humano", disse Capps. "Essa avaliação de poder voltar e dizer:'Não era assim que queríamos contratar pessoas em nossa empresa. Essa IA fez algo errado. Vamos consertar isso.'"

A IA explicável contrasta com o tipo de IA mais comumente usado hoje, os sistemas de rede neural, modelados a partir das funções biológicas do cérebro humano. A maioria dos sistemas de rede neural, disse Capps, é conhecida como "IA caixa preta", o que significa que ninguém - nem as organizações que usam a tecnologia nem as pessoas afetadas por ela - podem ver exatamente como eles operam.

"Pode funcionar muito bem, mas pode não ser", disse ele. "E o fato de não sabermos, mas estar sendo usado para tomar uma decisão tão crítica parece inapropriado. Mais do que inapropriado, isso me irrita."

Escalando

A Diveplane conta com a Duke Health e a equipe de automobilismo Roush Fenway Keselowski Racing entre seus clientes da Carolina do Norte. Capps disse que a Diveplane pretende usar seu financiamento recente para atrair mais clientes em defesa, seguros e finanças.

"Este é um negócio verdadeiro, real", disse ele. "Agora, vamos descobrir como começar a escalá-lo."

Capps espera que a Diveplane possa um dia ajudar a substituir as tecnologias de caixa preta, e ele disse que os investidores começaram a ver que a IA explicável tem um mercado. À medida que os consumidores se tornam mais conscientes da ética da IA, ele disse que empresas e organizações sentiram pressão para garantir que seus sistemas sejam transparentes.

Em um sinal dessa crescente conscientização, Capps atua no conselho de liderança da Data and Trust Alliance, um grupo de executivos de grandes empresas como Walmart, Starbucks, Nike e CVS que se comprometeram a promover sistemas de inteligência artificial e aprendizado de máquina mais responsáveis.

Novo escritório, equipe dupla

Com seu mais recente financiamento, a Diveplane procura dobrar sua força de trabalho de cerca de 20 para 40 funcionários. Capps observou que espera que esta seja apenas a primeira de muitas expansões de empregos.

Sua empresa também está abrindo um novo escritório no empreendimento Smoky Hollow no centro de Raleigh. Apesar da chegada da sede, Capps disse que muitos trabalhadores da Diveplane podem estar baseados fora da cidade ou estado.

“Eu queria construir uma empresa de tecnologia com sede em Raleigh com os talentos daqui, mas o mundo mudou muito com o trabalho remoto”, disse ele. "Então, é bobagem para nós não lançarmos uma rede muito ampla. Além disso, as pessoas lá fora que se importam com o que estamos fazendo, a maneira como estamos fazendo, estão em toda parte. Estamos procurando por verdadeiros crentes na missão."

Investidores animados

Alguns dos primeiros investidores da Diveplane foram atletas de alto nível, como as jogadoras de futebol americanas Becky Sauerbrunn, Megan Rapinoe e Mia Hamm da UNC. A jogadora de basquete aposentada Sue Bird (noiva de Rapinoe) e o ex-jogador de beisebol Nomar Garciaparra (marido de Hamm) também investiram.

Capps primeiro se conectou com muitos dos jogadores por meio de seu envolvimento com uma startup de impressão 3D chamada Carbon. Capps e Hamm foram conselheiros, enquanto outros investiram. Carbon acabou sendo um sucesso, e Rapinoe, Hamm e outros estavam abertos a investir quando Capps mencionou sua ideia de uma nova empresa ética de IA.

Lições do épico

De 2004 a 2013, Capps foi presidente da Epic Games, a criadora baseada em Cary de títulos de videogame como Fortnite, Rocket League e Gears of War. Enquanto Capps não estava com a empresa para seu maior sucesso – Fortnite – ele disse que havia uma ambição na Epic que ele acredita ter se traduzido para a Diveplane.

“Aqui, é um negócio totalmente diferente (da Epic), mas acho que temos essa expectativa central de excelência”, disse ele. "Nunca houve qualquer dúvida (na Epic) de que não seria enorme, e acho que isso se aplica muito a isso." + Explorar mais