Apple Inc. e Goldman Sachs Group Inc., duas das empresas mais reconhecidas em tecnologia e finanças, estão envolvidos em um debate crescente sobre se os credores discriminam involuntariamente quando usam modelos complexos para determinar como os americanos pegam dinheiro emprestado.

No sábado, Bloomberg relatou que um regulador de Wall Street abriu uma investigação sobre as práticas de cartão de crédito do Goldman depois que um tweet viral de um empresário de tecnologia alegou que os algoritmos do Apple Card discriminavam sua esposa.

Agora, outro usuário de destaque do Apple Card - o cofundador da Apple, Steve Wozniak - está pedindo que o governo se envolva, citando excessiva confiança corporativa em tecnologia misteriosa.

“Esse tipo de injustiça me incomoda e vai contra o princípio da verdade. Não temos transparência sobre como essas empresas configuram e operam essas coisas, "Wozniak disse em uma entrevista no domingo." Nosso governo não é forte o suficiente nas questões de regulamentação. Os consumidores só podem ser representados pelo governo porque as grandes corporações só se representam. "

Wozniak disse que pode pegar emprestado 10 vezes mais do que sua esposa em seus cartões Apple, embora eles compartilhem contas bancárias e de outros cartões de crédito, e que outros credores os tratem igualmente.

"Algos obviamente tem falhas, "Wozniak disse." Um grande número de pessoas diria:"Amamos nossa tecnologia, mas não estamos mais no controle." Eu acho que é o caso. "

Tweets Virais

Os credores promoveram os modelos porque eles deveriam nivelar o campo de jogo entre os diferentes mutuários, removendo o erro humano e focando apenas nos dados.

"Nossas decisões de crédito são baseadas na qualidade de crédito do cliente e não em fatores como gênero, raça, era, orientação sexual ou qualquer outra base proibida por lei, ", disse o porta-voz do Goldman, Andrew Williams, depois que o Departamento de Serviços Financeiros de Nova York abriu uma investigação sobre as práticas de cartão do banco.

A investigação foi lançada em resposta a uma série de postagens no Twitter de David Heinemeier Hansson que criticava o Apple Card por dar a ele 20 vezes o limite de crédito que sua esposa recebia. Os tweets, muitos dos quais contêm palavrões, imediatamente ganhou força online - e uma resposta no Twitter de Wozniak.

Hanson não revelou nenhuma informação específica relacionada à renda para o casal, mas disse que eles apresentaram declarações de impostos conjuntas e que sua esposa tem uma pontuação de crédito melhor do que ele. Wozniak disse que ele e sua esposa também apresentam declarações conjuntas e compartilham cartões de crédito e contas bancárias.

"O departamento conduzirá uma investigação para determinar se a lei de Nova York foi violada e garantir que todos os consumidores sejam tratados da mesma forma, independentemente do sexo, "disse um porta-voz de Linda Lacewell, o superintendente do NY DFS. "Qualquer algoritmo que intencionalmente ou não resulte em tratamento discriminatório de mulheres ou qualquer outra classe protegida de pessoas viola a lei de Nova York."

É a segunda ação do regulador nas últimas semanas, que abriu uma investigação contra o gigante da saúde UnitedHealth Group Inc. depois que um estudo descobriu que um algoritmo favorecia pacientes brancos em vez de pacientes negros.

"As novas tecnologias não podem deixar certos consumidores para trás ou consolidar a discriminação, "Lacewell disse em um comunicado no domingo. Ela também solicitou reclamações de consumidores lesados ​​no Twitter.

Os credores tradicionais estão aumentando o uso de máquinas para decidir quem obtém quanto crédito, como parte de uma estratégia para reduzir custos e aumentar as solicitações de empréstimos. Enquanto isso, empresas de tecnologia estão entrando no campo da indústria de serviços financeiros, com empresas como a Amazon, Maçã, Facebook e Google ameaçam as lucrativas linhas de negócios dos bancos, oferecendo empréstimos e opções de pagamento.

Escrutínio do Congresso

Os algoritmos foram examinados no Congresso. Em junho, o Comitê de Serviços Financeiros da Câmara ouviu sobre exemplos de tomada de decisão algorítmica em que os pesquisadores encontraram instâncias de preconceito visando grupos específicos, mesmo quando não havia intenção de discriminar.

Alguns legisladores já estão exigindo uma resposta federal. Senadora Elizabeth Warren, um democrata de Massachusetts e candidato a desafiar o presidente Donald Trump nas eleições de 2020, disse aos reguladores federais em junho que o governo "terá que tomar medidas para garantir que as leis antidiscriminação acompanhem a inovação".

Para Goldman, suas ambições crescentes para a Main Street estão trazendo maior escrutínio e um novo conjunto de desafios que ela não tinha enfrentado anteriormente. O Apple Card é uma joint venture entre a Apple e o banco com sede em Nova York, que é responsável por todas as decisões de crédito no cartão. Ele foi lançado no início deste ano - o gigante da tecnologia o comercializa como "criado pela Apple, não um banco "- e os executivos de ambas as empresas saudaram-no como o lançamento de maior sucesso de todos os tempos.

Hansson disse que Goldman não está tratando o preconceito inadvertido a sério.

"Assim que isso se tornou um problema de relações públicas, eles imediatamente aumentaram seu limite de crédito sem pedir qualquer documentação adicional, "ele disse de sua esposa em uma entrevista no sábado." Minha crença não é que houve alguma pessoa nefasta querendo discriminar. Mas isso não importa. Como você sabe que não há um problema com o algoritmo de aprendizado de máquina quando ninguém pode explicar como essa decisão foi tomada? "

© 2019 Bloomberg News
Distribuído pela Tribune Content Agency, LLC.