É um novo dia não muito distante no futuro. Você acorda; seu relógio de pulso registrou quanto tempo você dormiu, e monitorou seus batimentos cardíacos e respiração. Você dirige para o trabalho; os sensores do carro rastreiam sua velocidade e frenagem. Você pega o café da manhã no caminho, pagar eletronicamente; a transação e o conteúdo calórico de sua refeição são registrados.

Então você tem um acidente de carro. Você liga para sua seguradora. Sua chamada é atendida imediatamente. A voz do outro lado da linha sabe seu nome e conversa amigavelmente com você sobre seu gato de estimação e como seu time de futebol favorito se saiu no fim de semana.

Você está falando com um chat-bot. O motivo pelo qual "sabe" tanto sobre você é porque a seguradora está usando inteligência artificial para extrair informações sobre você das mídias sociais. Ele sabe muito mais além disso, porque você concordou em permitir que ele monitore seus dispositivos pessoais em troca de prêmios de seguro mais baratos.

Isso não é ficção científica. Mais de três quartos dos executivos de seguros acreditam que a inteligência artificial revolucionará o setor em poucos anos. Em 2030, de acordo com futuristas da McKinsey, A inteligência artificial significará que os prêmios de seu carro e seguro de vida podem mudar dependendo da sua decisão de seguir um caminho ou outro.

Será vendido a você com a promessa de um serviço mais personalizado, processamento mais rápido de sinistros e prêmios mais baixos - e vai cumprir essas promessas, em geral.

Mas também existem riscos éticos - privacidade de dados e discriminação entre eles. Uma seguradora pode usar seus dados para descobrir quanto você estaria disposto a pagar pela cobertura. Ele pode vender as informações a terceiros. A IA pode decidir que você representa um risco maior devido à sua idade, sexo, renda ou etnia.

A internet das coisas

Embora o setor de seguros em geral tenha uma reputação nada invejável de pegar o dinheiro das pessoas e se recusar a pagar, é um setor altamente competitivo. Os menos ágeis provavelmente não sobreviverão aos concorrentes que usam IA para se manter lucrativos e, ao mesmo tempo, reduzir seus prêmios.

Para oferecer prêmios mais baixos, uma seguradora precisa saber que um indivíduo é, na verdade, um risco menor. A tecnologia capacitadora é a Internet das coisas, o nome coletivo para bilhões de sensores conectados à Internet embutidos em todos os tipos de objetos que usamos todos os dias. Eles estão em telefones, relógios, carros, rastreadores de fitness, assistentes domésticos e muitas outras coisas. Coletivamente, eles formam um "ecossistema" de sensores.

Os dados coletados ao longo do tempo permitem que a seguradora faça um perfil de risco adaptado individualmente com base no comportamento real de uma pessoa, uma prática conhecida como política comportamental de preços .

Ficando 'inteligente'

Para diminuir o seguro de sua casa e conteúdo, a seguradora fará um patch no hub de IA que opera sua "casa inteligente" por meio de seu ecossistema de sensores.

Se houver um padrão de roubos na vizinhança, o hub doméstico saberá, porque está conectado à rede da seguradora. Bloqueios e alarmes podem ser acionados e a polícia chamada ao primeiro sinal de problema. Para gerenciar o risco de incêndio, sensores irão monitorar o calor, umidade e detectar fumaça. Se o fogão ficar ligado, o hub doméstico irá desligá-lo antes que se torne um problema.

Para calcular prêmios de seguro de automóveis mais baixos, sua seguradora pode querer monitorar a maneira como você dirige e faz a manutenção do carro.

Os prêmios de seguro saúde podem exigir que a seguradora tenha acesso aos seus registros médicos e use um rastreador de fitness.

Um novo setor industrial surgirá. Empresas especializadas que implantam sensores IoT e reúnem os dados farão parceria com seguradoras para formar um novo ecossistema de negócios. Toda a indústria mudará de seguro puramente reativo para proativo, cobertura de minimização de risco.

Tudo parece muito positivo. Mas também existem riscos mais amplos na busca estreita de minimizar o risco de seguro.

Discriminação

Um perigo muito claro é o problema de definição de perfil - ser considerado um risco de seguro mais alto ou mais baixo por pertencer a um determinado grupo demográfico.

A IA agora pode diferenciar o risco em centenas de fatores. Os algoritmos examinam esses fatores para identificar grupos de risco anteriormente não reconhecidos. Eles também podem deduzir clusters por conta própria.

Mas essas conclusões podem discriminar involuntariamente. Já existem muitos exemplos em que algoritmos de IA amplificaram estereótipos inadvertidamente.

O caso do policiamento preditivo em Durham, Inglaterra, ilustra o problema. A polícia desenvolveu um algoritmo para prever melhor o risco representado por pessoas acusadas de um crime caso recebam fiança. O que fez foi discriminar as pessoas mais pobres com base no local onde viviam.

Preços oportunistas

Existe também a perspectiva de uma discriminação mais individualizada.

Já bastante conhecido é o problema da discriminação genética - o risco de uma seguradora de saúde ou vida aumentar os prêmios ou mesmo negar cobertura para certas condições com base no que seu DNA revela sobre sua disposição genética para certas condições.

A IA abre uma área totalmente nova de discriminação personalizada, com base no que pode colher de seus comportamentos e preferências.

Por uma coisa, a abundância de dados potencialmente disponíveis para IA pode dizer muito a uma seguradora sobre seus hábitos de gastos. Onde você faz compras? O que voce compra? Quando você gasta? Você procura pechinchas ou paga o preço total?

Saber tudo isso ajudará uma seguradora a estimar se conseguirá cobrar o preço mais alto.

Alguns na indústria argumentam que é assim que os mercados operam, mas quando é facilitado por um acesso sem precedentes a informações pessoais, torna-se uma prática altamente questionável.

Perda de privacidade

Uma seguradora também pode ser tentada a usar os dados para outros fins que não a avaliação de risco. Dado seu valor, os dados podem ser vendidos a terceiros para vários fins para compensar o custo de coletá-los. Anunciantes, comerciantes, lobistas e partidos políticos estão insaciávelmente famintos por dados demográficos detalhados.

Ao contrário do que as pessoas possam pensar, estes dados são não a propriedade da pessoa a quem se relaciona. É propriedade de quem o pagou. Os consumidores devem ser legalmente protegidos contra o uso de seus dados para outros fins sem o seu consentimento informado.

Gestão de risco

Com qualquer nova tecnologia poderosa, existem benefícios e riscos. The benefits should be made clear and the risks managed down to an acceptable level. There is of course irony in having to manage the risk of managing risk.

Insurance companies have a job to do to ensure customers can trust there is far more upside than downside in AI. They will need to adopt transparently fair, if not benevolent, practices that contribute to the greater good. It has to be about more than profit.

Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.