Pesquisadores da Universidade de Toronto e da Universidade de Cambridge estão analisando as maneiras como o preconceito contra indivíduos com base na idade pode ser codificado em tecnologias como inteligência artificial, que muitos de nós agora encontramos diariamente.
Esse viés relacionado à idade na IA, também conhecido como "idade digital", é explorado em um novo artigo liderado por Charlene Chu, cientista afiliada do braço de pesquisa KITE do Instituto de Reabilitação de Toronto, parte da University Health Network (UHN). e professor assistente da Faculdade de Enfermagem Lawrence S. Bloomberg.

O artigo foi publicado recentemente em The Gerontologist .

“A pandemia do COVID-19 aumentou nossa consciência de quão dependente nossa sociedade é da tecnologia”, diz Chu. “Um grande número de idosos está se voltando para a tecnologia em suas vidas diárias, o que criou um senso de urgência para os pesquisadores tentarem entender o ageismo digital e os riscos e danos associados aos vieses da IA”.

Chu e sua equipe de pesquisa composta por juristas, cientistas da computação, filósofos e cientistas sociais em bioética e gerontologia, observam que os estereótipos estão profundamente arraigados nos algoritmos de IA, com pesquisas recentes focadas em exemplos de preconceito racial e de gênero. As soluções para lidar com o viés da IA, no entanto, não são simples, diz Chu. Ela e sua equipe sugerem que há uma série de "ciclos de injustiça" que ocorrem no desenvolvimento de tecnologia, desde o projeto inicial até o teste e a implementação.

"Cumulativamente, esses ciclos produzem um viés implícito que está embutido na função da tecnologia que exclui os idosos de maneira desproporcional", diz ela.

Rebecca Biason, da Bloomberg Nursing, conversou recentemente com Chu sobre seu trabalho e as implicações do ageism digital para adultos mais velhos.

Como a tecnologia ou os aplicativos podem perpetuar o envelhecimento digital?

Existem várias maneiras pelas quais a tecnologia alimentada por IA pode assumir um viés relacionado à idade – algumas são mais óbvias do que outras. A maioria dos aplicativos criados para idosos tende a se concentrar em doenças crônicas e gerenciamento de cuidados de saúde e raramente são associados a prazer ou lazer. Em vez disso, a tecnologia criada para idosos tende a vê-los com uma lente biomédica, gerando tecnologia focada em uma necessidade relacionada à saúde.

Essa representação etário de adultos mais velhos se infiltra no design da tecnologia. Aspectos normais do envelhecimento, como diferenças na função motora ou percepção, não são levados em consideração. Este é um dos "ciclos de injustiça" que perpetua o preconceito relacionado à idade descrito em meu artigo que sustenta a exclusão de vozes e dados de adultos mais velhos.

Como a exclusão de idosos contribui para o envelhecimento digital?

Os dados usados ​​para construir vários modelos e algoritmos afetam posteriormente o desempenho do algoritmo. Específico para o viés relacionado à idade, os idosos são o grupo de indivíduos que mais cresce usando tecnologia, mas muitos dos dados usados ​​para construir sistemas de IA são baseados em pessoas mais jovens. Isso, por sua vez, gera aplicativos e tecnologias que não são projetados para adultos mais velhos, portanto, eles não os utilizam.

Essa incompatibilidade entre design e tecnologia contribui para a falta de dados de idosos, o que amplifica sua exclusão ao longo do pipeline de criação de tecnologia.

O preconceito de idade é o viés mais socialmente aceito, apesar de ser uma eventualidade para todos nós. À medida que a demografia das populações começa a mudar, mais e mais idosos se voltam para a tecnologia que não foi projetada para eles.

Parte do nosso trabalho futuro é ilustrar efetivamente como o preconceito de idade está embutido na IA e no desenvolvimento de tecnologia e sugerir maneiras de mitigar isso.

Quais são algumas das suas primeiras recomendações para lidar com o envelhecimento digital para adultos mais velhos?

A conscientização sobre o envelhecimento digital é o primeiro passo – e é fundamental para avançar. A idade cruza-se com outras dimensões de vulnerabilidade e deve ser abordada. Uma recomendação estrutural é discutir a necessidade de co-design interdisciplinar – isto é, incluir idosos no design de tecnologia desde o início e não no final, e conjuntos de dados que sejam mais representativos dos idosos.

Uma coisa que minha equipe fez foi vasculhar o Inventário Global das Diretrizes de Ética da IA, que é um repositório que compila documentos de recomendação sobre como os sistemas de IA podem conduzir a tomada de decisões éticas automatizadas. Muitas dessas diretrizes destacaram a justiça como um princípio ético fundamental que rege, bem como a necessidade de reduzir o viés. Desses quase 150 documentos criados por organizações estabelecidas, governos e grupos internacionais, encontramos muito pouca menção à idade, preconceito de idade ou preconceito de idade em comparação com preconceitos raciais ou relacionados ao sexo.

Agora, minha equipe está tentando determinar as implicações sociais e éticas, bem como o grau de dano que está sendo causado atualmente em relação ao ageism digital. O trabalho é fundamental para chamar a atenção para essa questão à medida que nos propusemos a definir o problema.