Um novo artigo publicado em AI Communications fornece uma visão abrangente sobre o desenvolvimento de uma estrutura ética, Código de Conduta, e metodologias de design baseadas em valores para pesquisadores de IA e desenvolvedores de aplicativos na Europa. A "Declaração de Barcelona para o Desenvolvimento e Uso Adequado da Inteligência Artificial na Europa" foi lançada na primavera de 2017 no evento B-Debate em Barcelona, para estimular uma discussão mais aprofundada entre os formuladores de políticas, líderes da indústria, pesquisadores e desenvolvedores de aplicativos sobre as oportunidades e riscos da IA no ambiente atual da "corrida do ouro".
Além de documentar a Declaração de Barcelona completa, o artigo examina a lógica por trás disso, concentra-se na segurança, confiabilidade, e questões éticas e avalia o progresso em suas principais recomendações. Patrocinado pela Biocat e l'Obra Social la Caixa, com o apoio do ICREA, o Institut de Biologia Evolutiva, e o Institut d'Investigacio en Intelligencia Artificial, O B-Debate reuniu os principais especialistas da Europa para discutir estratégias para lidar com os riscos e benefícios da IA. O evento foi único devido à participação de desenvolvedores e pesquisadores europeus em um discurso anteriormente dominado por cientistas sociais dos EUA e do Reino Unido, especialistas legais, e firmas de consultoria de negócios. A Declaração de Barcelona foi assinada pela maioria dos participantes e está acessível para assinatura e discussão na web.
"Dado o amplo interesse em IA e a ânsia de desenvolver aplicativos que afetam as pessoas em suas vidas diárias, é importante que a comunidade de pesquisa e desenvolvimento de aplicativos se envolva em discussões abertas para evitar expectativas irrealistas, Consequências não-intencionais, e uso que causa efeitos colaterais negativos ou sofrimento humano, "disse Luc Steels, Ph.D., Professor de pesquisa do ICREA, Instituto Catalão de Pesquisa e Estudos Avançados (ICREA) - IBE (UPF / CSIC), Barcelona, que com seu co-investigador Ramon Lopez de Mantaras, Ph.D., Professor Pesquisador do Conselho Nacional de Pesquisa da Espanha (CSIC) e Diretor do Instituto de Investigación en Inteligencia Artificial (IIIA) - CSIC, Bellaterra, Barcelona, organizou o evento de Barcelona.
Embora a maior parte da atividade de IA seja nos EUA e na China, ações recentes da Comissão Europeia e dos governos nacionais indicam que a pesquisa e o desenvolvimento estão aumentando na Europa, crescimento que o discurso em torno da Declaração está ajudando a moldar. Um desenvolvimento promissor foi a recente alocação dentro do programa-quadro europeu H2020 para a criação de um ecossistema e uma plataforma para estimular a pesquisa europeia em IA, conforme exigido na Declaração. O documento renova seu apelo às agências de financiamento e empresas europeias para que invistam no desenvolvimento de IA em uma escala adequada para o desafio, e de forma a que todas as regiões e cidadãos europeus possam lucrar.
O B-Debate, Declaração de Barcelona, e um corpo de literatura em rápido crescimento está levantando questões urgentes que continuam a ressoar:A IA está pronta para implantação em larga escala? AI agora é usado principalmente para fins comerciais, mas também podemos usar IA para o bem comum? Quais aplicativos devemos encorajar? Como os efeitos negativos na implantação da IA podem ser tratados? Quais são os avanços técnicos recentes em IA e como eles afetam os aplicativos? Qual deve ser o papel da IA nas redes sociais? Quais são as melhores práticas para o desenvolvimento e implantação de IA?
"Embora os rápidos avanços da IA sejam amplamente esperados com entusiasmo, alguma ansiedade sobre o progresso é necessária e justificável, "comentaram Steels e Lopez de Mantaras." O medo comum de que a implantação de IA saia do controle pode parecer rebuscado, mas já existem consequências indesejadas que precisam de remediação urgente. Por exemplo, algoritmos incorporados na web e mídia social têm um impacto sobre quem fala com quem, como as informações são selecionadas e apresentadas, e como os fatos / falsidades se propagam e competem no espaço público. A IA deve (e pode) ajudar a apoiar a formação de consenso, em vez de destruí-lo. Os sistemas de IA devem deixar bem claro que são artificiais e não humanos. Enganar os humanos nunca deve ser um objetivo da IA. "
Perguntas também estão sendo exploradas sobre a confiabilidade e responsabilidade dos sistemas de IA com base no aprendizado profundo envolvendo comportamento governado por regras (por exemplo, tomada de decisões financeiras, gestão de Recursos Humanos, ou aplicação da lei). Vieses embutidos podem impedir que candidatos qualificados sejam aprovados na triagem ou resultar em decisões injustas de liberdade condicional. Os sistemas autônomos de IA apresentam diferentes preocupações. Precisamos colocar limites às armas autônomas? Quem é o responsável quando algo dá errado com um carro que dirige sozinho?
"A Declaração de Barcelona estabeleceu uma estrutura de governança para integrar as melhores práticas de forma proativa, como parte do processo de design. Acreditamos que a IA pode ser uma força para o bem da sociedade, mas que há perigo suficiente para algo impróprio, uso prematuro ou malicioso para justificar a necessidade de aumentar a conscientização sobre as limitações da IA e de ação coletiva para garantir que a IA seja de fato usada para o bem comum em segurança, de confiança, e formas responsáveis, "explicou Steels e Lopez de Mantaras.
Embora o panorama da IA na Europa esteja mudando rapidamente por meio de todas essas discussões e atividades, os investigadores concluem que as questões levantadas na Declaração permanecem altamente relevantes, e renovar recomendações em várias áreas prioritárias:
