Université de Montréal, em colaboração com o Fonds de recherche du Québec, divulgou hoje a Declaração de Montreal para o Desenvolvimento Responsável da Inteligência Artificial. Este conjunto de diretrizes éticas para o desenvolvimento da inteligência artificial é o culminar de mais de um ano de trabalho, pesquisas e consultas com os cidadãos, especialistas, formuladores de políticas públicas e partes interessadas da indústria, organizações da sociedade civil, e ordens profissionais.

A inteligência artificial (IA) é uma das principais formas de progresso científico e tecnológico que pode gerar benefícios sociais consideráveis. O desenvolvimento da IA, Contudo, apresenta desafios éticos e riscos sociais. É responsabilidade das várias partes interessadas públicas e privadas e formuladores de políticas, no local, níveis nacional e internacional, garantir que o desenvolvimento e a implantação da IA ​​sejam compatíveis com a proteção e o cumprimento das capacidades e objetivos humanos fundamentais.

"A Université de Montréal está no centro de muitas descobertas científicas em inteligência artificial, e estou satisfeito que uma vasta rede de pesquisadores e líderes da área científica, jurídico, esferas econômicas e políticas agora se aglutinaram em torno dos desafios sociais e éticos relacionados à IA, "disse o reitor da Université de Montréal Guy Breton." Convido todos os interessados ​​no assunto a lerem o texto da Declaração e a assiná-lo, para que sua voz possa ser ouvida. "

Yoshua Bengio, um membro do Comitê Diretivo da Declaração de AI Responsável de Montreal, acrescentou:"Como cientista, Sinto uma grande responsabilidade em fazer com que os resultados de minha pesquisa e dos desenvolvimentos em todo o espectro da IA ​​sejam usados ​​para o benefício do maior número possível de pessoas. Ao integrar princípios de responsabilidade social no início do desenvolvimento tecnológico em laboratórios universitários e industriais, podemos ter um impacto verdadeiramente positivo e concreto. Essa é a característica distintiva desta Declaração:ela incorpora as preocupações de todas as partes interessadas no campo e reúne toda a sociedade civil em torno de princípios sólidos ”.

Disse Remi Quirion, Cientista-chefe de Quebec:"Além de apoiar o desenvolvimento de conhecimentos científicos em inteligência artificial, tornou-se importante para o Fonds de recherche du Québec levar em consideração os aspectos éticos e sociais do progresso neste campo de pesquisa. Com aquilo em mente, Saúdo o trabalho que levou ao lançamento da Declaração de Montreal para o Desenvolvimento Responsável da Inteligência Artificial, desenvolvido em colaboração com a sociedade civil. O novo Observatório Internacional sobre os Impactos Societais da Inteligência Artificial e Tecnologias Digitais, anunciado ontem, certamente será baseado nos princípios contidos na Declaração. "

10 princípios

Um objetivo principal da Declaração é identificar os princípios e valores éticos aplicáveis ​​aos campos da tecnologia digital e IA que promovem os interesses fundamentais de pessoas e grupos. Esses princípios são:

1. Bem-estar:O desenvolvimento e uso de sistemas de inteligência artificial (AIS) deve permitir o crescimento do bem-estar de todos os seres sencientes.
2. Respeito à autonomia:o AIS deve ser desenvolvido e utilizado com respeito pela autonomia das pessoas, e com o objetivo de aumentar o controle das pessoas sobre suas vidas e seu entorno.
3. Proteção de privacidade e intimidade:A privacidade e a intimidade devem ser protegidas contra intrusão por AIS e por aquisição de dados e sistemas de arquivamento.
4. Solidariedade:O desenvolvimento do AIS deve ser compatível com a manutenção dos laços de solidariedade entre as pessoas e as gerações.
5. Participação democrática:AIS deve atender à inteligibilidade, critérios de justificabilidade e acessibilidade, e deve ser submetido a escrutínio democrático, debate e controle.
6. Equidade:O desenvolvimento e uso do AIS deve contribuir para a criação de uma sociedade justa e equitativa.
7. Inclusão da diversidade:O desenvolvimento e uso do AIS deve ser compatível com a manutenção da diversidade social e cultural, e não deve restringir o escopo das escolhas de estilo de vida e experiência pessoal.
8. Prudência:Cada pessoa envolvida no desenvolvimento de AIS deve ter cautela, antecipando, o mais longe possível, as potenciais consequências adversas do uso de AIS, e tomando as medidas adequadas para evitá-los.
9. Responsabilidade:O desenvolvimento e uso do AIS não deve contribuir para diminuir a responsabilidade do ser humano na hora de tomar decisões.
10. Desenvolvimento sustentável:O desenvolvimento e a utilização do AIS devem ser realizados de forma a garantir uma forte sustentabilidade ambiental do planeta.

8 recomendações

Com base nesses princípios, recomendações foram desenvolvidas com o objetivo de sugerir diretrizes para realizar a transição digital dentro da estrutura ética da Declaração.

1. Organização para escrutínio e consulta de cidadãos independentes:Uma organização dedicada ao exame e à pesquisa dos usos e impactos sociais da tecnologia digital e IA deve ser estabelecida.
2. Política de auditoria e certificação da SIA:Uma política coerente para a auditoria e certificação de AIS que promova a implantação responsável deve ser instituída.
3. Empoderamento e automação:deve haver suporte para o empoderamento dos cidadãos em face das tecnologias digitais, na forma de acesso à educação que possibilite o entendimento, pensamento crítico, respeito, e responsabilidade, de modo a promover a participação ativa em uma sociedade digital sustentável.
4. Educação e ética:a educação das partes interessadas preocupadas com o design, o desenvolvimento e o uso de AIS devem ser repensados, com investimento na multidisciplinaridade e na ética.
5. Desenvolvimento inclusivo de IA:uma estratégia coerente deve ser implementada, utilizando os vários recursos institucionais existentes, para promover o desenvolvimento inclusivo de IA e prevenir potenciais preconceitos e discriminação relacionados ao desenvolvimento e implantação de AIS.
6. Proteção da democracia:Para salvaguardar a democracia contra a manipulação de informações para fins políticos, uma estratégia de contenção é necessária para evitar engano e manipulação política de cidadãos por meio de plataformas sociais e sites maliciosos, junto com uma estratégia para combater o perfil político, de modo a manter as condições para o funcionamento saudável de instituições democráticas e cidadãos informados.
7. Desenvolvimento internacional de IA:Deve ser adotado um modelo não predatório de desenvolvimento internacional que visa incluir as várias regiões do globo sem abusar de países de baixa e média renda (LMICs).
8. Pegada ambiental:Uma estratégia pública / privada deve ser implementada para garantir que o desenvolvimento e a implantação de AIS e outras tecnologias digitais sejam compatíveis com uma sustentabilidade ambiental robusta e que conduzam ao avanço de soluções para a crise ambiental.