p Dada a opção de andar em um Uber dirigido por um humano ou uma versão autônoma, Qual você escolheria? p Considerando o acidente fatal de um Uber que dirigia sozinho no mês passado, que tirou a vida de uma mulher em Tempe, Arizona, e a recente morte de um piloto de teste de um veículo semiautônomo sendo desenvolvido pela Tesla, a confiança das pessoas na tecnologia por trás dos veículos autônomos também pode ter sido afetada. A confiabilidade de carros autônomos e outras formas de inteligência artificial é um dos vários fatores que afetam a confiança dos humanos na IA, aprendizado de máquina e outros avanços tecnológicos, escreveu dois pesquisadores da Universidade de Ciência e Tecnologia do Missouri em um artigo recente de jornal.

p "A confiança é a pedra angular da relação da humanidade com a inteligência artificial, "escrever o Dr. Keng Siau, professor e presidente de negócios e tecnologia da informação no Missouri S&T, e Weiyu Wang, um estudante de pós-graduação em ciência da informação e tecnologia do Missouri. "Como qualquer tipo de confiança, a confiança na IA leva tempo para ser construída, segundos para quebrar e para sempre para consertar uma vez que esteja quebrado. "

p Os incidentes de Uber e Tesla apontam para a necessidade de repensar a maneira como os aplicativos de IA, como sistemas de direção autônoma, são desenvolvidos, e para designers e fabricantes desses sistemas tomarem certas medidas para construir uma maior confiança em seus produtos, Siau diz.

p Apesar desses incidentes recentes, Siau vê um futuro forte para IA, mas um cheio de problemas de confiança que devem ser resolvidos.

p 'Um processo dinâmico'

p "A construção de confiança é um processo dinâmico, envolvendo o movimento da confiança inicial para o desenvolvimento contínuo da confiança, "Siau e Wang escrevem em" Building Trust in Artificial Intelligence, Aprendizado de máquina, e robótica, "publicado na edição de fevereiro de 2018 do Cutter Business Technology Journal.

p Em seu artigo, Siau e Wang examinam os conceitos prevalecentes de confiança em geral e no contexto de aplicações de IA e interação humano-computador. Eles discutem os três tipos de características que determinam a confiança nesta área - humana, ambiente e tecnologia - e delinear maneiras de gerar confiança em aplicativos de IA.

p Siau e Wang apontam cinco áreas que podem ajudar a construir a confiança inicial nos sistemas de inteligência artificial:

• Representação. Quanto mais "humana" for uma tecnologia, é mais provável que os humanos confiem nele. "É por isso que os robôs humanóides são tão populares, "Siau diz, acrescentando que é mais fácil "estabelecer uma conexão emocional" com um robô que se parece e age mais como um humano ou um cão robótico que age mais como um canino. Talvez os veículos autônomos de primeira geração devessem ter um "motorista" humanóide ao volante para ajudar a aliviar as preocupações.
• Imagem ou percepção. Livros e filmes de ficção científica deram à IA uma imagem ruim, Siau diz. As pessoas tendem a pensar em IA em termos distópicos, colorido pelos filmes Terminator ou Bladerunner ou pelos romances de Isaac Asimov e Philip K. Dick. "Esta imagem e percepção afetarão a confiança inicial das pessoas na IA, "Siau e Wang escrevem.
• Comentários de outros usuários. As pessoas tendem a confiar em análises de produtos online, e "uma revisão positiva leva a uma maior confiança inicial."
• Transparência e "explicabilidade". Quando o funcionamento interno de uma tecnologia está escondido em uma "caixa preta, "essa opacidade pode prejudicar a confiança." Para confiar em aplicativos de IA, precisamos entender como eles são programados e qual função será executada em certas condições, "Siau diz.
• Experimentação. A capacidade de testar um novo aplicativo de IA antes de ser solicitado a adaptá-lo leva a uma maior aceitação, Siau diz.

p Como manter a confiança na IA

p Além de desenvolver a confiança inicial, Contudo, os criadores da IA ​​também devem trabalhar para manter essa confiança. Siau e Wang sugerem sete maneiras de "desenvolver confiança contínua" além das fases iniciais de desenvolvimento do produto:

• Usabilidade e confiabilidade. AI "deve ser projetado para operar de forma fácil e intuitiva, "Siau e Wang escrevem." Não deve haver nenhum tempo de inatividade inesperado ou travamentos. "
• Colaboração e comunicação. Os desenvolvedores de IA querem criar sistemas que funcionem de forma autônoma, sem envolvimento humano. Os desenvolvedores devem se concentrar na criação de aplicativos de IA que colaborem e se comuniquem com os seres humanos de maneira suave e fácil.
• Sociabilidade e ligação. Construir atividades sociais em aplicativos de IA é uma forma de fortalecer a confiança. Um cão robótico que pode reconhecer seu dono e mostrar afeto é um exemplo, Siau e Wang escrevem.
• Segurança e proteção de privacidade. Os aplicativos de IA dependem de grandes conjuntos de dados, portanto, garantir a privacidade e a segurança será crucial para estabelecer a confiança nos aplicativos.
• Interpretabilidade. Assim como a transparência é fundamental para construir a confiança inicial, a interpretabilidade - ou a habilidade de uma máquina de explicar suas conclusões ou ações - ajudará a manter a confiança.
• Colocação de emprego. À medida que as preocupações com a substituição de humanos por IA continuam a crescer, políticas devem ser postas em prática para fornecer reciclagem e educação para aqueles afetados por esta tendência.
• Congruência de objetivos. "Uma vez que a inteligência artificial tem o potencial de demonstrar e até mesmo superar a inteligência humana, é compreensível que as pessoas tratem isso como uma ameaça, "Siau e Wang escrevem." Garantir que os objetivos da IA ​​sejam congruentes com os objetivos humanos é um precursor para manter a confiança contínua. "As políticas para governar como a IA deve ser usada serão importantes à medida que a tecnologia avança, acrescentam os autores.

p "A era da IA ​​será inquietante, transformador e revolucionário, "Siau escreve em outro artigo recente (" Como a tecnologia moldará o aprendizado? ", Publicado na edição de março de 2018 da Analista Global ) Mas neste ambiente perturbador, o ensino superior pode desempenhar um papel significativo.

p "O ensino superior deve enfrentar o desafio de preparar os alunos para a revolução da IA ​​e permitir que os alunos surfem com sucesso na era da IA, "Siau escreve.