p A demonstração de inteligência artificial do Google foi divertida, mas levantou uma questão importante:você tem o direito de saber que está falando com uma máquina? p O Google nos surpreendeu esta semana com a introdução de seu novo sistema de inteligência artificial, Google Duplex.

p Ao contrário de Siri, Alexa e outros assistentes de IA, o sistema fala como um ser humano convincente. O que mais, ele foi projetado para fazer chamadas em seu nome, como reservar uma mesa em um restaurante ou uma consulta em um salão de cabeleireiro.

p "Acho que AI Duplex é uma tecnologia interessante, "O especialista em inteligência artificial da UNSW Canberra e professor do SEIT Hussein Abbass diz.

p "Certamente não quero perder meu tempo fazendo ligações para reservar um restaurante ou um cabeleireiro."

p Uma conversa com fluxos Duplex, "ums" e "mmm-hmms" são incluídos para uma boa medida, e é provável que a pessoa que está recebendo não tenha ideia de que está falando com uma máquina.

p E, para muitos, isso representa uma preocupação ética. O Duplex deve se apresentar como um robô?

p O professor Abbass diz que deveria.

p "O ponto principal aqui é que ele deve se identificar, "Professor Abbass diz.

p "No vídeo, A AI Duplex disse que está ligando em nome de um cliente. O humano do outro lado da linha nunca pediu que ele se identificasse. Se o AI Duplex usar um nome humano para ganhar a confiança humana, então, claramente, há um elemento de engano e a IA estaria agindo de forma antiética.

p "Se o AI Duplex se identificar como um robô automatizado ou semelhante, então caberá ao humano decidir se deseja continuar a conversa. "

p O professor Abbass diz que o AI Duplex coleta assinaturas de vozes humanas que continuam a treinar o robô e até mesmo sua própria voz parece ser uma síntese de uma ou mais vozes humanas.

p "Esses humanos precisam estar mais cientes de como seus dados são usados ​​e precisam oferecer consentimento explícito para a coleta dos dados e para o uso pretendido dos dados, " ele diz.

p Se pudermos confiar no Duplex para marcar nossas consultas com o cabeleireiro, também podemos confiar nele para fazer uma chamada de emergência? O professor Abbass diz que isso pode ter seus prós e contras.

p "Um assistente de carro pode chamar a ambulância em caso de emergência, como um acidente, e neste caso, é uma tecnologia que salva vidas, " ele diz.

p "Se for mal utilizado, então, como qualquer tecnologia, quando é mal utilizado, é um ato impróprio - que pode até ser ilegal. "

p O professor Abbass diz que a tecnologia tem um longo caminho a percorrer antes de ser capaz de sustentar longas discussões humanas.

p "No entanto, esta tecnologia é um excelente exemplo de porque a tecnologia precisa ser eticamente consciente. Se um humano pede ajuda para fazer uma chamada inadequada, AI Duplex deve dizer 'não', " ele adiciona.