Qual foi sua primeira reação quando ouviu falar de Blake Lemoine, o engenheiro do Google que anunciou no mês passado que o programa de IA em que estava trabalhando havia desenvolvido consciência?
Se, como eu, você é instintivamente desconfiado, pode ter sido algo como:Esse cara está falando sério? Ele honestamente acredita no que está dizendo? Ou isso é uma farsa elaborada?

Coloque as respostas para essas perguntas de lado. Em vez disso, concentre-se nas próprias perguntas. Não é verdade que até mesmo perguntar a eles é pressupor algo crucial sobre Blake Lemoine:especificamente, ele é consciente?

Em outras palavras, todos podemos imaginar Blake Lemoine sendo enganador.

E podemos fazer isso porque assumimos que há uma diferença entre suas convicções internas – o que ele acredita genuinamente – e suas expressões externas:o que ele afirma acreditar.

Essa diferença não é a marca da consciência? Será que alguma vez assumiríamos o mesmo sobre um computador?

Consciência:'O problema difícil'

Não é à toa que os filósofos passaram a chamar a consciência de "o problema difícil". É notoriamente difícil de definir.

Mas, por ora, digamos que um ser consciente é aquele capaz de ter um pensamento e não divulgá-lo.

Isso significa que a consciência seria o pré-requisito para a ironia, ou dizer uma coisa querendo dizer o contrário. Eu sei que você está sendo irônico quando percebo que suas palavras não corresponder aos seus pensamentos.

Que a maioria de nós tenha essa capacidade – e a maioria de nós rotineiramente transmita nossos significados tácitos dessa maneira – é algo que, eu acho, deveria nos surpreender com mais frequência do que surpreende.

Parece quase discretamente humano.

Os animais podem certamente ser engraçados, mas não deliberadamente.

E as máquinas? Eles podem enganar? Eles podem guardar segredos? Eles podem ser irônicos?

IA e ironia

É uma verdade universalmente reconhecida (pelo menos entre os acadêmicos) que qualquer questão de pesquisa que você possa inventar com as letras "IA" já está sendo estudada em algum lugar por um exército de cientistas computacionais obscenamente bem-recursos - muitas vezes, se não sempre, financiado pelos militares dos EUA.

Este é certamente o caso da questão da IA ​​e da ironia, que recentemente atraiu um interesse significativo de pesquisa.

É claro que, dado que a ironia envolve dizer uma coisa e dizer o contrário, criar uma máquina que possa detectá-la, quanto mais gerá-la, não é tarefa simples.

Mas se pudéssemos criar tal máquina, ela teria uma infinidade de aplicações práticas, algumas mais sinistras que outras.

Na era das avaliações online, por exemplo, os varejistas se interessaram muito pela chamada "mineração de opinião" e "análise de sentimento", que usa a IA para mapear não apenas o conteúdo, mas o humor dos comentários do avaliador.

Saber se o seu produto está sendo elogiado ou se tornando o alvo da piada é uma informação valiosa.

Ou considere a moderação de conteúdo nas mídias sociais. Se quisermos limitar o abuso online enquanto protegemos a liberdade de expressão, não seria útil saber quando alguém está falando sério e quando está brincando?

Ou se alguém twittar que acabou de se juntar à célula terrorista local ou que está colocando uma bomba na mala e indo para o aeroporto? (A propósito, nunca tweet isso.) Imagine se pudéssemos determinar instantaneamente se eles são sérios ou se estão apenas "sendo irônicos".

Na verdade, dada a proximidade da ironia com a mentira, não é difícil imaginar como todo o maquinário sombrio de vigilância governamental e corporativa que cresceu em torno de novas tecnologias de comunicação acharia extremamente interessante a perspectiva de um detector de ironia.

E isso ajuda bastante a explicar a crescente literatura sobre o tema.

IA, do Clippy ao reconhecimento facial

Para entender o estado da pesquisa atual sobre IA e ironia, é útil conhecer um pouco sobre a história da IA ​​de forma mais geral.

Essa história é normalmente dividida em dois períodos.

Até a década de 1990, os pesquisadores buscavam programar computadores com um conjunto de regras formais artesanais de como se comportar em situações pré-definidas.

Se você usava o Microsoft Word na década de 1990, deve se lembrar do irritante assistente de escritório Clippy, que aparecia sem parar para oferecer conselhos indesejados.

Desde a virada do século, esse modelo foi substituído por aprendizado de máquina orientado a dados e redes neurais.

Aqui, enormes caches de exemplos de um determinado fenômeno são traduzidos em valores numéricos, nos quais os computadores podem realizar operações matemáticas complexas para determinar padrões que nenhum humano jamais poderia descobrir.

Além disso, o computador não se limita a aplicar uma regra. Em vez disso, aprende com a experiência e desenvolve novas operações independentes da intervenção humana.

A diferença entre as duas abordagens é a diferença entre o Clippy e, digamos, a tecnologia de reconhecimento facial.

Pesquisando sarcasmo

Para construir uma rede neural com a capacidade de detectar ironia, os pesquisadores se concentram inicialmente no que alguns considerariam sua forma mais simples:o sarcasmo.

Os pesquisadores começam com dados retirados das mídias sociais.

Por exemplo, eles podem coletar todos os tweets rotulados como #sarcasm ou postagens do Reddit rotuladas /s, uma abreviação que os usuários do Reddit empregam para indicar que não são sérios.

A questão não é ensinar o computador a reconhecer os dois significados separados de qualquer post sarcástico. Na verdade, o significado não tem qualquer relevância.

Em vez disso, o computador é instruído a procurar padrões recorrentes, ou o que um pesquisador chama de "impressões digitais sintáticas" - palavras, frases, emojis, pontuação, erros, contextos e assim por diante.

Além disso, o conjunto de dados é reforçado pela adição de mais fluxos de exemplos – outras postagens nos mesmos tópicos, por exemplo, ou da mesma conta.

Cada novo exemplo individual passa por uma bateria de cálculos até chegarmos a uma única determinação:sarcástico ou não sarcástico.

Finalmente, um bot pode ser programado para responder a cada pôster original e perguntar se eles estavam sendo sarcásticos. Qualquer resposta pode ser adicionada à crescente montanha de experiência do computador.

A taxa de sucesso dos detectores de sarcasmo mais recentes se aproxima de surpreendentes 90% - maior, suspeito, do que muitos humanos poderiam alcançar.

Então, supondo que a IA continue avançando no ritmo que nos levou do Clippy à tecnologia de reconhecimento facial em menos de duas décadas, os andróides irônicos podem estar longe?

O que é ironia?

Mas não há uma diferença qualitativa entre classificar as "impressões digitais sintáticas" da ironia e realmente entendê-la?

Alguns sugeririam que não. Se um computador pode ser ensinado a se comportar exatamente como um humano, então é irrelevante se um rico mundo interno de significados espreita sob seu comportamento.

Mas a ironia é indiscutivelmente um caso único:ela se baseia na distinção entre comportamentos externos e crenças internas.

Aqui pode valer a pena lembrar que, enquanto os cientistas da computação só recentemente se interessaram pela ironia, filósofos e críticos literários têm pensado nisso há muito tempo.

E talvez explorar essa tradição lançasse uma luz antiga, por assim dizer, sobre um novo problema.

Dos muitos nomes que se poderia invocar neste contexto, dois são indispensáveis:o filósofo romântico alemão Friedrich Schlegel; e o teórico literário pós-estruturalista Paul de Man.

Para Schlegel, a ironia não implica simplesmente um significado externo falso e um significado interno verdadeiro. Em vez disso, ironicamente, dois significados opostos são apresentados como igualmente verdadeiros. E a indeterminação resultante tem implicações devastadoras para a lógica, principalmente a lei da não-contradição, que sustenta que uma afirmação não pode ser simultaneamente verdadeira e falsa.

De Man segue Schlegel nesse ponto e, em certo sentido, universaliza seu insight. Ele observa que todo esforço para definir um conceito de ironia está fadado a ser infectado pelos fenômenos que se propõe a explicar.

De fato, De Man acredita que toda linguagem está infectada pela ironia e envolve o que ele chama de "parábase permanente". Como os humanos têm o poder de esconder seus pensamentos uns dos outros, sempre será possível — permanentemente possível — que eles não estejam falando sério.

A ironia, em outras palavras, não é um tipo de linguagem entre muitas. Ele estrutura – ou melhor, assombra – todo uso da linguagem e toda interação.

E, nesse sentido, ultrapassa a ordem da prova e da computação. A questão é se o mesmo se aplica aos seres humanos em geral.