Um professor assistente de ciência da computação e engenharia da Universidade do Texas em Arlington descobriu que os candidatos a emprego podem melhorar sua posição, em média, em pelo menos 16 vagas em um grupo de 100 candidatos, empregando um algoritmo que usa palavras-chave específicas do trabalho.
Shirin Nilizadeh disse que se sentiu motivada a seguir essa linha de pesquisa depois de ver amigos não serem selecionados para cargos ou entrevistas de segunda rodada.

“Descobrimos que você pode personalizar seu currículo para um trabalho específico usando palavras-chave específicas que podem levá-lo ao topo”, disse ela. "É uma espécie de hack no processo de recrutamento."

O artigo de Nilizadeh—"Attacks Against Ranking Algorithms with Text Embeddings:A Case Study on Recruitment Algorithms"—foi aceito no Proceedings of the Fourth BlackboxNLP Workshop on Analyzing and Interpreting Neutral Networks for NLP . Anahita Samadi, agora doutoranda na UTA que estudou com Nilizadeh, liderou o projeto e o apresentou na conferência de 2021 sobre Métodos Empíricos em Processamento de Linguagem Natural.

Algoritmos de incorporação de texto usados ​​no recrutamento de empregos combinam palavras e frases nos currículos com a descrição do trabalho para obter pontuações de similaridade. Os currículos são classificados com base nessas pontuações. Poucos estudos até agora mostraram que algoritmos de classificação que usam embeddings de texto são vulneráveis ​​a ataques adversários.

"Pensamos que os algoritmos de recrutamento eram o melhor exemplo de tais algoritmos de classificação e, portanto, decidimos trabalhar neles", disse Nilizadeh. "O objetivo do nosso ataque foi identificar as palavras-chave da descrição do trabalho que podem melhorar a classificação do currículo."

Como esperado, adicionar mais palavras-chave melhora a classificação. A pesquisa também mostrou, no entanto, que adicionar muitas palavras ou frases semelhantes pode não melhorar a classificação de um currículo.

Um dos principais tópicos que Nilizadeh estuda no Laboratório de Pesquisa de Segurança e Privacidade da UTA é a robustez adversária de sistemas baseados em inteligência artificial (IA) baseados em dados. Em outras palavras, ela testa sistemas que usam IA contra possíveis ataques e avalia a robustez desses sistemas.

Hong Jiang, presidente e professor do Departamento de Ciência da Computação e Engenharia, disse que o trabalho de Nilizadeh é promissor.

"Pode ser uma ferramenta que futuros funcionários e empregadores podem usar no processo de busca de emprego", disse Jiang.