Perspectivas sobre o viés de gênero em algoritmos de incorporação de palavras e sua remoção

Resumo

Os algoritmos de incorporação de palavras constituem uma parte do campo de estudo de inteligência artificial que tem como objetivo principal a reprodução da linguagem natural (linguagem humana). Esse tipo de algoritmo é amplamente utilizado por grandes empresas de tecnologia, como Google e Amazon, desde ferramentas de tradução até chatbots que auxiliam ,clientes a realizar compras. Entretanto, a maneira com que esses algoritmos são construídos, com base em treinamentos a partir de bancos de textos escritos por humanos, procurando padrões em tais textos, levantam questionamentos sobre os possíveis vieses vindos dos textos e como estes podem ser interpretados como estereótipos presentes na sociedade. Com base nisso, a metodologia deste trabalho se baseia em descrever os algoritmos de incorporação de palavras e seu funcionamento através de uma revisão bibliográfica que discorre sobre redes neurais e espaços semânticos, e também analisar um grupo de artigos que discutem os vieses presentes em algoritmos de incorporação de palavras e os métodos de mitigação desses vieses. A partir desse levantamento mais técnico sobre os objetos de estudo, esta pesquisa propõe uma discussão com base nos conceitos de habitus, violência simbólica e campo, desenvolvidos pelo sociólogo Pierre Bourdieu, em cima das conclusões dos artigos sobre os vieses algorítmicos e métodos de retirada, demonstrando a existência de uma dualidade no entendimento do algoritmo com agente perpetrador de violência simbólica.