# Inteligência Artificial Generativa, Gênero e Raça: Uma Reflexão Crítica

## Introdução

Na obra de ficção “The Stepford Wives”, de Levin (1972), a protagonista Joanna Eberhart, recém-chegada à cidade de Stepford junto de seu marido e filhos, descobre uma conspiração orquestrada pelos homens da cidade. Reunidos em um clube, sob a fachada de “Associação dos Homens”, eles estão substituindo suas esposas por versões artificiais, completamente submissas e dedicadas exclusivamente às tarefas domésticas e à satisfação sexual de seus maridos. As mulheres da cidade não têm escolha, e a própria protagonista, ao tentar descobrir o que está acontecendo com as mulheres locais, acaba tendo o mesmo destino trágico.

O atual estágio da tecnologia está longe desse terrível cenário, no entanto, os recentes avanços em inteligência artificial e as ferramentas disponibilizadas ao público em geral já começam a criar impactos na sociedade, traçando paralelos com o cenário proposto em “The Stepford Wives”.

Em menos de um ano, observamos as ferramentas de inteligência artificial generativa, especialmente na produção de linguagem natural e imagens, evoluírem de borrões semelhantes aos usados no teste de Rorschach e chatbots rudimentares, para imagens tão realistas que são praticamente indistinguíveis de uma fotografia real. A linguagem natural evoluiu de tal forma que há indícios de que tenhamos superado o teste de Turing, elaborado por Turing (1950). A crescente popularização de ferramentas de IA, como Mindjourney e Stable Diffusion para geração de imagens, resultou no surgimento de plataformas sociais como a Civit.ai, que hospedam imagens e modelos de seus usuários, muitas vezes anônimos. Plataformas como Civit.ai democratizam o acesso a essas ferramentas, porém, como discutido por Noble (2018), muitas vezes elas reproduzem e amplificam desigualdades existentes.

A desigualdade no acesso às tecnologias de IA vai além das questões do mercado de trabalho. Se, por um lado, impede o uso legítimo da tecnologia para criar materiais que representem minorias étnicas e padrões de beleza diversos com a mesma qualidade, por outro, propaga padrões de beleza irreais e a hiper-sexualização das mulheres. A maioria esmagadora das imagens e modelos publicados na plataforma Civit.ai são de mulheres brancas e asiáticas hiper-sexualizadas. A criação de imagens de mulheres artificiais com padrões irreais pode ter implicações sérias, como discutido por Bordo (1993). Ela destaca como os padrões culturais influenciam a percepção do corpo feminino, e como a IA pode intensificar esses padrões. Em “Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security”, Chesney e Citron (2018) alertam sobre o potencial de abuso das tecnologias de deepfakes, incluindo a objetificação e exploração de mulheres e crianças. A hipótese inicial deste trabalho sugere que isso ocorre principalmente porque a grande maioria dos usuários dessa tecnologia são homens brancos cisgênero, reproduzindo os padrões culturais dominantes na sociedade. Esse público também evidencia desigualdades no acesso ao conhecimento e uso de novas tecnologias.

## O que é Inteligência Artificial e porque ela não existe

No decorrer da história humana, muitos pensadores dislumbraram a ideia de seres automáticos (automatos), que assim como os seres humanos, poderiam desempenhar tarefas complexas e até mesmo simular pensamos. Descartes escreveu sobre máquinas que simulavam pensamento em "O Meditador", enquanto Spinoza discutiu a possibilidade de entidades automatizadas na sua obra "A Ethica". No entanto, o primeiro pensador moderno conhecido por abordar sistematicamente a ideia dos seres automátos foi Leibniz. Suas obras "O Discurso do Homem" e "Monadologia" apresentam uma visão otimista sobre a possibilidade de criar entidades artificiais inteligentes capazes de pensamento. Muitos especialistas concordam que essas ideias são precursoras e paralelas à moderna concepção de inteligência artificial.

Podemos definir o conceito de inteligência artificial, ou simplesmente IA, como uma disciplina multidisciplinar que visa criar sistemas capazes de imitar, aprender e simular comportamentos humanos, como pensar, tomar decisões, processar informação e resolver problemas, através de uma variedade de técnicas e ferramentas mputacionais. A história moderna da AI remete a década de 1940, quando o matemático e cientista da computação Alan Turing publicou um artigo intitulado "Computing Machinery and Intelligence", no qual propôs o Teste da Máquina de Turing para medir a inteligência em máquinas. A IA começou a ganhar impulso na década de 1950 com o desenvolvimento do primeiro computador digital e o advento do pensamento simbólico em intelligence artificial, liderado por pioneiros como John McCarthy e Marvin Minsky. A década de 1960 viu a criação de sistemas expert systems, que usavam conhecimento humano específico para resolver problemas complexos.

No entando, mesmo sendo amplamente adotado no mercado de tecnologia, academia e pela mídia, o próprio termo inteligência Artificial é alvo de críticas. O médico e cientista Miguel Nicolelis diz que para os cientistas a inteligência é algo restrito aos organismos, sendo uma capacidade de interação com o meio ambiente e outros indivíduos de sua espécie. Portanto, os aplicativos, softwares e demais canais tecnológicos que se enquadram no que é chamado de IA não compactuam com essa definição básica do termo. Outros estudiosos de áreas correlatas que encontram nessa tecnologia um ponto de intersecção têm se ocupado de divulgar os benefícios e, principalmente, possíveis impactos negativos da Inteligência Artificial na sociedade. Podemos então concluir que, os conjuntos de técnicas como, 'machine learning', 'deep learning', 'redes neurais', 'cognitive computing', entre outros, é o que é considerado Inteligência Artificial.

Dentre os diversos tipos de IA que vem ganhando ascensão no mercado, as catetoria de IAs generatvos vem evoluindo e se popularizando rapidamente. O que as diferenciam de outros tipos de IA que são focadas em análise de dados ou execução de tarefas de tomada de descisão é a capacidade geração de conteúdos como textos, áudios, imagens e até mesmo vídeos, semelhantes a criação de artistas ou até mesmo cada vez mais indistinguiveis da realidade.

Na categoria geração de imagens, as dois modelos e conjutos de ferramentas que mais se destacam pela sua popularidade e qualidade são o Mindjourney e o Stable Diffusion. O primeiro é fechado e pago, o segundo de licença open source e de uso que pode ser gratuito.

> Imagem no estilo artístico gerada com o Stable Diffusion pelo usuário 'lopezaugusto9842' da plataforma Civitai.

> Imagem no estilo realista gerada com o Stable Diffusion pelo usuário 'sunnytiersen' da plataforma Civitai.

## Estudo de caso: plataforma Civitai

A plataforma Civitai se descreve como:

> "Civitai é uma plataforma dinâmica projetada para impulsionar a criação e exploração de mídia gerada por IA. Oferecemos um ambiente onde os usuários podem fazer upload, compartilhar e descobrir modelos personalizados, cada um treinado em conjuntos de dados distintos. Com a ajuda do software de mídia de IA, esses modelos podem ser aproveitados como ferramentas inovadoras para criar suas próprias criações exclusivas"

> **Civitai Wiki** - https://wiki.civitai.com/wiki/Civitai

Na prática, funciona como uma mídia social onde usuários que domimam as técnicas de treinamento de máquina, compartilham seus modelos especificos de criação de imagens e estilos, que podem ser usados pelos demais usuários que usam para gerar imagens que são compartilhadas com parametros usados em sua geração.

### Alguns dados quantitativos do uso da plataforma Civitai:

#### Países que mais acessam

Podemos observar que um pouco mais de 45% do acesso total da plataforma se originam de usuário residentes do Japão, EUA, China Russia e Alemanha, sendo que os dois primeiros colocados, Japão e EUA, empatam com cerca de 16% da audiência.


#### Tráfico via redes sociais

No gráfico que informa o compartilhamento dos links da plataforma nas principais redes sociais, verificamos que o principal meio de compartilhamento dos conteúdos é realizado pelo YouTube, com mais da metade dos acessos. Uma possível explicação para a predominância da rede de compartilhamento de vídeos, é que existem um grande número de canais que se dedicam a ensinar a gerar imagens utilizando o modelo Stable Difussion a partir de modelos específicos compartilhados na plataforma Civitai.


#### Demografia
A distribuição demográfica por gênero demonstra que o acesso à plataforma é de longe, predominantemente masculin com cerca de três quartos (3/4) dos acessos totais, evidenciando a desigualdade de gênero que há no domínio das tecnologias de IA generativas de imagens e nos seus conteúdos.


Também é possível evidenciar a desigualdade etária no acesso, onde no gráfico abaixo demontra que a esmagadora maioria dos acesso são de usuáário Jovens (18 À 24 anos) e Jovens adultos (25 à 34 anos), totalizando cerca de 70%.


#### Conteúdo de interesse dos usuários