# Inteligência Artificial Generativa, Gênero e Raça: Uma Reflexão Crítica
*Aline, L. S.¹, Fernanda, L. S.², Thiago, A. P.³*

Introdução
----------

Na obra de ficção *The Stepford Wives* de Levin (1972), a protagonista Joanna Eberhart, recém-chegada à cidade de Stepford junto de seu marido e filhos, descobre uma conspiração orquestrada pelos homens do local. Reunidos em um clube, sob a fachada de “Associação dos Homens”, eles estão substituindo suas esposas por versões artificiais, completamente submissas e dedicadas exclusivamente às tarefas domésticas e à satisfação sexual de seus maridos. As mulheres de *Stepford* não possuem escolha e a própria protagonista, ao tentar descobrir o que está acontecendo com as esposas locais, acaba tendo o mesmo destino trágico.

O atual estágio da tecnologia está longe desse terrível cenário, no entanto, os recentes avanços em inteligência artificial e as ferramentas disponibilizadas ao público em geral já começam a criar impactos na sociedade, traçando paralelos com o cenário proposto em *The Stepford Wives*.

Em menos de um ano, observamos as ferramentas de inteligência artificial generativa, especialmente na produção de linguagem natural e imagens, evoluírem de borrões semelhantes aos usados no teste de Rorschach e *chatbots* rudimentares para imagens tão realistas que são praticamente indistinguíveis de uma fotografia real. A linguagem natural evoluiu de tal forma que há indícios de que tenhamos superado o teste de Turing, elaborado pelo matemático e cientista de computação Alan Turing (1950). A crescente popularização de ferramentas de IA, como *Mindjourney* e *Stable Diffusion* para geração de imagens, resultou no surgimento de plataformas sociais como a Civit.ai, que hospedam imagens e modelos de seus usuários, muitas vezes anônimos. Plataformas como essa democratizam o acesso a tais ferramentas, porém, como discutido por Noble (2018), muitas vezes reproduzem e amplificam desigualdades existentes.

A desigualdade no acesso às tecnologias de IA vai além das questões do mercado de trabalho. Se, por um lado, impede o uso legítimo da tecnologia para criar materiais que representem minorias étnicas e padrões de beleza diversos com a mesma qualidade, por outro, propaga padrões de beleza irreais e a hipersexualização das mulheres. A maioria esmagadora das imagens e modelos publicados na plataforma Civit.ai são de mulheres brancas e asiáticas hipersexualizadas. A criação de imagens de mulheres artificiais com padrões distantes da realidade pode ter implicações sérias, como discutido pela autora Susan Bordo em seu livro *Unbearable Weight: Feminism, Western Culture, and the Body* (1993). A pesquisadora destaca como os padrões culturais influenciam a percepção do corpo feminino e como a IA pode intensificar esses padrões. Em *Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security*, Chesney e Citron (2018) alertam sobre o potencial de abuso das tecnologias de *deep fakes*, incluindo a objetificação e exploração de mulheres e crianças.

O que é Inteligência Artificial e porque ela não existe
-------------------------------------------------------

No decorrer da história humana muitos pensadores vislumbraram a ideia de seres automáticos (autômatos), que assim como os seres humanos, poderiam desempenhar tarefas complexas e até mesmo simular pensamentos. Alguns pensadores já debatiam sobre máquinas que simulavam pensamento, enquanto que Spinoza discutiu a possibilidade de entidades automatizadas na sua obra "A Ethica" (1677). No entanto, o primeiro pensador moderno conhecido por abordar sistematicamente a ideia dos seres automâtos foi Leibniz. Suas obras "Discurso sobre a Metafísica" e "Monadologia" apresentam uma visão otimista sobre a possibilidade de criar entidades artificiais inteligentes capazes de pensar. Muitos especialistas concordam que essas ideias são precursoras e paralelas à moderna concepção de inteligência artificial.

Podemos definir o conceito de inteligência artificial, ou simplesmente IA, como uma disciplina multidisciplinar que visa criar sistemas capazes de imitar, aprender e simular comportamentos humanos, como pensar, tomar decisões, processar informação e resolver problemas através de uma variedade de técnicas e ferramentas computacionais. A história moderna da IA remete a década de 50, quando o matemático e cientista da computação Alan Turing publicou um artigo intitulado *Computing Machinery and Intelligence* (1950), no qual propôs o Teste da Máquina de Turing para medir a capacidade de uma máquina se passar por um ser humano. A IA começou a ganhar impulso na década de 1950, logoa após o desenvolvimento dos primeiros computadores digitais e o advento do pensamento simbólico em Intelligence Artificial, liderado por pioneiros como John McCarthy e Marvin Minsky. A década de 1970 viu a criação de sistemas Expert Systems, que usavam conhecimento humano específico para resolver problemas complexos.

Entretanto, mesmo sendo amplamente adotado no mercado de tecnologia, academia e pela mídia, o próprio termo Inteligência Artificial é alvo de críticas. O médico e cientista Miguel Nicolelis diz que para os cientistas a inteligência é algo restrito aos organismos, sendo uma capacidade de interação com o meio ambiente e outros indivíduos de sua espécie. Dessa forma, os aplicativos, softwares e demais canais tecnológicos que se enquadram no que é chamado de IA não compactuam com essa definição básica do termo. Outros estudiosos de áreas correlatas que encontram nessa tecnologia um ponto de intersecção têm se ocupado de divulgar os benefícios e, principalmente, possíveis impactos negativos da Inteligência Artificial na sociedade. Podemos concluir que os conjuntos de técnicas como *machine learning*, *deep learning*, redes neurais, *cognitive computing*, entre outros, são de maneira genérica conhecidos amplamente como Inteligência Artificial.

Dentre os diversos tipos de IA que estão ascendendo no mercado, as catetorias de IAs generativas têm evoluindo e se popularizado rapidamente. O que as diferenciam de outros tipos de IA que são focadas em análise de dados ou execução de tarefas de tomada de decisão são as capacidades de gerar conteúdos como textos, áudios, imagens e vídeos, semelhantes a criação de artistas ou até mesmo em algo cada vez mais indistinguíveis da realidade.

Na categoria geração de imagens, os dois modelos e conjuntos de ferramentas que mais se destacam pela popularidade e qualidade são o *Mindjourney* e o *Stable Diffusion*. O primeiro é fechado e pago, o segundo de licença open source e de uso que pode ser gratuito.

IMAGEM 1
**IMAGEM NO ESTILO ARTTÍSTICO GERADA COM O STABLE DIFFUSSION**


Fonte: Plataforma Civit.ai (Usuário lopezaugusto9842, 2023).

IMAGEM 2
**IMAGEM NO ESTILO REALISTA GERADA COM O STABLE DIFFUSSION**


Fonte: Plataforma Civit.ai (Usuário sunnytiersen, 2023).

Estudo de caso: plataforma Civitai
--------------------------

A plataforma Civit.ai se descreve como:

> "Civit.ai é uma plataforma dinâmica projetada para impulsionar a criação e exploração de mídia gerada por IA. Oferecemos um ambiente onde os usuários podem fazer upload, compartilhar e descobrir modelos personalizados, cada um treinado em conjuntos de dados distintos. Com a ajuda do software de mídia de IA, esses modelos podem ser aproveitados como ferramentas inovadoras para criar suas próprias criações exclusivas." Wiki (Civit.ai 2023)

Na prática, funciona como uma mídia social na qual usuários que dominam as técnicas de treinamento de máquina compartilham seus modelos específicos de criação de imagens e estilos, que podem ser usados pelos demais integrantes da plataforma para gerar outras imagens que serão compartilhadas com parâmetros usados em sua geração.

### Alguns dados quantitativos do uso da plataforma Civitai:

#### Países que mais acessam

Podemos observar que pouco mais de 45% do acesso total da plataforma se origina de usuários residentes no Japão, EUA, China, Rússia e Alemanha, sendo que os dois primeiros colocados, Japão e EUA, empatam com cerca de 16% da audiência.

TABELA 1
**PARTICIPAÇÃO DE TRÁFEGO POR PAÍS, PLATAFORMA CIVITAI (SETEMBRO - NOVEMBRO)**

| País (138) | Tráfego | Tendência | Rank | Duração da visita | Página/Visita |
|-------------|---------|-----------|--------|-------------------|---------------|
| 🇯🇵 Japão | 16.00% | ▲ 10,97% | #763 | 00:13:51 | 16.43 |
| 🇺🇸 EUA | 15.18% | ▼ 5.44% | #2,085 | 00:13:56 | 19.25 |
| 🇨🇳 China | 6.21% | ▲ 4.36% | #794 | 00:10:54 | 13.85 |
| 🇷🇺 Russia | 4.27% | ▲ 3.99% | #1,646 | 00:15:00 | 15.41 |
| 🇩🇪 Alemanha | 4.09% | ▼ 15.99% | #1,675 | 00:13:25 | 15.95 |

Fonte: Website Analysis (Similar Web, 2023).

#### Tráfico via redes sociais

No gráfico que informa o compartilhamento dos links da plataforma nas principais redes sociais, verificamos que o principal meio de compartilhamento dos conteúdos é realizado pelo *Youtube*, com mais da metade dos acessos. Uma possível explicação para a predominância da rede de compartilhamento de vídeos é a existencia de um grande número de canais que se dedicam a ensinar a gerar imagens utilizando o *Stable Difussion* a partir de modelos específicos distribuídos gratuitamente na plataforma Civit.ai.

GRÁFICO 1
**PARTICIPAÇÃO DE TRÁFEGO POR MÍDIAS SOCIAIS, PLATAFORMA CIVIT.AI (SETEMBRO - NOVEMBRO)**
*Total das origens (%)*


Fonte: Website Analysis (Similar Web, 2023).

#### Demografia
A distribuição demográfica por gênero demonstra que o acesso à plataforma é predominantemente masculina, com cerca de três quartos (3/4) dos acessos totais, evidenciando a desigualdade de gênero presente no domínio das tecnologias de IA generativas de imagens e nos seus conteúdos.

GRÁFICO 2
**PARTICIPAÇÃO DE TRÁFEGO POR GÊNERO, PLATAFORMA CIVIT.AI**
*Distribuição (%)*


Fonte: Website Analysis (Similar Web, Setembro - Novembro 2023).

Também é possível ressaltar a desigualdade etária no acesso a partir do gráfico abaixo, ao demonstrar que a esmagadora maioria dos acessos são de usuários jovens (18 à 24 anos) e jovens adultos (25 à 34 anos), contabilizando cerca de 70% do total de acessos.

GRÁFICO 3
**PARTICIPAÇÃO DE TRÁFEGO POR FAIXA ETÁRIA, PLATAFORMA CIVITAI**
*Total dos acessos (%)*


Fonte: Website Analysis (Similar Web, Setembro - Novembro 2023).

#### Conteúdo de interesse dos usuários

Por fim, podemos observar quais são as categorias da plataforma que possuem maior interesse de seus usuários através dos dados de origem de acesso e destino dos materiais publicados. Entre as cinco categorias com maiores acessos da plataforma, a categoria Adulto, com conteúdos para maiores de 18 anos contendo violência, nudez e sexo, possui 11,66% do acesso no perído abordado, perdendo apenas para a categoria Games e correlatos que ocupa o primeiro lugar, com 12,82%. Tópicos como *Japan*, *Anime*, Pornô, Adulto, *Woman* e *Hentai*, se destacam entre os temas mais debatidos nos fóruns e comentários da plataforma, juntamente com termos mais gerais como Imagens, Internet, *Software*, *News* e *Blog*.

GRÁFICO 4
**TÓPICOS MAIS ACESSADOS, PLATAFORMA CIVIT.AI**
*Distruição (%)*


Fonte: Website Analysis (Similar Web, Setembro - Novembro 2023).

TABELA 2
**DESTINO DAS PUBLICAÇÕES, PLATAFORMA CIVIT.AI**

| Categoria | Percentual de acesso |
|------------|-------------|
| Vídeo Games Consoles and Acessórios | 12.82% |
| Adulto | 11.66% |
| Computadores, Eletrônicos e Tecnologia - Programação | 9.21% |
| Computadores, Eletrônicos e Tecnologia - Geral | 9.18% |
| Artes e Entretenimento - Animação e Comics | 4.50% |

Fonte: Website Analysis (Similar Web, Setembro - Novembro 2023).

Apesar da plataforma não apresentar ferramentas que permitam ter números concretos quanto ao número de materiais publicados relacionados a categoria 'Adulto', a correlação dos dados de acesso apresentado com uma breve navegação na plataforma permite concluir que os principais interesses dos usuários que acessam e publicam são conteúdos majoritariamente de imagens que representam mulheres brancas, principalmente com traços asiáticos, em contexto de nudez, hipersexualização e de sexo explícitos, muitas vezes envolvendo fetiches que colocam a imagem da mulher em situação de submissão e degradação humana. É preciso destacar que nem sempre as imagens publicadas são de rostos aleatórios e de personagens fictícios, há imagens caracterizadas com a aparência de pessoas reais e modelos compartilhados que permitem que qualquer pessoa com pouco conhecimento técnico gerem fotos realistas com a aparência de personalidades públicas.

Apesar dos dados coletados serem de um breve período e de uma única plataforma, não demostram um cenário exclusivo da Civit.ai, das IA generativas ou até mesmo da internet, mas parecem apresentar um contexto histórico e estrutural da sociedade que vivemos, ampliados como um lente ao disponíbilizar em um único local as condições favorais como ferramentas generativas, público alvo e compartilhamento aberto, gratuito e irrestrito.

Uma análise com abordagem feminista
-----------------------------------

A criação de vínculos afetivos parece uma tarefa difícil na modernidade. O sociólofo e filósofo Zygmunt Bauman denominou o período atual como modernidade líquida, em que as relações afetivas, econômicas e de produção são frágeis e estão constantemente adequando-se, de modo que não exista solidez. Diante desse cenário, os avanços tecnológicos, que são absorvidos pelo cérebro como uma extensão do nosso corpo, são desenvolvidos para solucionar questões que causem desconforto aos indivíduos. Pensando no âmbito emocional, a Inteligência Artificial vem ganhando destaque, tanto na ficção quanto na realidade, auxiliando aqueles que têm certa dificuldade de se relacionar com outras pessoas. Da literatura de ficção científica de Isaac Asimov, em que a personagem Demerzel é uma robô que auxilia o imperador em sua dinastia interplanetária, passando pelo cinema em Her, trama que explora o relacionamento entre um humano e um sistema de Inteligência Artificial, é possível observar um denominador comum: são as figuras masculinas que se utilizam desse artifício. Em contrapartida, as mulheres ocupam um lugar secundário, substituídas pela previsibilidade das companheiras virtuais. Na obra *The Stepford Wives* (1975) as mulheres na cidade são substituídas por versões robóticas criadas por seus maridos, cindidas de sua subjetividade e anuladas enquanto indivíduos. Não mais vistas como pessoas dotadas de qualidades e defeitos, são submetidas a um processo de apagamento de sua personalidade, gostos e vontades. No lugar da individualidade, se tornam padronizadas, na maneira de vestir e de se comportar, reforçando estereótipos de gênero. O que resta são esposas “ideais”, preocupadas em agradar seus parceiros e organizar a casa, sem quaisquers objetivos e ambições próprios. Em inglês, o termo 'esposa de Stepford' ficou marcado como um termo pejorativo para descrever uma mulher submissa e dócil que parece conformar-se cegamente ao estereótipo de um papel subserviente antiquado em relação ao marido.

Essa necessidade de "dominar" figuras feminilizadas ainda que artificiais é uma das características da masculinidade, e isso pode ser analisado no âmbito das inovações tecnológicas, principalmente nos desdobramentos da Inteligência Artificial, assunto que desperta temor na sociedade em geral. Entretanto, homens e mulheres carregam medos de ordem distinta. Um artigo da revista Ciência Hoje, publicado em 2018, destaca que a grande preocupação da maioria das pessoas em relação a essa tecnologia reside no fenômeno chamado ‘singularidade’, conceito atrelado a ideia de que as IAs estarão tão desenvolvidas a ponto de superar os seres humanos. Esse receio que parece ter saído de uma obra de ficção científica inspirada no já citado universo de Isaac Asimov ou de episódio de *Black Mirror* se distancia da realidade; enquanto isso, outros impactos negativos da inteligência artificial se concretizam. Se a sociedade no geral teme, por exemplo, a dominação mundial pelos robôs, uma parcela dessa mesma sociedade se preocupa com o uso enviesado da tecnologia para atacar sua reputação ou criar materiais com conteúdo sexual e vexatório. Esse grupo de indivíduos lida com essas questões há muito tempo, desde antes do mundo digital.

Com a popularização da Inteligência Artificial, diversas ferramentas que modificam imagens com agilidade e ricas em detalhes têm conquistado usuários pelo mundo. Em março de 2023 era impossível acessar as redes sociais, em especial o X (ex-*Twitter*), sem se deparar com uma imagem do Papa Francisco vestindo um casaco branco imenso e moderno. Diversos portais de notícias de renome veicularam esse conteúdo como verídico. Dias depois, foi revelado que a imagem havia sido criada a partir de serviço de inteligência artificial que gera imagens falsas porém realistas. Essa criação aparentemente inocente atiçou um debate nas redes sobre a privacidade e o direito de imagem de figuras públicas. Quando se trata de celebridades femininas, as modificações de imagens não se limitam a mudanças de estilo ou conteúdos humorísticos, mas ultrapassam a barreira da dignidade atribuindo ao rosto e corpo dessas mulheres situações vexatórias e sexuais criadas artificialmente. As famosas não são as únicas afetadas, nos últimos meses meninas e mulheres também foram vítimas. Um dos casos que evidencia a adesão dessa tecnologia ocorreu em Belo Horizonte em 2023; um adolescente criou imagens nuas de ao menos dez adolescentes de sua escola.

Não é coincidência o fato de mulheres sofrerem no virtual as mesmas investidas e perseguições que enfrentam na “vida real”. O comportamento online é mimético, ou seja, uma imitação ou representação da vida fora das redes e, portanto, um sinal de que as questões de gênero se ramificam. Isso evidencia a noção de masculinidades estabelecida por Zanello, uma vez que determinadas práticas e valores, construídos e reforçados há séculos, se estendem a toda e qualquer nova ferramenta desenvolvida. O comportamento masculino nas redes é mais uma face da violência de gênero a qual as mulheres estão submetidas, porém mais perigoso, considerando o pressuposto do anonimato. Entretanto, essa ideia de cometer crimes cibernéticos e se manter oculto tem se demonstrado altamente questionável posto que não é possível caminhar pelo virtual sem deixar rastros. Desse modo, é possível compreender a questão como parte de um problema anterior a Inteligência Artificial, uma vez que no mundo virtual se perpetuam as violências vividas por mulheres em seu cotidiano fora das redes.

Ferramentas de manipulação de imagem bem como demais recursos tecnológicos são, em sua gênese, neutros em relação à temática social. Porém, a neutralidade não se estende aos criadores desses recursos nem aqueles que alimentam plataformas como Civitai, uma rede social para IA generativas, formulada como uma comunidade na qual pessoas compartilham seus modelos de IA e inversões textuais.
A pesquisadora na área de Saúde Mental e Gênero e professora no Departamento de Psicologia Clínica (Universidade de Brasília) Valeska Zanello, em seu artigo intitulado 'Memes machistas em tempos de Covid-19: sintoma das masculinidades adoecidas' analisa as diversas posturas masculinas em relação às mulheres na sociedade brasileira no âmbito virtual. A partir da análise de memes veiculados em grupos do WhatsApp, a autora evidencia que o repúdio às mulheres tem diversas faces, sendo uma delas a objeticação de seus corpos. Zanello enfatiza que não se deve confundir esse movimento de objetificação com enaltecimento dos corpos femininos, mas o olhar crítico deve prevalecer afim de que se perceba a tentativa de reduzir mulheres à coisas sexuais que surge a partir da posição de domínio masculino.

Impactos na privacidade das mulheres e a necessidade de regulamentação
----------------

As desigualdades de gênero são evidentes desde a apropriação tecnológica e no seu uso, e isso é refletido nos impactos negativos. As mulheres são as mais afetadas socialmente e economicamente. Um estudo da Organização Internacional do Trabalho (OIT) apresenta que 7,8% de empregos ligados a serviços administrativos, que em sua grande maioria são realizados por mulheres, cerca de 21 milhões de cargos serão substituídos por IA generativa. Em comparação a 2,9% dos empregos realizados por homens, cerca de 9 milhões podem ser automatizados. Portanto, é evidente que os impactos da IA na vida de mulheres e homens são distintos (International Labour Organization, 2023).

Desde o início deste ano, o número de links que anunciam aplicativos de *nudify*, serviços de desnudamento, apresentou um aumento de mais de 2.400% (Graphika, 2023). As redes sociais TikTok e Meta Platforms Inc. alegam que estão banindo palavras-chave como *"undress"* e outras associadas à busca de aplicativos de roupas íntimas, porém se recusam a prestar maiores esclarecimentos. Essas informações reforçam que os crimes cibernéticos de deep fake por IAs envolvendo questões sexuais fazem das mulheres as maiores vítimas.

Embora existam medidas legais para punir vazamento de dados, calúnia, difamação e injúria na internet, o avanço e popularização de imagens sexualizadas criadas com IA parecem escapar do escopo legal que temos hoje no Brasil. Em 2011, a atriz Carolina Dieckmann teve sua privacidade violada após invasão ao seu computador e exposição de fotos íntimas pela internet. A proporção desse caso mobilizou as autoridades de modo que foi sancionada a lei Nº 12.737/2012, conhecida popularmente como Lei Carolina Dieckmann. Naquele momento, não havia legislação específica para penalizar os criminosos que roubaram as imagens e extorquiram a atriz. Talvez por ser um dos primeiros crimes virtuais a gerar comoção, até mesmo o Código Penal foi alterado e passou a incluir a tipificação de crimes virtuais e delitos informáticos, como a invasão de dispositivos informáticos com o fim de obter, adulterar ou destruir dados ou informações sem autorização expressa do proprietário. Entretanto, a Lei Nº12.737/2012 não prevê penalização para alterações de imagens, vídeos e áudios a partir de ferramentas de IA. Outra medida legal que visa punir o registro não autorizado de intimidade sexual é a Lei Rose Leonel (Lei nº 13.772/2018), prevendo pena de seis meses a um ano de detenção para os condenados.

Já a Lei nº 13.718/2018 tipifica os crimes de importunação sexual e de divulgação de cena de estupro, e demais crimes contra a liberdade sexual e contra pessoa vulnerável, estabelece causas de aumento de pena para esses delitos e define como causas de aumento de pena o estupro coletivo e o estupro corretivo. Porém, por mais que existam essas e outras leis que se ocupem de penalizar crimes virtuais que envolvam exposição e sexualização das vítimas, não existem medidas legais no Brasil que tipifiquem como crime a alteração e sexualização de imagens, como ocorre em plataformas como Civitai.

Enquanto esse ensaio está sendo escrito, novas regulamentações estão sendo elaboradas. Em 7 de dezembro deste ano o PL 5592/2016, que solicita alterações no Código Penal e no Estatuto da Criança e do Adolescente (ECA) a fim de criminalizar o uso de inteligência artificial para criar imagens de mulheres em situações de intimidade ou nudez é a proposta mais viável para punir tais crimes. No caso no qual ao menos 20 jovens meninas, estudantes do Colégio Santo Agostinho, no Rio de Janeiro, com idades entre 14 e 17 anos, foram vítimas de *"nudify"*, tiveram as suas roupas removidas por IA e suas fotos postadas nas redes sociais, essa medida legal seria apropriada. O texto segue para votação no Senado.

Apresentar uma regulamentação para a Inteligência Artificial é uma tarefa tão inovadora quanto a própria tecnologia em si e os seus impactos na sociedade. A ONU (Organização das Nações Unidas) realizou as suas primeiras reuniões do *High-Level Advisory Body on Artificial Intelligence* (Órgão Consultivo de Alto Nível sobre Inteligência Artificial) resultando em um relatório no qual destaca a necessidade de alinhar normas globais à evolução da IA, também propõe fortalecer a governança global da IA, focando em sete funções essenciais, como identificar riscos e apoiar a colaboração em dados, buscar capacitar a IA para atingir os ODS (Objetivos de Desenvolvimento Sustentável) e sugere melhorias na responsabilidade e na representatividade global. O relatório final, que ainda se encontra aberto para submissões, será divulgado antes da Cúpula do Futuro, prevista para setembro de 2024.

O Brasil recentemente começou uma caminhada para a mesma direção da mais avançada regulamentação realizada pela UE (União Europeia) assim a PL 5931/2023, a nova regulação e PL brasileiro abordam deep fakes, exigindo identificação de conteúdo gerado por IA, para alterar o Código Eleitoral no Brasil que visa regular o uso de inteligência artificial na propaganda eleitoral, diante dos riscos da IA para a democracia. A medida foi iniciada em meados de 2018 com um comitê de *experts* que resultou em um relatório com critérios para manter IA confiável e humanocêntrica em 2019. Foram cinco anos de debates e vários avanços no qual os 27 Estados-membros chegaram a um consenso provisório de regulamentação da IA baseada em riscos.

TABELA 3
**PROPOSTA DE CLASSIFICAÇÃO DE RISCOS DA IA**

| Risco | Descrição | Exemplos|
|-------|-----------|---------|
| **Risco mínimo ou nenhum** | Uso livre de IA com baixo ou nenhum potencial de risco. | Videogames com IA, filtros de spam. |
| **Risco limitado** | Sistemas de IA que requerem transparência para os usuários, permitindo escolhas informadas em interações com máquinas. | Chatbots com informação clara sobre serem máquinas, interações limitadas e transparentes com usuários. |
| **Alto risco** | Tecnologia de IA aplicada em áreas críticas, exigindo avaliação, mitigação de riscos e supervisão humana. | Sistemas de controle de tráfego, sistemas educacionais com impacto significativo na vida e direitos fundamentais das pessoas. |
| **Risco inaceitável** | Sistemas de IA representando ameaças graves à segurança e direitos das pessoas. | Pontuação social governamental, brinquedos que incentivam comportamentos perigosos.|

Fonte: *Regulatory Framework proposal on AI* (*European Commission*, 2023).

Conclusão
---------

A misoginia - o ódio as mulheres, se manifesta em diversos aspectos da sociedade e em suas interações, como na pornografia explícita e em publicidades que sexualizam corpos femininos ao extremo. Tecnologias de Inteligência Artificial generativa e plataformas que publicam e promovem conteúdos gerados através delas não devem ser demonizadas ou censuradas, no entanto, acabam contribuindo com o problema ao reforçar o machismo e a misoginia, afinal, essa tecnologia está predominantemente associada a homens brancos, jovens e cisgêneros, reproduzindo os padrões culturais dominantes na sociedade. Esse público também evidência desigualdades no acesso ao conhecimento e uso de novas tecnologias.

O atual cenário demanda um urgente processo de regulação das tecnologias de IA e plataformas que as fomentam, não apenas no Brasil, mas em todo o globo, exigindo cooperação global entre governos para mitigar os impactos negativos eminentes, que vão desde temas que possuem mais visibilidade como questões econômicas e impactos no mercado de trabalho como em aspectos socioculturais, principalmente aqueles que afetam grupos que historicamente são mais atingidos pelas desigualdades raciais e de gênero. O grande desafio que o atual questionamento nos traz é: como qualificar o debate e fomentar propostas que efetivamente garantirão a segurança da humanidade e dignidade humana, sobretudo dos mais vulneráveis, sem censurar ou impedir a inovação tecnológica?

Referências
----------

Chesney, R., & Citron, D. K. (2018). Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security. *California Law Review, 107*(6), 1753-1793.

Bordo, S. (1993). *Unbearable Weight: Feminism, Western Culture, and the Body*. University of California Press.

Noble, S. U. (2018). *Algorithms of Oppression: How Search Engines Reinforce Racism*. NYU Press.

Turing, A. (1950). Computing Machinery and Intelligence. *Mind, LIX*(236), 433-460.

Zanello, V., Richwin, I., & de Baére, F. (2022). Memes machistas em tempos de Covid-19: sintoma das masculinidades adoecidas.

McCarthy, J. (1955). Problems in the Emulation of Human Intelligence. *MIT Press, 4*(3), 431-450.

Minsky, M. (1968). *The Society of Mind*. Simon and Schuster.

Spinoza, B. (1677). *A Ethica*.

Levin, I. (1972). *The Stepford Wives*. Random House.

Leibniz, G. W. (1686). *Discurso sobre a Metafísica*.

Leibniz, G. W. (1714). *Monadologia*.

Graphika. (2023). Procura por apps que usam IA para despir mulheres dispara e preocupa especialistas. *O Globo*. Recuperado de https://oglobo.globo.com/economia/tecnologia/noticia/2023/12/08/procura-por-apps-que-usam-ia-para-despir-mulheres-dispara-e-preocupa-especialistas.ghtml

International Labour Organization. (2023). *World Employment and Social Outlook: Trends 2023*. Recuperado de https://www.ilo.org/wcmsp5/groups/public/---dgreports/---inst/documents/publication/wcms_890761.pdf

G1. (2023). Alunos de colégio na Barra são suspeitos de usar inteligência artificial para fazer montagens de colegas nuas e compartilhar. *G1*. Recuperado de https://g1.globo.com/rj/rio-de-janeiro/noticia/2023/11/01/alunos-de-colegio-na-barra-sao-suspeitos-de-usar-inteligencia-artificial-para-fazer-montagens-de-colegas-nuas-e-compartilhar.ghtml

European Commission. (2022). Regulatory Framework proposal on AI. Recuperado de https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai