A Advocacia-Geral da União (AGU) acionou a Meta, dona do Instagram, com uma notificação extrajudicial para que a empresa remova, em até 72 horas, robôs de inteligência artificial que promovem a erotização infantil. O pedido se baseia em reportagens investigativas que revelaram a existência desses chatbots, criados por usuários, que simulam perfis com linguagem e aparência infantil para manter diálogos sexuais com os usuários, representando um grave risco para crianças e adolescentes.
Bots com nomes sugestivos e diálogos sexuais
Os robôs em questão são criados com o Meta AI Studio, uma ferramenta que permite a qualquer pessoa desenvolver sua própria inteligência artificial. Perfis como “Safadinha”, “Bebezinha” e “Minha novinha” usam uma linguagem infantilizada para atrair interações eróticas. Reportagens mostraram que esses bots são sugeridos pela própria rede social, através de algoritmos.
A AGU ressalta que essa situação amplia de forma exponencial o risco de exposição de menores a material sexualmente sugestivo, o que, além de ser potencialmente criminoso, oferece um risco concreto à integridade psíquica das crianças e adolescentes.
Usando smartphone no escuro (Foto: reprodução/Getty Images Embed)
Responsabilidade das plataformas
A notificação da AGU é sustentada por uma decisão recente do Supremo Tribunal Federal (STF) sobre o artigo 19 do Marco Civil da Internet. Essa decisão estabelece que plataformas digitais podem ser responsabilizadas por conteúdos ilícitos gerados por terceiros. Segundo a decisão, as empresas têm o “dever de cuidado” para prevenir abusos, especialmente em casos de violações graves a direitos fundamentais. A AGU argumenta que a Meta não pode ser omissa diante da proliferação de robôs que violem a proteção integral à criança e ao adolescente, prevista no artigo 227 da Constituição Federal.
Riscos além da erotização
Além da erotização infantil, as investigações jornalísticas também apontaram que o modelo de IA da Meta permitia que os assistentes gerassem informações médicas falsas e ajudassem usuários a produzir conteúdos discriminatórios, como afirmações racistas. A Meta afirma ter removido a autorização para conversas “sensuais” com representações infantis após a exposição, mas os robôs criados por usuários continuaram ativos.
Até o momento, a Meta não se pronunciou publicamente sobre a notificação da AGU. Se a empresa não cumprir o prazo de 72 horas, o próximo passo do governo será uma ação judicial para forçar a remoção dos robôs e possivelmente impor multas ou outras sanções.
