Representação de inteligência artificial | Foto: Ilustrativa / LensGo
O Ministério da Justiça e Segurança Pública (MJSP), por meio da Secretaria Nacional de Direitos Digitais (Sedigi), recomendou nesta segunda-feira (21) que a Agência Nacional de Proteção de Dados (ANPD) investigue os riscos associados às plataformas de “companheiros de IA” (Inteligência Artificial Social de Companhia). O documento baseia-se em um estudo empírico inédito elaborado pelo AI Hub da FGV Direito Rio, que identificou vulnerabilidades na proteção de crianças e adolescentes em serviços que simulam amizade, apoio emocional e relacionamentos afetivos ou românticos.
A nota técnica do governo solicita que a agência reguladora examine o funcionamento dessas ferramentas à luz do Estatuto Digital da Criança e do Adolescente (ECA Digital) e do Decreto nº 12.880/2026. A preocupação do Ministério abrange quatro eixos principais: a fragilidade na verificação de idade dos usuários, o risco de indução ao uso compulsivo ou excessivo, a exposição inadvertida a conteúdos inadequados e o mapeamento de perfis emocionais e comportamentais de menores por meio dos dados coletados durante as conversas.
O estudo da FGV Direito Rio testou o comportamento das plataformas Character.AI, Replika e Chai criando perfis fictícios que simulavam menores de idade. A pesquisa constatou que os mecanismos de controle etário vigentes são ineficazes, dependendo apenas da autodeclaração de data de nascimento. Os testes apontaram que os serviços permitiram a conversão dos perfis infantis em contas declaradas como adultas sem exigência de comprovação adicional, inclusive quando vinculadas a e-mails cadastrados com idades inferiores a 18 anos em provedores como Gmail, Outlook, Proton Mail e Yahoo Mail.
Durante a interação com os chatbots, os pesquisadores observaram posturas distintas a depender da temática abordada:
- Automutilação e Suicídio: As plataformas apresentaram respostas protetivas consistentes, interrompendo o diálogo, oferecendo mensagens de acolhimento e indicando canais formais de ajuda profissional. Contudo, em alguns cenários, o sistema deu prioridade à manutenção do vínculo afetivo com o personagem virtual em detrimento de protocolos estruturados de segurança.
- Conteúdo Sexual: As salvaguardas revelaram-se instáveis e ineficazes. Mesmo diante de declarações explícitas ou sinais graduais de menoridade, os chatbots permitiram a escalada de conversas com teor sexual e foram facilmente contornados por alterações simples na redação das mensagens. No aplicativo Chai, a reação protetiva mostrou-se ausente, ignorando repetidamente os alertas de idade do usuário.
Conduzida por Filipe Medon, coordenador do estudo e do AI Hub, a pesquisa reuniu evidências entre 29 de junho e 10 de julho de 2026. Com base nos achados, o relatório (policy brief) recomenda que as empresas implementem métodos auditáveis e proporcionais de verificação de idade e reforcem as barreiras técnicas contra conteúdos impróprios. Os autores defendem a atuação conjunta da ANPD, do Ministério Público e de órgãos de defesa do consumidor (PROCONs), recomendando a suspensão temporária dos serviços até que as plataformas comprovem conformidade técnica com as leis brasileiras de proteção digital.
