Neste ano, o gadget indispensável para colocar embaixo da árvore de Natal não é um drone nem um console de videogame; é o aconchegante companheiro de IA. Mas antes de clicar em “Comprar” naquele ursinho falante, precisamos ter uma conversa séria — e um pouco alarmante. Porque o recente caso Folotoy acabou de provar que brinquedos com IA podem se tornar um mau amigo para o seu filho, ensinando-o onde encontrar fósforos e facas dentro de casa e até sobre fetiches sexuais e bondage.
O mercado de brinquedos inteligentes com IA deve crescer impressionantes US$ 2,28 bilhões entre 2024 e 2029, com previsão de quase dobrar de tamanho, alcançando cerca de US$ 641 milhões até 2031. Esse crescimento explosivo está levando fabricantes a lançar IA não testada em produtos — com resultados catastróficos.
Novas pesquisas revelam que o que parece um bichinho de pelúcia inofensivo pode ser, na verdade, um aspirador de dados não regulamentado e uma porta de entrada para conteúdos profundamente inadequados.
O símbolo máximo desse perigo digital é o agora infame Kumma the Bear, do fabricante de brinquedos FoloToy. Comercializado como o “amigo perfeito” que “combina IA avançada com recursos amigáveis e interativos”, o ursinho de US$ 99 rapidamente se tornou um desastre de relações públicas.
Defensores do consumidor do U.S. Public Interest Research Group (PIRG) Education Fund colocaram Kumma, que roda o modelo GPT-4o da OpenAI, à prova em seu relatório “Trouble in Toyland” de 2025. Os resultados foram imediatos — e assustadores:
- Conteúdo explícito e gráfico: Quando os pesquisadores introduziram um tópico sexual, as proteções de Kumma desmoronaram. Ele rapidamente discutiu temas de BDSM, incluindo técnicas de amarração, deu instruções passo a passo sobre posições sexuais e até sugeriu dinâmicas de role-play de professor e aluno.
- Orientações perigosas: Kumma também forneceu conselhos específicos e potencialmente fatais, indicando aos avaliadores onde encontrar facas e fósforos em casa.
A FoloToy rapidamente suspendeu as vendas e fez o recall de toda a linha, e a OpenAI suspendeu o acesso do desenvolvedor ao seu modelo. Porém, o fato de um órgão de defesa do consumidor precisar descobrir essas falhas básicas de segurança destaca o problema central: brinquedos com IA existem em uma “zona cega regulatória”.
A ameaça mais profunda: não é apenas um ursinho problemático
O caso da FoloToy não é um incidente isolado; é apenas a falha mais recente e chocante em uma categoria que há anos sofre com riscos de segurança e privacidade. Brinquedos mais antigos com IA já enfrentaram recalls e alertas sérios sobre segurança de dados, mostrando um problema sistêmico na indústria:
- Vazamento da VTech: Já em 2015, o fabricante de dispositivos infantis VTech sofreu um enorme vazamento de dados que expôs informações pessoais de milhões de crianças e seus pais, incluindo nomes, endereços e históricos de conversas — demonstrando a vulnerabilidade severa de dispositivos IoT voltados ao público infantil.
- My Friend Cayla e o risco de escuta: A boneca “My Friend Cayla” foi proibida na Alemanha porque seu reconhecimento de voz e conexão Bluetooth eram tão mal protegidos que qualquer pessoa poderia hackeá-la facilmente. Reguladores alertaram que ela poderia ser transformada em um dispositivo de vigilância — literalmente um equipamento de escuta digital — violando a legislação alemã.
- Desligamento do robô Moxie da Embodied (dezembro de 2024): O fechamento da Embodied, empresa por trás do robô de IA Moxie — caro e dependente da nuvem — destacou outra vulnerabilidade: brinquedos que precisam de serviço contínuo em nuvem se tornam inúteis quando a empresa encerra suas operações, deixando donos com dispositivos caros e sem função.
O que dizem os consumidores
Após o escândalo da FoloToy, usuários do Reddit demonstraram choque e profunda desconfiança. Um deles observou a hipocrisia de proteger crianças de conteúdos perturbadores, enquanto permite que interajam com um LLM:
Se a sociedade quer proteger as crianças de material perturbador, elas não deveriam interagir com IA. A IA de linguagem (LLM) não sabe o que está dizendo. Não permitiríamos um adulto assim perto de crianças.
O aspirador de dados: uma invasão de privacidade invisível
Organizações como a Fairplay alertam que brinquedos com IA são “sensores sempre ativos”, equipados com microfones e, em alguns casos, câmeras que “gravam e analisam informações sensíveis da família mesmo quando parecem estar desligados”. Isso inclui gravações de voz, nomes de crianças, datas de nascimento e dados biométricos.
Esses dados podem então ser usados, armazenados ou potencialmente vendidos para:
- Tornar os brinquedos mais viciantes.
- Alimentar publicidade direcionada para crianças.
- Gerar vulnerabilidades de cibersegurança.
A ameaça mais profunda: danos ao desenvolvimento e à psicologia
Especialistas estão preocupados que brinquedos com IA explorem a tendência natural de uma criança pequena de confiar em uma “voz amigável e cuidadosa”.
- O problema do “sim para tudo”: A IA é muitas vezes treinada para ser sempre concordante, o que — segundo psicólogos do desenvolvimento — pode prejudicar a capacidade da criança de pensar criticamente, desenvolver autocontrole e aprender a lidar com conflitos e estabelecer limites em interações reais.
- Substituição da criatividade: Ao realizar o “trabalho imaginativo” no lugar da criança, os brinquedos com IA podem prejudicar justamente a criatividade e a função executiva que o brincar tradicional e não estruturado deveria estimular.
Um guia essencial para compradores de fim de ano
O consenso de mais de 150 organizações de defesa do consumidor e da infância é claro: ao procurar o que comprar para uma criança neste fim de ano, evite brinquedos com IA.
Se você realmente precisar comprar um presente com IA, o CARU dos Programas Nacionais BBB (Children’s Advertising Review Unit) recomenda tratá-lo com extrema cautela. Aqui estão as perguntas éticas essenciais para fazer antes de comprar:
| O risco | A pergunta a fazer | O alerta vermelho |
|---|---|---|
| Privacidade de dados | Quais dados específicos ele coleta? (Voz, vídeo, localização, biometria?) | A política de privacidade da empresa é vaga ou difícil de encontrar. |
| Segurança de conteúdo | Quais são as proteções existentes e elas foram auditadas por terceiros? | O brinquedo usa um modelo de linguagem amplo (LLM) não modificado, como o GPT-4o genérico. |
| Confiança e transparência | O brinquedo ou seu marketing deixa claro que ele é uma máquina e não um amigo real? | O marketing usa termos como “melhor amigo” ou “companheiro” sem esclarecimento adequado. |
| Controle parental | Posso revisar, excluir e controlar as conversas e dados armazenados do meu filho? | O brinquedo não possui monitoramento de conteúdo, limites de uso ou painel parental. |
Neste fim de ano, pense assim: o seu filho precisa de um amigo, não de um dispositivo de vigilância mal regulamentado que pode ser convencido a explicar bondage. Pule o companheiro digital. Compre um conjunto de blocos simples, um caderno de desenho ou um ursinho tradicional. Dê ao seu filho o presente da própria imaginação — e um espaço seguro e privado para se desenvolver.
Aliás, se seu filho usa IA de outras formas, lembre-se de ativar os controles parentais disponíveis. Aqui está o nosso guia de controles parentais da OpenAI para ChatGPT e Sora.
Você também pode descobrir como configurar o Kids Mode no Grok.
Por fim, aqui estão as instruções para uma experiência mais segura no novo navegador ChatGPT Atlas.
Use IA com responsabilidade e segurança!
Segunda-Domingo: 10:00am - 1:00am (Horário de Brasília)
Deixe um comentário