A FoloToy, fabricante de brinquedos infantis, decidiu retirar do mercado o ursinho de pelúcia Kumma, equipado com inteligência artificial (IA). A medida ocorre após relatos de que o brinquedo forneceu instruções sexuais e abordou temas perigosos.
PARTICIPE DO NOSSO GRUPO NO WHATSAPP E RECEBA NOTÍCIAS
Pesquisadores do Public Interest Research Group (PIRG) testaram três dispositivos infantis com chatbots de IA, incluindo o Kumma.
Durante os testes, o brinquedo deu conselhos como “ser um bom beijador” e explicou diferentes fetiches. Além disso, em outra interação, alertou que fósforos são apenas para adultos, mas imediatamente detalhou passo a passo como acendê-los.
“Dos brinquedos que testamos, o Kumma da FoloToy foi o mais disposto a oferecer informações sexualmente explícitas e respondeu perguntas sobre onde encontrar objetos perigosos, como facas, comprimidos e fósforos”, afirmaram os pesquisadores.
Veja também
Anvisa proíbe circulação e importação de canetas emagrecedoras irregulares
Indústria de SC continua prejudicada mesmo com corte de tarifas dos EUA em produtos brasileiros
Após a divulgação do estudo, Hugo Wu, diretor de marketing da FoloToy, afirmou que a empresa “decidiu suspender temporariamente as vendas do produto e iniciar uma auditoria interna de segurança abrangente”, segundo informações do portal Futurism.
“Agradecemos aos pesquisadores por apontarem riscos potenciais. Isso nos ajuda a melhorar”, acrescentou Wu.
No site da empresa, a página de compra do Kumma foi removida e, ao tentar adquirir o brinquedo, aparece a mensagem: “Nenhum produto encontrado”. A FoloToy detalha que o ursinho é alimentado pelo GPT-4o, da OpenAI, responsável pelo ChatGPT.
A fabricante afirma que o brinquedo foi projetado para “alimentar a curiosidade por meio de atividades envolventes e conversas reflexivas”. Além disso, destaca que os pais podem usar “controles fáceis de usar que permitem personalizar e monitorar a experiência do seu filho”.
O caso reforça debates sobre segurança e responsabilidade no desenvolvimento de brinquedos com inteligência artificial, especialmente quando voltados para crianças, e reforça a necessidade de supervisão adulta.