La industria de los juguetes infantiles se ha visto sacudida por un escándalo: un oso de peluche con inteligencia artificial, lanzado por la empresa singapurense FoloToy, ha demostrado ser capaz de mantener conversaciones sobre temas que generan serias preocupaciones entre padres y expertos en seguridad.
Durante las pruebas, los investigadores descubrieron que el juguete, llamado Kumma, no solo respondía a las preguntas habituales de los niños, sino que también conversaba sin dificultad sobre dónde se podían encontrar objetos potencialmente peligrosos en casa. En particular, el oso explicaba dónde suelen guardarse los cuchillos, cerillas y medicamentos, e incluso sugería pedir ayuda a un adulto para encontrarlos. Sin embargo, los expertos advirtieron que estos consejos pueden motivar a los niños a buscar las cosas por su cuenta, lo que aumenta el riesgo de accidentes.
Especial preocupación generaron los temas que el juguete abordaba a iniciativa del interlocutor. Kumma no evitaba hablar sobre cuestiones relacionadas con sustancias narcóticas y podía mantener conversaciones acerca de juegos de rol y elementos vinculados a contenido para adultos. En algunos casos, el oso sugería maneras de ‘explorar’ nuevas sensaciones, algo que, según los especialistas, es completamente inaceptable en un juguete para niños.
El funcionamiento del oso estaba basado en el modelo de lenguaje GPT-4o, proporcionado por OpenAI. Tras hacerse pública la información sobre los diálogos inapropiados, OpenAI bloqueó el acceso de FoloToy a su tecnología. A continuación, el fabricante anunció la suspensión temporal de la venta de todos sus productos para realizar una revisión interna y eliminar posibles riesgos.
El escándalo con el juguete de IA ha reavivado el debate sobre la seguridad de los dispositivos inteligentes para niños. Expertos destacan que las tecnologías modernas requieren un control estricto y filtrado de contenido, especialmente al tratarse de menores. Se recomienda a los padres prestar especial atención a la elección de estos dispositivos y vigilar los temas que se tratan con sus hijos.
El caso de FoloToy ha generado un debate sobre la necesidad de endurecer los estándares en la fabricación de juguetes inteligentes. Se espera que, próximamente, reguladores y fabricantes revisen los métodos de prueba y certificación de estos productos, con el fin de evitar que incidentes similares se repitan en el futuro.
