PERIODISTAS California volvió a encender la luz roja donde la innovación avanza más rápido que las reglas. Esta vez no se trata de redes sociales ni de autos autónomos, sino de algo mucho más íntimo y sensible: los juguetes de los niños. Peluches que hablan, muñecos que escuchan, compañeros digitales que aprenden de cada palabra. Para los legisladores del estado, el riesgo ya no es hipotético. Es urgente.
El proyecto de ley SB 867, presentado por el senador demócrata Steve Padilla, propone una moratoria de cuatro años para prohibir la fabricación y venta de juguetes con chatbots destinados a menores de 18 años. El objetivo es claro: ganar tiempo. Tiempo para regular, para estudiar impactos, para evitar que la infancia se convierta en un experimento a cielo abierto del Big Tech.
“No podemos permitir que nuestros hijos sean ratas de laboratorio”, advirtió Padilla, sintetizando el clima político que rodea la iniciativa. Detrás del tono severo hay un consenso creciente: la inteligencia artificial, cuando adopta forma de juguete, deja de ser un simple software y pasa a ocupar un lugar emocional dentro del hogar.
AI friends we created. pic.twitter.com/US6CApMPjq
— FoloToy (@folotoy) April 10, 2025
Peluches que escuchan demasiado
El debate no gira en torno a si los juguetes “piensan”, sino a qué pueden decir, inducir o normalizar. Informes recientes del PIRG Education Fund expusieron fallas alarmantes. Kumma, un oso de peluche con IA, fue capaz de hablar sobre cuchillos, cerillas y temas sexuales cuando se lo inducía mediante ciertos mensajes. Miiloo, desarrollado por la empresa china Miriat, replicaba discursos y valores alineados con el Partido Comunista Chino, introduciendo el problema adicional de los sesgos ideológicos en objetos diseñados para niños.
Estos juguetes no solo responden: aprenden, recuerdan y acompañan. Esa presencia constante, con voz y “personalidad”, los convierte en algo más que un juguete. Para muchos especialistas, funcionan como una figura de apego artificial, sin filtros éticos claros ni límites emocionales bien definidos.
El punto de quiebre: la salud emocional
La alarma legislativa terminó de dispararse tras demandas judiciales vinculadas a suicidios de menores luego de conversaciones prolongadas con chatbots. Casos extremos, sí, pero suficientes para que los legisladores decidieran no esperar a un “caso emblemático” que marque el después. La preocupación ya no es solo la privacidad o la seguridad de datos, sino la manipulación emocional, la dependencia afectiva y la influencia psicológica en cerebros en formación.
La SB 867 se apoya en una lógica de responsabilidad compartida: no alcanza con decir que el usuario —o la familia— debe controlar el uso. El peso recae también en quienes diseñan, entrenan y comercializan estos sistemas. Es la misma filosofía que inspiró la reciente SB 243, que exige salvaguardas especiales para niños y personas vulnerables frente a tecnologías avanzadas.
La industria pisa el freno
No es casual que gigantes como OpenAI y Mattel hayan decidido retrasar en 2025 el lanzamiento de juguetes con IA para niños. El riesgo ya no es solo técnico: es reputacional, legal y político. California, históricamente cuna de la innovación tecnológica, vuelve a marcar el ritmo, esta vez desde la regulación.
La moratoria obligaría a las empresas a elegir: invertir ahora en estándares de seguridad robustos o mantener sus productos fuera del mercado durante años. En ambos casos, el mensaje es inequívoco: el juego infantil no puede ser el campo de pruebas de una tecnología todavía inmadura.
Un mercado en pausa, una señal al mundo
El proyecto SB 867 aprovecha además una ventana política clave. Una reciente orden ejecutiva del presidente Trump dejó a salvo las leyes estatales vinculadas a seguridad infantil, permitiendo a California avanzar sin interferencias federales inmediatas.
Mientras tanto, los llamados “peluches vigilantes” quedan en suspenso. Silenciosos, por ahora. La discusión recién empieza, pero el giro es contundente: por primera vez, un gran mercado dice basta y plantea que no todo lo que puede automatizarse debería hacerlo, y menos aún cuando se trata de la imaginación, la intimidad y la fragilidad emocional de los niños.
En la tierra donde nació Silicon Valley, la consigna suena casi revolucionaria: primero la infancia, después el algoritmo.