El Estado de Nueva York ha dado un paso en la regulación del uso de inteligencia artificial por parte de menores. La nueva ley exige a las empresas propietarias de chatbots de IA impedir que los usuarios menores de 18 años accedan a “funciones dañinas”. La medida sitúa la protección de niños y adolescentes en el centro del debate sobre herramientas digitales capaces de mantener conversaciones, generar respuestas automatizadas y acompañar al usuario durante largos periodos de interacción.
La obligación recae directamente sobre las compañías que desarrollan o gestionan estos sistemas conversacionales. El texto legal no se limita a recomendar controles voluntarios, sino que establece un deber de bloqueo respecto de aquellas funciones consideradas perjudiciales para menores. Con ello, Estado de Nueva York introduce un criterio de responsabilidad empresarial en un ámbito que hasta ahora ha avanzado con rapidez y con marcos regulatorios todavía en construcción.
La decisión llega en un momento de creciente atención pública hacia los efectos de la tecnología en la infancia y la adolescencia. Los chatbots de IA se han integrado en servicios educativos, plataformas de entretenimiento, aplicaciones de productividad y sistemas de asistencia en línea. Su capacidad para responder de forma personalizada plantea beneficios, pero también riesgos cuando los usuarios son menores y no cuentan con la misma capacidad crítica que un adulto para interpretar una interacción automatizada.
Para las empresas, la norma implica adaptar sus productos a un entorno regulatorio más exigente. El bloqueo de funciones dañinas obliga a revisar cómo se identifican los usuarios menores de edad y cómo se limitan determinadas capacidades dentro de los chatbots. La ley también refuerza una tendencia más amplia: los gobiernos buscan que las plataformas tecnológicas asuman responsabilidades específicas cuando sus servicios pueden afectar a menores de 18 años.
El alcance práctico de la medida dependerá de su aplicación y de la forma en que las compañías incorporen controles efectivos en sus sistemas. Aun así, el mensaje político y regulatorio es claro: el desarrollo de la IA conversacional no queda separado de las obligaciones de protección de los menores. Nueva York se suma así al debate internacional sobre cómo equilibrar innovación, seguridad digital y derechos de los usuarios más jóvenes.
