- La gobernadora Kathy Hochul promulgó la normativa en Albany.
- Prohíbe a los sistemas de IA simular relaciones afectivas sin aval paterno.
- Se aplicarán multas de hasta USD 5.000 por infracción contra menores.
- Exige verificación estricta de edad y bloqueo de notificaciones nocturnas.
En un hito normativo que podría marcar precedentes para la regulación tecnológica internacional, el estado de Nueva York aprobó una de las legislaciones más estrictas en defensa de la salud mental de la niñez y adolescencia. La gobernadora Kathy Hochul promulgó una serie de leyes pioneras diseñadas para limitar las funciones adictivas y el uso indiscriminado de algoritmos generativos. La nueva normativa pone coto al uso de chatbots de ia para menores de edad, prohibiendo que las plataformas digitales desplieguen sistemas conversacionales automatizados que simulen vínculos emocionales sin el consentimiento expreso y verificado de padres o tutores.
Protección de la salud mental frente a la adicción algorítmica
El paquete legislativo, respaldado de forma bipartidista en la legislatura estatal en Albany, aborda directamente los riesgos asociados con la dependencia psicológica que generan ciertas aplicaciones de inteligencia artificial diseñadas para interactuar como confidentes, amigos virtuales o consejeros de adolescentes. Diversos estudios pediátricos presentados ante el Congreso neoyorquino revelaron que estas herramientas conversacionales pueden inducir aislamiento social, empeorar cuadros de ansiedad y suministrar respuestas inadecuadas en temas vinculados con nutrición, depresión o conductas autolesivas.
Entre las disposiciones obligatorias, las compañías tecnológicas que ofrezcan servicios digitales en Nueva York deberán implementar filtros de edad robustos, desactivar por defecto el envío de notificaciones nocturnas invasivas y eliminar mecanismos de alimentación algorítmica diseñados para maximizar el tiempo de pantalla. Las multas civiles para los gigantes tecnológicos que incumplan estos preceptos alcanzarán hasta 5.000 dólares por cada infracción registrada contra un usuario menor de edad.
Alcance legal y límites para los chatbots de IA para menores
Testimonios aportados por educadores y psicólogos infantiles durante las audiencias en el parlamento de Nueva York revelaron casos de estudiantes que desarrollaron apego emocional desmedido hacia bots conversacionales con avatares antropomórficos, sustituyendo las interacciones con sus compañeros de escuela y familiares. La ley exige que los desarrolladores incorporen avisos claros y periódicos que recuerden al usuario que está interactuando con un programa informático y no con un ser sintiente.
Sanciones económicas y debate con la industria tecnológica
Asimismo, la fiscal general del estado, Letitia James, contará con facultades extraordinarias para incoar acciones legales y solicitar medidas cautelares contra las plataformas digitales que recaben datos biométricos, hábitos de navegación o historiales de chat de niños y jóvenes sin mecanismos auditables de consentimiento paterno. La legislación busca sentar un estándar de diseño seguro que inspire normativas análogas en otros estados de la Unión Americana y en la Unión Europea.
La medida ha sido calificada como un avance histórico por asociaciones médicas y de padres de familia, aunque ha despertado resistencia en consorcios de Silicon Valley, que argumentan que algunas restricciones podrían vulnerar derechos de acceso a la información o imponer trabas operativas complejas en la verificación de identidad biométrica en la web.
La fiscalización de los chatbots de ia para menores abrirá un nuevo debate legal sobre la responsabilidad de los desarrolladores. Para analizar la ciberseguridad y el ecosistema de inteligencia artificial, revise nuestro informe sobre las aplicaciones fraudulentas de ChatGPT y Claude, así como los pronunciamientos oficiales en el despacho de la Gobernación del Estado de Nueva York y la Comisión Federal de Comercio de EE. UU. (FTC).
Especialistas en bioética y tecnologías emergentes resaltaron que el modelo regulatorio adoptado en la Gran Manzana servirá de referencia para las deliberaciones en el Congreso federal estadounidense y en organismos multilaterales. La protección integral de los derechos digitales de la niñez frente a la manipulación algorítmica y los sesgos cognitivos se perfila como uno de los desafíos legislativos más urgentes en la era de la inteligencia artificial generativa.
