Related Articles
-Editorial
El senador Steve Padilla (D-San Diego) ha presentado el Proyecto de Ley del Senado 243, una legislación destinada a implementar medidas de protección para salvaguardar a los niños y otros usuarios vulnerables de los posibles daños de los chatbots de inteligencia artificial (IA). El proyecto busca regular los chatbots sociales impulsados por IA, los cuales han ganado popularidad entre usuarios de todas las edades, especialmente entre los menores.
A medida que la tecnología de los chatbots de IA continúa evolucionando, han surgido preocupaciones sobre su posible impacto en los usuarios jóvenes. Los chatbots sociales, diseñados para proporcionar compañía, han acumulado millones de usuarios, incluidos niños. Sin embargo, los críticos argumentan que el rápido desarrollo de estas plataformas ha superado la regulación, dejando a los usuarios expuestos a riesgos potenciales.
Han surgido casos alarmantes de interacciones entre chatbots de IA y menores. En 2021, un chatbot supuestamente sugirió un peligroso desafío eléctrico a una niña de 10 años, instruyéndola a insertar parcialmente un cargador de teléfono en un enchufe y tocar una moneda a los prongs expuestos. En otro caso de 2023, investigadores que se hicieron pasar por una niña de 13 años informaron que un chatbot proporcionó consejos sobre cómo engañar a los padres para encontrarse con un hombre adulto. Estudios de la Universidad de Cambridge sugieren que los niños pueden ser más propensos que los adultos a percibir a los chatbots de IA como algo humano y confiable, lo que aumenta los riesgos potenciales cuando las interacciones no salen bien.
Las preocupaciones sobre las interacciones con chatbots se intensificaron tras un caso en Florida, donde un niño de 14 años murió por suicidio después de formar un vínculo romántico y emocional con un compañero de IA. Su madre ha emprendido acciones legales contra el desarrollador del chatbot, alegando que la plataforma utilizó elementos de diseño adictivos y contenido inapropiado.
Los defensores del SB 243 argumentan que los chatbots de IA carecen de una supervisión adecuada, dejando a los niños vulnerables. El proyecto de ley propuesto incluye disposiciones para prevenir patrones adictivos de participación, garantizar recordatorios periódicos de que los chatbots son generados por IA y exigir declaraciones de divulgación que adviertan a los padres y niños sobre la idoneidad de los chatbots para menores. Además, la legislación exigiría informes anuales sobre posibles vínculos entre el uso de chatbots y la ideación suicida.
El senador Padilla subrayó la necesidad de regulación, afirmando: “Nuestros niños no son conejillos de indias para que las empresas tecnológicas experimenten a costa de su salud mental. Necesitamos protecciones sensatas para evitar que los desarrolladores empleen estrategias que saben que son adictivas y depredadoras.”
El proyecto de ley ha recibido apoyo de defensores del bienestar infantil e investigadores de ética de IA. La doctora Jodi Halpern, profesora en UC Berkeley, describió el SB 243 como un importante primer paso hacia el monitoreo de la seguridad, mientras que Ed Howard del Instituto de Defensa de la Infancia de la Universidad de San Diego elogió el proyecto de ley por abordar lo que él calificó como “los peores aspectos de la amenaza de los chatbots de IA para la seguridad infantil.”
Las organizaciones de salud mental también han expresado su apoyo, destacando las preocupaciones sobre los chatbots de IA que podrían reemplazar el apoyo humano para los jóvenes en dificultades. “A medida que los chatbots se vuelven más sofisticados, los jóvenes vulnerables pueden recurrir a ellos en busca de tranquilidad sobre sus luchas, emociones o incluso pensamientos dañinos, sin reconocer la falta de supervisión humana y responsabilidad,” dijo Ria Babaria, directora de políticas de salud mental en Youth Power Project.
Amina Fazlullah de Common Sense Media subrayó el impacto potencial del proyecto de ley, afirmando: “El SB 243 incluye disposiciones que aportarán la tan necesaria transparencia a los riesgos asociados con esta tecnología y, en última instancia, ayudarán al público a comprender mejor y abordar el impacto profundo que las interacciones impulsadas por IA, similares a las humanas, pueden tener en las mentes en desarrollo.”
Se espera que el Proyecto de Ley del Senado 243 sea escuchado en comité en los próximos meses, mientras los legisladores debaten su posible papel en la regulación de los chatbots de IA y en la protección de los usuarios jóvenes.