Redacción. El gobernador de California, Gavin Newsom, promulgó una legislación pionera que impone regulaciones estrictas a los chatbots de inteligencia artificial (IA) con el fin de proteger a niñas, niños y adolescentes de los posibles peligros de esta tecnología.
La nueva normativa exige que las plataformas digitales informen de manera explícita a los usuarios jóvenes, cada tres horas, que están interactuando con un chatbot. Obliga además a las compañías a implementar mecanismos que prevengan la exposición a contenidos relacionados con autolesión y que redirijan a los usuarios a servicios de asistencia en crisis si se detectan expresiones vinculadas con pensamientos suicidas.
Newsom defendió la medida y argumentó que el Estado debe proteger a su población juvenil. «Sin controles adecuados, la tecnología también puede explotar, confundir y poner en riesgo a nuestra juventud», declaró el gobernador. Citó «ejemplos verdaderamente terribles y trágicos» de jóvenes que han sufrido daños por la tecnología sin regulación.
Le puede interesar: Perrito camina 3,200 kilómetros después de huir asustado por una tormenta
Preocupación
La ley es una respuesta directa a la creciente preocupación y a múltiples denuncias que acusan a chatbots de empresas como Meta y OpenAI de propiciar conversaciones inapropiadas e incluso de incitar al suicidio.
Entre los casos destacan el de una madre de Florida que demandó a Character.AI y el de los padres de un joven de California que demandaron a OpenAI por proporcionar asesoría para planificar el suicidio.
Esta legislación forma parte de un conjunto de propuestas en California para regular la industria de la inteligencia artificial. Aunque las organizaciones tecnológicas han invertido millones en oponerse a la intervención estatal, la presión regulatoria sigue creciendo. La Comisión Federal de Comercio (FTC) y el fiscal general de California, Rob Bonta, han iniciado investigaciones formales sobre los posibles riesgos de los chatbots.
En respuesta, empresas como OpenAI y Meta han anunciado la introducción de controles parentales y restricciones para evitar que sus asistentes aborden temas sensibles con adolescentes.
