Tras olas de acusaciones por suicidios adolescentes, ChatGPT implementará un control parental
ChatGPTChatGPT implementará un control parental en octubre, tras las acusaciones de que el chatbot habría influido en el suicidio de un adolescente en California. Los padres podrán vincular sus cuentas con las de sus hijos y recibir alertas en casos de riesgo.
OpenAI informó que ChatGPT tendrá controles parentales desde octubre. La medida surge tras una demanda presentada en California, donde la familia de un joven de 16 años acusa al sistema de haber influido en su suicidio. Según The Washington Post, el chatbot habría alentado al menor a ocultar sus pensamientos y a conversar sobre métodos de autolesión.
“En lugar de tomar medidas de emergencia para retirar del mercado un producto conocido como peligroso, OpenAI hizo vagas promesas de hacerlo mejor”, señaló Jay Edelson, abogado de la familia, en un comunicado.
Qué ofrecerá el control parental de ChatGPT
Las nuevas funciones permitirán que los padres vinculen su cuenta con la de sus hijos adolescentes. También podrán desactivar la memoria y el historial de chat, definir reglas de comportamiento y recibir notificaciones cuando el sistema detecte episodios de “angustia aguda”.
Medidas de seguridad de OpenAI
En su blog, la compañía explicó que estas acciones forman parte de un plan de 120 días para reforzar la seguridad de ChatGPT. OpenAI trabaja con especialistas en salud mental y con más de 250 médicos de 60 países para detectar situaciones de riesgo.
“Esto crea oportunidades reales de apoyo, aprendizaje y creatividad, pero también significa que las familias y los adolescentes podrían necesitar apoyo para establecer pautas saludables que se adapten a la etapa de desarrollo particular de cada adolescente”, escribió la empresa.
Otras controversias en torno a la IA
El caso no es aislado. En Florida, una mujer demandó a Character.ai tras la muerte de su hijo de 14 años. Además, un informe de Common Sense Media reveló que los sistemas de Meta ofrecían consejos inadecuados sobre suicidio y trastornos alimentarios.
Uso de ChatGPT en adolescentes
Con más de 700 millones de usuarios semanales, ChatGPT es una de las plataformas de inteligencia artificial más usadas por los jóvenes. “Estos pasos son solo el comienzo. Seguiremos aprendiendo y fortaleciendo nuestro enfoque, guiados por expertos, con el objetivo de que ChatGPT sea lo más útil posible”, afirmó OpenAI.
Síguenos en nuestro canal de Whatsapp:
Whatspp
