Inteligencia artificial de OpenAI incluirá controles parentales tras la muerte de un adolescente.

La empresa estadounidense de inteligencia artificial OpenAI anunció que añadirá controles parentales a su chatbot ChatGPT, una semana después de que una pareja de Estados Unidos afirmara que el sistema había alentado a su hijo adolescente a suicidarse.

“En el próximo mes los padres podrán vincular su cuenta con la de su adolescente y controlar cómo ChatGPT responde con reglas de comportamiento apropiadas para la edad”, indicó la compañía en su blog. Además, precisó que los padres recibirán notificaciones cuando el sistema detecte que un adolescente atraviesa un momento de angustia aguda.

Matthew y Maria Raine sostienen en una demanda presentada ante una corte de California que ChatGPT cultivó una relación cercana con su hijo Adam durante varios meses entre 2024 y 2025, antes de su muerte. Según la acusación, en su última conversación, el 11 de abril de 2025, el sistema ayudó al adolescente a sustraer alcohol de su casa y le dio un análisis técnico sobre un nudo corredizo, confirmándole que podría servir para colgar a una persona. Adam fue hallado muerto horas después usando ese método.

“Cuando una persona usa ChatGPT realmente siente que está hablando con algo al otro lado”, afirmó la abogada Melodi Dincer, del Proyecto de Justicia Tecnológica, que colaboró en la preparación de la denuncia. Añadió que estas características pueden llevar a que usuarios jóvenes compartan información personal y busquen consejos en la herramienta, percibiéndola como una fuente confiable de respuestas.

Dincer señaló que la publicación de OpenAI sobre los controles parentales resultaba “genérica” y con pocos detalles, calificándola como una medida mínima frente a lo ocurrido. “Está por verse si harán lo que dicen y qué tan efectivo será en general”, puntualizó.

El caso de los Raine se suma a otros incidentes en los que usuarios aseguraron haber sido alentados por chatbots de inteligencia artificial a adoptar pensamientos dañinos. En respuesta, OpenAI anunció que trabaja en reducir la adulación de sus modelos hacia los usuarios.

“Continuamos mejorando en cómo nuestros sistemas reconocen y responden a señales de angustia mental y emocional”, señaló la empresa.

–

Exprésate Morona Santiago

Primer Medio de Comunicación Digital de la Provincia

Macas – Ecuador

Inmobiliaria Nativa