La compañía anunció nuevas medidas de seguridad para menores después de que se multiplicaran los casos que relacionan el uso del chatbot con autolesiones y suicidios.
OpenAI, la compañía detrás de ChatGPT, ha anunciado la incorporación de controles parentales en su asistente de inteligencia artificial a partir del próximo mes. La decisión llega en respuesta a las crecientes críticas y demandas que responsabilizan al chatbot de haber contribuido a incidentes de autolesiones e incluso al suicidio de adolescentes.
En un comunicado, la empresa señaló que “estos pasos son solo el comienzo” y que seguirán “reforzando nuestro enfoque, guiados por expertos”. Si bien OpenAI no vinculó directamente la medida con los juicios en curso, la implementación coincide con varios casos de alto perfil que han puesto en el centro del debate la seguridad de la IA.
Casos y denuncias que impulsaron el cambio
Uno de los casos más resonantes es el de un joven de 16 años en California, Estados Unidos, que se quitó la vida tras meses de interactuar con ChatGPT bajo el modelo GPT-4o. La familia demandó a OpenAI y a su CEO, Sam Altman, alegando que el sistema falló en aplicar mecanismos de seguridad a pesar de que las intenciones suicidas del adolescente eran claras. En respuesta, la compañía admitió que su asistente puede tener fallos en contextos “sensibles” y prometió mejoras.
Además, en julio, senadores estadounidenses enviaron una carta a OpenAI exigiendo explicaciones sobre sus protocolos para prevenir autolesiones y suicidios, tras detectar respuestas inapropiadas en situaciones límite. A su vez, organizaciones como Common Sense Media han advertido que los adolescentes no deberían usar aplicaciones de IA conversacional debido a los “riesgos inaceptables” que representan.
¿Cómo funcionarán los nuevos controles?
Las herramientas permitirán a los padres:
- Vincular sus cuentas con las de sus hijos para poder revisar las interacciones que mantengan con el chatbot.
- Recibir notificaciones cuando el sistema detecte signos de inestabilidad emocional preocupante.
- Redirigir conversaciones con indicios de estrés agudo a un modelo especializado de ChatGPT, entrenado con directrices de seguridad más estrictas.
Con estas medidas, OpenAI busca también mitigar el apego emocional que algunos usuarios desarrollan con el chatbot, un fenómeno que puede llevar a la dependencia y al aislamiento familiar.
La implementación de estas medidas se da en un contexto de creciente escrutinio público sobre los riesgos de la IA para los menores y la falta de regulación específica. A pesar de los anuncios, expertos en salud mental insisten en que la compañía deberá demostrar con hechos que estos cambios podrán proteger de forma efectiva a los menores en situaciones de vulnerabilidad.v
