ChatGPT de OpenAI: Nuevo sistema de alertas para emergencias

OpenAI ha implementado un nuevo sistema de alerta en ChatGPT, diseñado para identificar situaciones de riesgo y prevenir posibles tragedias, reforzando así la seguridad de los usuarios durante sus interacciones con la inteligencia artificial.

Preocupación creciente ante los efectos de la IA generativa

El crecimiento imparable de la IA generativa, y en particular de ChatGPT, ha generado una oleada de debates sobre sus repercusiones negativas. En los últimos meses, varios casos trágicos vinculados al uso inadecuado de estos sistemas han llegado a la opinión pública. Familias que han perdido a sus seres queridos atribuyen parte de la responsabilidad a las conversaciones mantenidas con el chatbot de OpenAI. Algunos procedimientos judiciales recientes acusan incluso que dichos intercambios contribuyeron, directa o indirectamente, a desenlaces fatales como suicidios, episodios violentos u otras situaciones extremas. El fenómeno ha adquirido tal magnitud que cuenta con una página específica en Wikipedia.

Respuesta tecnológica: nacimiento de «Trusted Contacts»

Frente a esta alarma social y el clamor por una mayor responsabilidad corporativa, OpenAI ha decidido tomar cartas en el asunto mediante el lanzamiento de una innovadora funcionalidad: «Trusted Contacts». Este mecanismo se perfila como un salvavidas digital ante contextos críticos identificados por la propia inteligencia artificial.

Cuando el sistema detecta expresiones preocupantes —por ejemplo, referencias explícitas al suicidio o señales claras de malestar— interviene automáticamente para notificar al contacto previamente designado por el usuario. El mensaje remitido deja poco lugar a equívocos: advierte sobre una posible crisis e invita a actuar con celeridad.

Mecanismos de activación y requisitos fundamentales

La configuración del sistema resulta accesible tanto desde ordenadores como desde dispositivos móviles; basta con añadir un contacto seleccionado en los parámetros del perfil. Para garantizar la seriedad del procedimiento, se exige que la persona designada tenga al menos 18 años, brindando así un respaldo legal y ético mínimo.

Varios elementos explican esta decisión:

• Asegurar un acompañamiento humano inmediato en situaciones críticas.
• Evitar automatismos fríos ante riesgos reales.
• Cumplir estándares legales y psicológicos internacionales.

Asesoramiento experto e implicaciones futuras

El desarrollo de este recurso no ha sido improvisado. De hecho, expertos reconocidos como la American Psychological Association (APA), médicos del entorno internacional de la propia compañía y el Consejo especializado en bienestar e inteligencia artificial han participado activamente en su diseño. Su objetivo común: impedir que las respuestas automáticas deriven en consecuencias deshumanizadas o peligrosas.

Al apostar por esta combinación entre innovación técnica y vigilancia ética, OpenAI aspira no solo a reducir los riesgos asociados al diálogo con chatbots, sino también a encauzar una reflexión colectiva sobre los límites y responsabilidades inherentes al auge tecnológico actual.