OpenAI anunció el 30 de octubre nuevas restricciones sobre la información relacionada con armas que ChatGPT ofrece a las cuentas que identifica como de menores de edad, dentro de un paquete más amplio de medidas de prevención de la violencia.
A partir de ahora, ChatGPT limitará los detalles prácticos sobre armas y sistemas de seguridad que puedan facilitar un acto violento incluso cuando la pregunta de un menor no muestre ninguna señal de intención violenta: hasta ahora, la restricción solo se activaba si el sistema detectaba indicios de riesgo.
La compañía también ha reforzado su sistema de predicción de edad para mover automáticamente a la experiencia de menores a las cuentas que estima por debajo de los 18 años, y avisará a los padres si la cuenta de su hijo se pausa por hablar repetidamente de violencia.
Para cualquier usuario, independientemente de su edad o del motivo de la pregunta, ChatGPT también reducirá el nivel de detalle que ofrece sobre ataques masivos pasados y las personas que los cometieron. OpenAI dice que las nuevas salvaguardas empezarán a desplegarse en las próximas semanas.
Qué significa para ti
Si usas ChatGPT con una cuenta familiar o tienes hijos adolescentes con acceso a la herramienta, puedes esperar más avisos y, en algunos casos, conversaciones cortadas si el sistema detecta un patrón de interés en la violencia; como padre o madre, esto implica recibir una notificación si la cuenta de tu hijo se pausa por ese motivo. Para el resto de usuarios, el cambio es prácticamente invisible salvo que preguntes por el historial detallado de un ataque violento concreto, donde ahora obtendrás una respuesta más genérica.
Fuentes: openai.com · yahoo.com · aol.com
