OpenAI introdujo el lunes controles parentales para su chatbot de inteligencia artificial, ChatGPT, ya que los adolescentes recurren cada vez más a la plataforma en busca de ayuda con sus tareas escolares, su vida diaria y su salud mental.
Las nuevas funciones surgieron tras una demanda por homicidio culposo presentada contra OpenAI por los padres de Adam Raine, un joven de 16 años que falleciĂł en abril en California. ChatGPT le habĂa proporcionado a Adam informaciĂłn sobre mĂ©todos de suicidio en sus Ăşltimos meses de vida, segĂşn sus padres.
Los controles parentales de ChatGPT, anunciados a principios de septiembre , fueron desarrollados por OpenAI con Common Sense Media, una organizaciĂłn sin fines de lucro que ofrece clasificaciones de entretenimiento y tecnologĂa basadas en la edad para padres.
Esto es lo que debes saber sobre las nuevas funciones.
Los padres pueden supervisar las cuentas de sus hijos adolescentes.
Para establecer controles, los padres deben invitar a sus hijos a vincular su cuenta de ChatGPT a la cuenta de un padre, según una nueva página de recursos .
Los padres obtendrán entonces algunos controles sobre la cuenta del niño, como la opción de reducir el contenido sensible.
Los padres pueden establecer horarios especĂficos para usar ChatGPT. El modo de voz, el ahorro de memoria y la generaciĂłn de imágenes del bot se pueden activar y desactivar.
También hay una opción para evitar que ChatGPT utilice sus conversaciones con adolescentes para mejorar sus modelos.
Se notificará a los padres sobre posibles autolesiones.
En un comunicado emitido el lunes , OpenAI indicĂł que los padres recibirán una notificaciĂłn por correo electrĂłnico, mensaje de texto o alerta push si ChatGPT detecta posibles indicios de que un adolescente podrĂa estar pensando en hacerse daño, a menos que el padre o la madre hayan optado por no recibir dichas notificaciones. Los padres recibirán una advertencia sobre un riesgo para la seguridad sin informaciĂłn especĂfica sobre las conversaciones de su hijo.
ChatGPT ha sido entrenado para animar a los usuarios a contactar una lĂnea de ayuda si detecta indicios de angustia mental o autolesiĂłn. Cuando detecta estos indicios en un adolescente, un pequeño equipo de personas especialmente capacitadas revisa la situaciĂłn, segĂşn declarĂł OpenAI en el comunicado. El comunicado no especificĂł quiĂ©nes eran esas personas.
OpenAI agregĂł que estaba trabajando en un proceso para comunicarse con las fuerzas del orden y los servicios de emergencia si ChatGPT detecta una amenaza pero no puede comunicarse con un padre.
“NingĂşn sistema es perfecto y sabemos que a veces podemos dar la alarma cuando no hay un peligro real, pero creemos que es mejor actuar y alertar a los padres para que puedan intervenir que permanecer en silencio”, afirma el comunicado.
Los adolescentes pueden eludir los controles.
OpenAI dijo el lunes que todavĂa estaba desarrollando un sistema de predicciĂłn de edad para ayudar a ChatGPT a aplicar automáticamente “configuraciones apropiadas para adolescentes” si cree que un usuario es menor de 18 años.
Con las nuevas funciones, se notificará a los padres si un adolescente desconecta su cuenta de la de sus padres. Sin embargo, esto no impedirá que el adolescente use la versión básica de ChatGPT sin una cuenta.
Adam Raine, el adolescente de California que muriĂł en abril, habĂa aprendido a eludir las medidas de seguridad de ChatGPT diciendo que usarĂa la informaciĂłn para escribir una historia.
“Las barandillas ayudan, pero no son infalibles y pueden eludirse si alguien intenta evadirlas intencionalmente”, dijo OpenAI.
En la declaraciĂłn con OpenAI del lunes, Robbie Torney, director senior de programas de IA en Common Sense Media, dijo que los controles parentales "funcionarĂan mejor cuando se combinan con conversaciones continuas sobre el uso responsable de la IA, reglas familiares claras sobre la tecnologĂa y participaciĂłn activa para comprender lo que su hijo adolescente está haciendo en lĂnea".
Fuente: The New York Times,-
No hay comentarios:
Publicar un comentario