Meta suma una capa extra de protección para conversaciones sensibles con su inteligencia artificial. La novedad apunta a que padres y tutores no se enteren tarde, cuando ya quedó todo en silencio y preocupación.
La plataforma va a notificar a los padres que usan las herramientas de supervisión de Instagram si sus hijos adolescentes hablan con Meta AI sobre suicidio o autolesiones. Además, compartirá recursos de expertos para ayudar a encarar esa conversación fuera de pantalla.
Según la compañía, los chats marcados por su sistema pasarán primero por una revisión manual antes de enviar cualquier alerta. Si la intención del adolescente no queda clara, Meta dice que optará por la cautela y avisará igual.
El cambio se apoyó en el feedback de más de 75 profesionales de salud mental, que revisaron respuestas de la IA y ayudaron a ajustar cómo debería responder ante estos temas. La idea es que la herramienta valide lo que siente el chico o la chica, pero lo derive a apoyo concreto: un adulto de confianza, una línea de ayuda o emergencias.
Además, Meta está trabajando en la posibilidad de contactar a los servicios de emergencia si una conversación con Meta AI sugiere riesgo inminente de suicidio. La medida se suma a acciones ya existentes en Facebook e Instagram para casos de riesgo creíble.
También habrá un setting de contenido más estricto para chats con Meta AI cuando los padres activen la opción Limited Content en Instagram. Fuente: Meta Newsroom.