Meta passará a alertar pais sobre conversas de adolescentes com IA relacionadas a suicídio

A Meta anunciou um novo recurso de segurança voltado para adolescentes que utilizam o Meta AI. A ferramenta enviará alertas aos pais ou responsáveis quando forem identificadas conversas que indiquem risco de suicídio ou automutilação.

Segundo a empresa, o sistema utiliza inteligência artificial para detectar sinais de preocupação nas interações com o chatbot. Antes de qualquer notificação ser enviada, todas as conversas sinalizadas passarão por análise de uma equipe humana.

A companhia informou que desenvolveu o recurso em parceria com especialistas e famílias, buscando definir quais tipos de conversas justificam o envio de alertas. Mesmo em situações em que o risco não seja totalmente evidente, a empresa poderá optar por notificar os responsáveis como medida de precaução.

Inicialmente, a funcionalidade está disponível para usuários que utilizam a supervisão parental do Instagram nos Estados Unidos, Reino Unido, Canadá e Austrália.

A Meta informou que a novidade será expandida para outros países, incluindo o Brasil, até o fim deste ano.

Além dos avisos aos pais, a empresa trabalha em uma ferramenta que permitirá acionar serviços de emergência quando forem identificadas conversas que indiquem risco iminente de suicídio.