Home Tecnologia Meta vai avisar pais quando filhos conversarem com inteligência artificial sobre suicídio

A Meta anunciou nesta quinta-feira (16) novos recursos de segurança para adolescentes que utilizam o Meta AI. A principal novidade é que pais ou responsáveis passarão a ser alertados quando o chatbot identificar conversas que indiquem risco de suicídio ou automutilação.

A empresa já oferecia funcionalidades voltadas à proteção de jovens, como o direcionamento para linhas de apoio e prevenção. Com a atualização, porém, a Meta passará a enviar notificações de forma proativa aos responsáveis sempre que o sistema detectar sinais de risco.

Segundo a companhia, os critérios para os alertas foram desenvolvidos em parceria com pais e especialistas em segurança digital e saúde mental. Entre os fatores considerados estão menções explícitas ou sutis à automutilação ou ao suicídio. Para isso, a Meta desenvolveu uma ferramenta própria de inteligência artificial capaz de identificar esse tipo de conversa.

Antes que qualquer notificação seja enviada, todas as conversas sinalizadas pelo sistema serão revisadas por um moderador humano. A empresa informou que, mesmo quando a intenção do adolescente não estiver claramente confirmada, o alerta poderá ser encaminhado aos pais como medida de precaução.

A Meta reconheceu que algumas notificações poderão envolver situações que não representem um risco real, mas afirmou ter optado por uma abordagem mais cautelosa para ampliar a proteção dos usuários mais jovens.

Em comunicado, Larry Magid, CEO e cofundador da ConnectSafely, organização dedicada à educação para a segurança no ambiente digital, afirmou que, embora adolescentes tenham direito à privacidade, os pais devem ser informados quando houver indícios de que a integridade física dos filhos possa estar em risco. O especialista manifestou apoio à iniciativa da empresa.

Disponibilidade

Os alertas já estão disponíveis para famílias que utilizam o recurso de supervisão parental do Instagram nos Estados Unidos, Reino Unido, Austrália e Canadá.

Segundo a Meta, a funcionalidade será expandida para outros países, incluindo o Brasil, até o fim deste ano.

Além dos avisos aos responsáveis, a empresa informou que trabalha em um recurso que permitirá conectar o Meta AI a serviços de emergência quando as conversas indicarem risco iminente de suicídio. De acordo com a companhia, mais de 19 mil encaminhamentos desse tipo foram realizados em todo o mundo apenas no ano passado.