Quando os adolescentes conversam com a Meta AI sobre suicídio ou automutilação, a conversa acionará uma notificação aos pais, disse Meta em um blog na quinta-feira.
A nova política expande as medidas existentes para adolescentes destinadas a informar os pais sobre como seus filhos estão usando Meta AI. Somente os pais que usam os controles de monitoramento do Instagram receberão a notificação.
O que fazer quando seu filho adolescente substitui você por um chatbot
“Trabalhamos com pais e especialistas para entender quais conversas sobre IA justificam um aviso – como aquelas em que um adolescente faz uma referência clara à automutilação, mesmo que essa referência seja sutil”, disse Meta.
Como funcionam os alertas de crise de IA?
A IA já cita linhas de apoio para crises e incentiva os adolescentes que estão pensando em suicídio ou automutilação a procurar ajuda de um adulto de confiança. Agora, os pais receberão um aviso sobre essas conversas. Meta disse que vai errar por excesso de cautela por enquanto.
Embora as conversas sejam sinalizadas pela IA, o Meta as analisa manualmente antes de enviar um alerta. Os pais também recebem sugestões desenvolvidas por especialistas para conversar com seus filhos sobre automutilação e suicídio.
Os pais receberão o alerta por meio de uma notificação de aplicativo e um e-mail, mensagem de texto ou WhatsApp separada, dependendo das informações de contato fornecidas.
Meta alerta pais cujos filhos podem ter discutido suicídio ou automutilação com Meta AI.
Crédito: Cortesia de Meta
Os tipos de alertas que os pais podem receber do Meta.
Crédito: Cortesia de Meta
Em fevereiro, a Meta lançou um recurso de notificação semelhante para o Instagram.
Velocidade mashável da luz
John Ackerman, gerente clínico do Centro de Prevenção e Pesquisa do Suicídio do Nationwide Children’s Hospital, disse ao Mashable na época que acolheu com satisfação a ampliação da proteção para adolescentes. Ele observou, no entanto, que tal recurso poderia equivaler a uma “fala” se as notificações forem inacessíveis, difíceis de navegar ou não levarem a “mudança ativa”.
Meta enviará alertas aos pais nos EUA, Reino Unido, Canadá e Austrália. Estará disponível globalmente até o final do ano, escreve Meta.
Nova configuração de conteúdo restrito para Meta AI
Meta também anunciou a adição de uma configuração de conteúdo limitado para Meta AI na quinta-feira. Ela estreou esse recurso no Instagram no ano passado.
Essa configuração permite os filtros mais rigorosos do Meta. A IA já está treinada para não ter conversas sexuais ou românticas com adolescentes ou fornecer receitas de bebidas alcoólicas, por exemplo, segundo a empresa.
Quando a configuração de conteúdo restrito está ativada, os Metamodelos tornam-se ainda mais agressivos na identificação de postagens problemáticas e se recusam a responder a uma gama mais ampla de perguntas. Meta disse que a abordagem reduz ainda mais “a oportunidade para conversas potencialmente inadequadas”.
Preocupações com a segurança dos adolescentes
Os defensores da segurança infantil criticaram as atualizações recentes nos controles parentais do Meta como insuficientes.
Em abril, a Meta deu aos pais informações sobre as conversas de seus filhos com a Meta AI. O recurso destaca tópicos mais amplos, como escola, entretenimento, escrita, saúde e bem-estar. Os pais podem clicar no tópico para obter detalhes adicionais, mas limitados.
Josh Golin, diretor executivo da organização sem fins lucrativos de defesa das crianças Fairplay, disse que os controles parentais “mais uma vez” sobrecarregam os cuidadores com o monitoramento da atividade online de seus filhos, em vez de “construir um produto seguro para começar”.
A Meta continua a enfrentar escrutínio legal sobre o seu desempenho em segurança infantil. No início deste ano, a Meta perdeu dois testes históricos separados relacionados às proteções de segurança infantil e ao design supostamente viciante de seus produtos. A empresa disse que apelaria de ambas as decisões, mas centenas de ações judiciais pendentes alegando lesões a crianças ainda não foram a julgamento.
Se você estiver se sentindo suicida ou passando por uma crise de saúde mental, converse com alguém. Você pode ligar ou enviar uma mensagem de texto para 988 Suicide & Crisis Lifeline no 988 ou conversar no 988lifeline.org. Você pode entrar em contato com a Trans Lifeline ligando para 877-565-8860 ou para o Projeto Trevor em 866-488-7386. Envie “START” para a linha de texto de crise em 741-741. Entre em contato com a linha de apoio da NAMI pelo telefone 1-800-950-NAMI, de segunda a sexta, das 10h00 às 22h00 horário do leste dos EUA, ou por e-mail (e-mail protegido). Se você não gosta do telefone, considere usá-lo 988 Conversa sobre suicídio e linha de vida da crise. Aqui está um lista de recursos internacionais.