Meta vai avisar pais sobre conversa de suicídio com Meta AI
Configuração chamada de “Conteúdo Limitado”, mais restritiva, vai passar a valer também para as interações com a Meta AI quando for ativada pelos pais. A empresa diz que, nesse modo, a IA vai se recusar a responder a um conjunto maior de mensagens, para reduzir a chance de conversas potencialmente inadequadas.
A empresa afirma que consultou mais de 75 profissionais de saúde mental para ajustar como a Meta AI responde a mensagens de adolescentes sobre suicídio e automutilação. Segundo a companhia, o retorno desses especialistas foi usado para melhorar as respostas do chatbot, incluindo a forma de reconhecer sentimentos e indicar recursos de apoio sem encerrar a conversa de forma abrupta.
Avisos sobre temas de conversa
Em abril, a empresa disse que passaria a mostrar aos pais os temas sobre os quais adolescentes conversaram com a Meta AI. A empresa afirmou que o recurso apareceria em uma aba de Insights dentro da área de supervisão parental e traria resumos dos assuntos perguntados nos últimos sete dias, separados por aplicativo.
Na ocasião, a Meta afirmou que os responsáveis veriam categorias amplas, e não os termos literais digitados pelos adolescentes. A lista de temas incluiria áreas como escola, entretenimento e estilo de vida, além de tópicos como viagens, escrita e saúde e bem-estar.
O anúncio desta quinta-feira detalha um tipo específico de aviso, voltado a conversas que indiquem risco de suicídio ou automutilação. A Meta diz que esses alertas se somam a notificações já existentes quando o adolescente busca repetidamente por termos relacionados a suicídio ou automutilação no Instagram em um curto período.
!function(f,b,e,v,n,t,s) {if(f.fbq)return;n=f.fbq=function() {n.callMethod? n.callMethod.apply(n,arguments):n.queue.push(arguments)}; if(!f._fbq)f._fbq=n;n.push=n;n.loaded=!0;n.version='2.0'; n.queue=[];t=b.createElement(e);t.async=!0; t.src=v;s=b.getElementsByTagName(e)[0]; s.parentNode.insertBefore(t,s)}(window, document,'script', 'https://connect.facebook.net/en_US/fbevents.js'); fbq('init', '1425099884432564'); fbq('track', 'PageView', { content_name: 'Meta vai avisar pais se filhos falarem sobre suicídio com IA da empresa', content_ids: [16852,13703,83153,81959,79794,81026,81430], is_closed: false, });
Source link
