Roma, 16 lug. (askanews) – Meta introduce nuovi avvisi per aiutare i genitori a supportare gli adolescenti nelle conversazioni con Meta AI. La società ha annunciato la novità illustrando i punti chiave.
Meta inizierà ad informare i genitori che utilizzano gli strumenti di supervisione di Instagram qualora il loro figlio adolescente parli con Meta AI di suicidio o autolesionismo, e metteremo a disposizione risorse specialistiche per aiutarli ad affrontare queste conversazioni con i propri figli. Si sta inoltre sviluppando modalità che consentano di allertare i servizi di emergenza qualora una persona sembri essere a rischio imminente di suicidio. Si sta utilizzando il feedback di oltre 75 specialisti della salute per migliorare ulteriormente il modo in cui Meta AI risponde ai prompt degli adolescenti relativi a suicidio e autolesionismo”.
Meta, si legge in una nota, “vuole assicurarsi che gli adolescenti vivano esperienze con l’IA adeguate alla loro età e che i genitori siano informati qualora emergano segnali di possibile disagio. Oggi annunciamo quindi ulteriori misure di protezione pensate per garantire che, quando si affrontano conversazioni sensibili legate a suicidio e autolesionismo, Meta AI risponda nel modo più appropriato. Questo significa riconoscere le emozioni degli adolescenti e, allo stesso tempo, indirizzarli verso il supporto offline di cui potrebbero aver bisogno, che si tratti di un genitore, di una linea di aiuto specializzata o dei servizi di emergenza. Informare i genitori qualora il loro figlio adolescente parli con Meta AI di suicidio o autolesionismo. Quando nelle conversazioni con Meta AI emergono temi legati a suicidio o autolesionismo, Meta AI indirizza gli adolescenti verso linee di supporto specializzate e li incoraggia a rivolgersi a un genitore o a un altro adulto di fiducia. Ora informeremo in modo proattivo i genitori che utilizzano gli strumenti di supervisione qualora le conversazioni del proprio figlio adolescente con Meta AI suggeriscano un possibile rischio, sulla base di segnali sviluppati con il contributo di esperti. Condivideremo inoltre risorse specialistiche per aiutarli ad affrontare queste conversazioni con i propri figli”.
Meta ha collaborato con genitori ed esperti per individuare quali conversazioni con l’IA richiedano l’invio di una notifica ai genitori, incluse quelle in cui un adolescente fa riferimento all’autolesionismo, anche in modo sottile o non esplicito. Sulla base di questo lavoro, abbiamo sviluppato un sistema dedicato in grado di riconoscere queste situazioni. Ricevere un avviso di questo tipo può essere particolarmente difficile per un genitore. Per questo motivo tutte le conversazioni segnalate dall’IA verranno sottoposte a una revisione manuale prima dell’invio della notifica. Nei casi in cui l’intento dell’adolescente non sia del tutto chiaro, verrà adottato un approccio prudenziale e verrà informato comunque il genitore. Ciò significa che, in alcuni casi, verrà inviata una notifica anche in assenza di un reale motivo di preoccupazione. Meta ritiene che questo sia il punto di partenza più appropriato e continuerà a monitorare attentamente il funzionamento della misura per assicurare di mantenere il giusto equilibrio.
Gli avvisi sono già disponibili per i genitori che utilizzano la supervisione di Instagram negli Stati Uniti, nel Regno Unito, in Australia e in Canada e saranno estesi a livello globale entro la fine dell’anno. Questi aggiornamenti si aggiungono alle notifiche che Instagram già invia ai genitori che utilizzano la supervisione quando un adolescente tenta ripetutamente di cercare, in un breve arco di tempo, termini relativi a suicidio o autolesionismo. Si sta sviluppando la possibilità di contattare i servizi di emergenza qualora una conversazione con Meta AI sia da parte di un adulto sia di un adolescente suggerisca che una persona possa essere in una situazione di rischio imminente. Questa iniziativa si aggiunge al lavoro che già viene svolta su Facebook e Instagram: quando si viene a conoscenza di contenuti che suggeriscono un rischio concreto di suicidio, si allertano i servizi di emergenza. Lo scorso anno sono state effettuate oltre 19.000 segnalazioni a livello globale, aiutando i soccorritori a effettuare controlli sul benessere di persone potenzialmente a rischio.
Oltre al confronto continuo con il nostro AI Wellbeing Expert Council, il Suicide and Self-Harm Advisory Group e i nostri Youth Advisors, abbiamo raccolto il feedback di oltre 75 specialisti della salute per valutare il modo in cui Meta AI risponde ai prompt relativi a suicidio e autolesionismo. Gli specialisti coinvolti, tutti specializzati nella salute degli adolescenti, hanno esaminato le risposte fornite dall’IA a centinaia di prompt, valutandone l’appropriatezza per i più giovani, i punti di forza e le possibili aree di miglioramento. Stiamo utilizzando questo feedback per migliorare ulteriormente il modo in cui Meta AI interagisce con gli adolescenti su questi temi particolarmente delicati, ad esempio assicurandoci che riconosca le loro emozioni quando li indirizza verso risorse di supporto e che non interrompa la conversazione in modo troppo brusco.
Gli account per teenager sono automaticamente configurati con l’impostazione 13+, che si applica anche alle conversazioni con Meta AI. In questa configurazione predefinita, Meta AI è progettata per fornire risposte adeguate all’età dell’utente e per non assecondare richieste sensibili. Ad esempio, Meta AI è addestrata a non intrattenere conversazioni di natura sessuale o romantica con gli adolescenti e a non fornire istruzioni per la preparazione di bevande alcoliche, indirizzandoli invece verso argomenti più appropriati.
A ottobre Meta ha annunciato “Contenuti limitati”, un’impostazione più restrittiva pensata per i genitori che preferiscono un’esperienza più controllata per i propri figli adolescenti su Instagram. Da oggi questa impostazione si estende anche alle esperienze con l’IA. Ciò significa che, quando un genitore attiva l’impostazione “Contenuti limitati” per il proprio figlio adolescente su Instagram, verranno ulteriormente limitate anche le tipologie di conversazioni che potrà avere con Meta AI. Con questa impostazione, Meta AI rifiuterà di rispondere a una gamma più ampia di richieste, riducendo ulteriormente la possibilità che gli adolescenti vengano coinvolti in conversazioni potenzialmente inappropriate.