Meta proširuje svoje sigurnosne mjere za tinejdžere kako bi roditeljima, a možda i regulatorima, pokazala da su njene platforme sigurne za njihovo korištenje. Nekoliko mjeseci nakon što je počela prikazivati starateljima teme razgovora njihovih tinejdžera s AI chatbotom, Meta je predstavila novu sigurnosnu funkciju koja će ih također obavijestiti ako razgovori njihove djece ukazuju na to da razmišljaju o samopovređivanju ili samoubistvu.
Kada maloljetni korisnik razgovara o samoubistvu ili samopovređivanju, Meta AI ga već usmjerava na krizne telefonske linije za pomoć i podstiče ga da se obrati odrasloj osobi koja može pomoći. Počevši od danas, kompanija će također proaktivno obavijestiti roditelje ili staratelje koji nadziru tinejdžera da je on u opasnosti, a također će podijeliti resurse i savjete o tome šta mogu učiniti kako bi pomogli svojoj djeci.
Meta navodi da je razvila poseban AI sistem za prepoznavanje ovakvih razgovora, ali će ručno pregledati sve razgovore koje AI označi prije nego što pošalje obavještenje, kako ne bi izazvala paniku kada za to nema stvarnog razloga. Ipak, radije će postupiti opreznije i poslati obavještenje čak i ako namjera tinejdžera ljudskom umu djeluje nejasno. Ova funkcija je sada dostupna roditeljima koji koriste roditeljski nadzor na Instagramu u SAD-u, Velikoj Britaniji, Australiji i Kanadi, dok će do kraja godine biti dostupna svima koji koriste roditeljski nadzor širom svijeta.
Kompanija također radi na razvoju mogućnosti kontaktiranja hitnih službi ako razgovor korisnika s Meta AI sugeriše da bi mogao biti u neposrednoj opasnosti da sebi oduzme život, bez obzira na to da li je riječ o maloljetnoj ili odrasloj osobi. U maju je OpenAI predstavio funkciju koja također ima za cilj rješavanje problema samopovređivanja. Nazvana Trusted Contact for ChatGPT, ona korisnicima omogućava da odrede prijatelja kojeg kompanija može kontaktirati ako procijeni da su u riziku da naude sebi.
Na kraju, Metina postavka Limited Content sada se primjenjuje i na interakcije s Meta AI. Ako je roditelj uključio opciju Limited Content na Instagramu, koja filtrira sadržaj s osjetljivim temama poput eksplicitnih vizuala za odrasle i samopovređivanja, tada će i AI interakcije njihove djece također biti dodatno ograničene.