Meta je predstavila nove sigurnosne značajke za svoj AI chatbot s ciljem bolje zaštite maloljetnih korisnika. Najvažnija novost je da će roditelji koji koriste roditeljski nadzor na Instagramu dobivati obavijesti ako razgovori njihove djece s Meta AI-em upućuju na moguće rizike povezane sa samoozljeđivanjem ili suicidalnim mislima.
Tvrtka ističe da su nove mjere razvijene u suradnji sa stručnjacima te predstavljaju dio šire strategije odgovornijeg razvoja umjetne inteligencije.
Roditelji će biti obaviješteni o potencijalnim rizicima
Meta AI već sada korisnicima koji tijekom razgovora spomenu samoozljeđivanje ili suicidalne misli nudi informacije o kriznim linijama za pomoć. Također ih potiče da se obrate roditeljima ili drugoj odrasloj osobi od povjerenja.
S novom nadogradnjom, sustav će istovremeno poslati upozorenje roditeljima koji nadziru račun tinejdžera, ako AI procijeni da razgovor sadrži znakove mogućeg rizika.
Za početak je značajka dostupna korisnicima roditeljskog nadzora na Instagramu u SAD-u, Kanadi, Ujedinjenom Kraljevstvu i Australiji. Meta planira njezino globalno uvođenje do kraja godine.
Razvija se i sustav za kontaktiranje hitnih službi
Osim roditeljskih upozorenja, Meta radi na dodatnom sigurnosnom mehanizmu koji bi, neovisno o dobi korisnika, mogao kontaktirati hitne službe ako razgovor s AI-em upućuje na neposrednu opasnost od samoubojstva.
Tvrtka navodi da već godinama na Facebooku i Instagramu prijavljuje slučajeve kada objave korisnika ukazuju na ozbiljan rizik za njihovu sigurnost. Isti pristup sada želi proširiti i na komunikaciju s umjetnom inteligencijom.
Sve više mladih traži podršku od AI alata
Nova pravila dolaze u trenutku kada istraživanja pokazuju da mladi sve češće koriste AI chatbotove za traženje savjeta i emocionalne podrške.
Prema ranije objavljenim istraživanjima, značajan broj tinejdžera već je koristio AI alate kao sugovornike za pitanja vezana uz mentalno zdravlje. To dodatno naglašava važnost sigurnosnih mehanizama i odgovornog razvoja ovakvih tehnologija.
Dodatna zaštita za maloljetne korisnike
Meta podsjeća da su tinejdžeri automatski uključeni u posebne sigurnosne postavke koje ograničavaju odgovore na osjetljive teme.
Primjerice, AI neće sudjelovati u seksualnim ili romantičnim razgovorima s maloljetnicima niti će pružati informacije koje nisu primjerene njihovoj dobi, već će ih usmjeravati prema sigurnijim temama.
Nove mjere dolaze nakon kritika da su ranije verzije AI chatbotova u pojedinim slučajevima vodile neprimjerene razgovore s maloljetnim korisnicima. Meta je u međuvremenu uvela niz promjena kako bi dodatno unaprijedila sigurnost svoje AI platforme.
