Suwiċidju u Facebook AI

Kad osoba umre samoubojstvom, ljudi u svom životu često se pitaju što su mogli učiniti da to spriječe.

Korisnici društvenih medija možda čak žale što su osobu vidjeli nešto zabrinjavajuće, a da pritom nisu učinili ništa.

U pokušaju da pomogne, Facebook je objavio da proširuje svoju upotrebu alata za umjetnu inteligenciju (AI) kako bi prepoznao kada netko na web stranici društvenih medija izražava misli o samoubojstvu ili samopovređivanju.

Prije ovog mjeseca, Facebook je koristio alate samo nekim korisnicima u Sjedinjenim Državama. Sada je dostupna većini od 2 milijarde korisnika web lokacije, osim onima u Europskoj uniji koji imaju strože zakone o privatnosti i internetu.

Mark Zuckerberg, izvršni direktor Facebooka, kaže da je upotreba AI pozitivan razvoj.

Ilu ftit objavio na svojoj vremenskoj traci na Facebooku da su „Samo u posljednjem mjesecu ovi AI alati pomogli da se brže povežemo s prvim odgovorima više od 100 puta.“

Kako točno alati to rade?

Facebook ne otkriva detaljne detalje, ali čini se da alat djeluje tako što preskače postove ili videozapise i označava ih kad otkrije riječi, videozapise i slike koje mogu upućivati ​​na to da je osoba u riziku od samoubojstva.

Facebook već koristi AI u sličnom materijalu za skeniranje i uklanjanje postova koji predstavljaju dječju pornografiju i drugi neprimjereni sadržaj.

Predstavnik Facebooka rekao je za Healthline kako alati za suzbijanje samoubojstava pomažu bržem otkrivanju sadržaja. AI također pomaže u postavljanju prioriteta u izvještajima, ukazujući koji su slučajevi ozbiljniji.

Zatim obučeni članovi Facebookovog tima za rad u zajednici pregledavaju sadržaj i određuju vrstu pomoći koja će se pružiti korisniku.

Ti članovi rade po cijelom svijetu, svakodnevno i pregledavaju izvješća s AI alata i zabrinutih korisnika Facebooka.

Jedan od načina na koji AI alat otkriva suicidne sklonosti je poticanje korisnika na pitanja poput: "Jesi li dobro?" "Mogu li vam pomoći?" i "Trebate li pomoć?"

Facebookov tim za rad u zajednici zadužen je za pregled sadržaja za kojeg se izvještava da je nasilan ili zabrinjavajući.

U svibnju je Facebook objavio da će to dodati 3,000 više radnika operativnog tima koji je tada imao 4,500 zaposlenih.

Prema glasnogovorniku Facebooka, tehnologija pomaže u otkrivanju sadržaja i videozapisa koje ljudi objavljuju na Facebooku često brže nego što prijatelj ili članovi obitelji mogu prijaviti materijal.

Kad se to otkrije, korisnik Facebooka uspostavlja vezu s Facebook podrškom za chat uživo od organizacija za podršku kriznim situacijama putem Messengera i može razgovarati u stvarnom vremenu.

Na brodu su zagovaratelji svjesnosti o samoubojstvu

U stvaranju AI za prevenciju samoubojstava Facebook surađuje s organizacijama za mentalno zdravlje, uključujući Save.org, Nacionalna telefonska linija za sprečavanje samoubojstava „1-800-273-TALK (8255)“i Prednjačenje prevencije samoubojstava.

Daniel J. Reidenberg, PsyD, izvršni direktor Save.org, kaže kako je oduševljen što Facebook preduzima korake kako bi pomogao u napretku napora u prevenciji samoubojstva na načine na koje to dosad nije učinjeno.

„Ako pogledamo zadnjih 50 ili 60 godina – bilo da govorite o napretku lijekova ili liječenju samoubojstava i mentalnog zdravlja – nismo vidjeli smanjenje ili pad samoubojstva zbog tih stvari, pa ideja da je možda tehnologija pomoć može biti najbolja prilika koju trenutno imamo da pokušamo spasiti živote “, kazao je Reidenberg za Healthline.

Iako napominje da AI alati možda nisu u potpunosti dizajnirani i mogu predstavljati lažne pozitivne stavove ljudi koji su u riziku, kaže da je to vrhunska intervencija za prevenciju samoubojstva koja će možda trebati vremena da shvatimo njezinu učinkovitost.

"Prije nego što je AI došao zajedno, bilo je lažnih pozitivnih mišljenja ljudi koji su izvještavali o stvarima na Facebooku i koji su mislili da prijatelj može biti samoubilački. AI samo ubrzava proces da bi se pomoglo eliminiranju nekih od tih lažnih pozitivnih rezultata i stvarno se mogu naći oni koji su doista u riziku ", rekao je Reidenberg.

Dodaje da ljudi pokazuju znakove suicidnih sklonosti na društvenim medijima i da to nije ni dobro ni loše.

„Društveni su mediji upravo tamo gdje ljudi danas žive svoj život. Prije mnogo godina, živjeli su u parku ili u stanci ili pisali bilješke jedno drugome, možda dijelili telefonom. Dok sve više i više ljudi živi svoj život na društvenim mrežama, oni dijele i sretne trenutke i izazove s kojima se suočavaju “, rekao je.

Promjena, dodaje, omogućuje ljudima da istodobno dosegnu stotine i stotine ljudi.

Reidenberg kaže da ako primijetite nekoga na društvenim mrežama koji može biti depresivan ili mu prijeti opasnost od samopovrede, obratite im se porukom, tekstom ili telefonskim pozivom ako ste bliski prijatelji. Facebook čak nudi unaprijed popunjene tekstove kako bi lakše započeo razgovor.

Ako se s tim pristupom ne osjećate ugodno, Reidenberg predlaže korištenje funkcije izvještavanja na Facebooku.

"To je lako i brzo učiniti. Tehnologija to ne može sama. Trebamo ljude da se uključe. "Ne raditi nešto je najgora moguća stvar koja se može dogoditi", rekao je.

Što je s pitanjima privatnosti?

Osim dobre namjere, teško je ne uzeti u obzir i invaziju na privatnost.

Charles Lee Mudd Jr., odvjetnik za zaštitu privatnosti i ravnatelj tvrtke Mudd Law, kaže da se skeniranje ključnih riječi na Facebooku ne smije smatrati kršenjem privatnosti ako se ono objavi prije vremena.

"Dok Facebook otkriva da pregledava sadržaj, ne vidim nikakve stvarne probleme", rekao je Mudd za Healthline. „Trebalo bi razumjeti da bilo što objavljeno bilo gdje na internetu, uključujući i putem e-pošte – privatne ili ne – ili društvenih medija, može pronaći svoj put do nenamjernih primatelja. Barem ako nam Facebook kaže da ima robote koji čitaju našu poštu – ili barem skeniraju ključne riječi ili fraze – možemo prilagoditi svoje ponašanje ako je to potrebno. "

Iako je pravno Facebook možda jasan, je li rasprava etički spremna za raspravu.

Keshav Malani, suosnivač tvrtke Powr of You, koja pomaže ljudima da zaradjuju novac od njihove digitalne prisutnosti, kaže da bez obzira na namjere Facebooka, svaka bi osoba trebala slobodno odlučiti kako će se koristiti njihovi osobni podaci.

"Ili je klizav nagib na ono što se smatra" dobrim "naspram" lošeg "korištenja osobnih podataka koje dijelimo na platformama poput Facebooka. Također, namjere nisu dovoljne jer pristranost podataka može rezultirati nevažećim ili štetnim tvrdnjama iz čak i samo osnovne povijesne korelacijske analize “, rekao je Malani za Healthline.

Dodaje da je AI dobar koliko i podaci koje dobiva kao ulaz.

„Pojedinačne platforme poput Facebooka koji pokušavaju pretpostaviti da vas znaju dovoljno dobro za zaključivanje vašeg blagostanja bilo bi naivno. Facebook ili bilo koji drugi medij u tom pogledu pokrivaju samo mali dio našeg života i često slikaju sliku koju mi ​​odlučimo dijeliti, pa izvlačenje zaključaka iz tako ograničenog i vjerojatno pristranog izvora podataka treba činiti s krajnje oprezom. " On je rekao.

Ipak, Reidenberg kaže da se ljudi ne trebaju bojati Facebooka koristeći AI.

"Ovo nije Facebook koji proganja ljude ili se upušta u ljude", rekao je. "Upotreba tehnologije i ljudi pokušavaju spasiti živote ljudi", rekao je. "Vjerujte mi, ako imate voljenu osobu u krizi, želite da se sve učini za njih, bilo da ste u hitnoj ili na mreži."

Zapravo se nada da bi više tehnologije moglo intervenirati s ljudima u krizi.

"Kad je netko u krizi, mogućnosti i alternative odlaze od njih. Oni postaju vrlo fokusirani na ono što se događa u tom trenutku i nemaju alate potrebne da ih prođu “, rekao je.

Bilo koja tehnologija može ljudima pružiti više mogućnosti, Reidenberg kaže kako će ih manje biti u krizi. Volio bi vidjeti da tehnologija stvara više načina za prepoznavanje ljudi u riziku prije nego što uopće budu u opasnosti od, recimo, depresije.

Na primjer, on kaže da ako znamo kako postajemo još depresivniji što manje komuniciramo, više se izoliramo, povlačimo više, manje energije i drugačije govorimo i pišemo, onda bi programiranje tehnologije za uočavanje tih promjena moglo biti korisno.

„Recimo da ste redovni plakati na Facebooku, ali tada ste u životu sve depresivniji, a vaša aktivnost polako opada. Tada počnete objavljivati ​​slike na Instagramu nekoga vrlo tužnog ili tmurnog dana vani. Ako na temelju vašeg ponašanja na mreži možemo dobiti tehnologiju da shvatimo što vam se događa u životu, mogli bismo vam dati stvari poput resursa ili podrške i možda to možemo i preokrenuti “, rekao je Reidenberg.

Zuckerberg je u svom postu dijelio slične osjećaje, aludirajući na buduće planove korištenja AI na druge načine.

"Mnogo više možemo učiniti kako bismo ovo poboljšali", napisao je. "U budućnosti će AI moći razumjeti više suptilnih nijansi jezika i moći će prepoznati i drugačija pitanja, osim samoubojstva, uključujući brzo uočavanje više vrsta maltretiranja i mržnje."