Sebevražda a Facebook AI

Když člověk zemře sebevraždou, lidé ve svém životě často přemýšlí, co mohli udělat, aby tomu zabránili.

Uživatelé sociálních sítí mohou dokonce litovat, že viděli něco znepokojujícího, aniž by něco udělali.

Ve snaze pomoci Facebook oznámil, že rozšiřuje využití nástrojů umělé inteligence (AI), aby bylo možné rozpoznat, když někdo na webu sociálních sítí vyjadřuje myšlenky na sebevraždu nebo sebepoškozování.

Před tímto měsícem Facebook používal nástroje pouze pro některé uživatele ve Spojených státech. Nyní je k dispozici většině ze 2 miliard uživatelů webu, kromě těch v Evropské unii, kteří mají přísnější zákony na ochranu soukromí a internetu.

Mark Zuckerberg, generální ředitel Facebooku, říká, že používání AI je pozitivní vývoj.

Je to už nějaký čas zveřejnil na své facebookové časové ose že "Jen za poslední měsíc nám tyto nástroje AI pomohly spojit se s prvními odpověďmi více než 100krát rychleji."

Jak přesně to nástroje dělají?

Facebook neprozrazuje podrobné detaily, ale zdá se, že nástroj funguje tak, že přeskakuje příspěvky nebo videa a označí je, když detekuje slova, videa a obrázky, které mohou naznačovat, že člověku hrozí sebevražda.

Facebook již používá AI v podobných materiálech ke skenování a odstraňování příspěvků představujících dětskou pornografii a jiný nevhodný obsah.

Mluvčí Facebooku řekl Healthline, že nástroje proti sebevraždám pomáhají rychleji odhalovat obsah. Umělá inteligence také pomáhá stanovovat priority ve zprávách a ukazuje, které případy jsou závažnější.

Vyškolení členové komunitního týmu Facebooku pak obsah zkontrolují a určí typ pomoci, která bude uživateli poskytnuta.

Tito členové pracují na denní bázi po celém světě a kontrolují zprávy z nástrojů AI a dotčených uživatelů Facebooku.

Jedním ze způsobů, jak nástroj AI detekuje sebevražedné tendence, je povzbudit uživatele, aby se ptali jako: „Jsi v pořádku?“ "Mohu vám pomoci?" a "Potřebujete pomoc?"

Pracovní tým Facebooku má na starosti kontrolu obsahu, který je nahlášen jako násilný nebo znepokojující.

V květnu Facebook oznámil, že přidá 3,000 více pracovníků operačního týmu, který měl v té době 4,500 XNUMX zaměstnanců.

Podle mluvčího Facebooku pomáhá technologie detekovat obsah a videa, která lidé zveřejňují na Facebooku, často rychleji, než může materiál nahlásit přítel nebo člen rodiny.

Když se to zjistí, uživatel Facebooku se připojí k podpoře živého chatu na Facebooku od organizací krizové podpory přes Messenger a může chatovat v reálném čase.

Na palubě jsou obhájci sebevražd

Při spolupráci s umělou inteligencí pro prevenci sebevražd Facebook spolupracuje s organizacemi zabývajícími se duševním zdravím, včetně Save.org, Národní telefonní linka prevence sebevražd „1-800-273-TALK (8255)“i Vedení prevence sebevražd.

Daniel J. Reidenberg, PsyD, generální ředitel společnosti Save.org, říká, že je nadšený, že Facebook podniká kroky, které pomohou pokročit v úsilí o prevenci sebevražd způsobem, který dosud nebyl učiněn.

Pokud se podíváme na posledních 50 nebo 60 let - ať už mluvíte o pokroku v lécích nebo léčbě sebevražd a duševního zdraví - nezaznamenali jsme snížení nebo pokles sebevražd kvůli těmto věcem, takže myšlenka, že by technologie mohla pomoci může být nejlepší příležitostí, kterou máme, abychom se pokusili zachránit životy.“ řekl Reidenberg Healthline.

I když poznamenává, že nástroje umělé inteligence nemusí být plně navrženy a mohou představovat falešně pozitivní postoje ohrožených lidí, říká, že jde o špičkovou prevenci sebevražd, která může chvíli trvat, než pochopí její účinnost.

"Než se objevila umělá inteligence, existovaly falešně pozitivní názory od lidí, kteří hlásili věci na Facebooku a kteří si mysleli, že přítel může mít sebevraždu. Umělá inteligence jen urychluje proces, aby pomohla odstranit některé z těchto falešně pozitivních výsledků, a skutečně mohu najít ty, kteří jsou skutečně ohroženi, "řekl Reidenberg.

Dodává, že lidé na sociálních sítích vykazují známky sebevražedných sklonů a že to není ani dobré, ani špatné.

„Sociální sítě jsou přesně tam, kde dnes lidé žijí své životy. Před mnoha lety žili v parku nebo na přestávce nebo si psali poznámky, možná je sdíleli po telefonu. "S tím, jak stále více lidí žije svůj život na sociálních sítích, sdílí šťastné chvíle a výzvy, kterým čelí," řekl.

Změna, dodává, umožňuje lidem oslovit stovky a stovky lidí současně.

Reidenberg říká, že pokud si na sociálních sítích všimnete někoho, kdo může být v depresi nebo ohrožený sebepoškozováním, kontaktujte ho zprávou, textovou zprávou nebo telefonním hovorem, pokud jste blízcí přátelé. Facebook dokonce nabízí předvyplněné texty, které usnadňují zahájení konverzace.

Pokud vám tento přístup nevyhovuje, Reidenberg navrhuje použít funkci hlášení na Facebooku.

"Je to snadné a rychlé. Technologie to sama nezvládne. Potřebujeme lidi, aby se zapojili." Nedělat něco je nejhorší možná věc, která se může stát, "řekl.

A co otázky ochrany soukromí?

Kromě dobrých úmyslů je těžké neuvažovat o zásahu do soukromí.

Charles Lee Mudd Jr., právník na ochranu soukromí a ředitel Mudd Law, říká, že skenování klíčových slov na Facebooku by nemělo být považováno za porušení ochrany osobních údajů, pokud jsou zveřejněna s předstihem.

"Zatímco Facebook odhaluje, že obsah kontroluje, nevidím žádné skutečné problémy," řekl Mudd Healthline. „Mělo by být jasné, že cokoli zveřejněné kdekoli na internetu, včetně e-mailu – soukromého nebo ne – nebo sociálních médií, si může najít cestu k nezamýšleným příjemcům. Pokud nám Facebook řekne, že má roboty, kteří čtou naši poštu – nebo alespoň skenují klíčová slova nebo fráze – můžeme v případě potřeby upravit své chování. "

Zatímco právně může být Facebook jasný, je debata eticky připravena k debatě.

Keshav Malani, spoluzakladatel společnosti Powr of You, která pomáhá lidem vydělávat peníze jejich digitální přítomností, říká, že bez ohledu na záměry Facebooku by se každý měl svobodně rozhodnout, jak budou jeho osobní údaje použity.

"Nebo existuje kluzký svah k tomu, co je považováno za "dobré" versus "špatné" použití osobních údajů, které sdílíme na platformách, jako je Facebook. Záměry také nestačí, protože zkreslení údajů může mít za následek neplatná nebo škodlivá tvrzení i jen základních historických korelační analýza,“ řekl Malani Healthline.

Dodává, že umělá inteligence je stejně dobrá jako data, která získává jako vstup.

„Jednotlivé platformy, jako je Facebook, pokoušející se předpokládat, že vás znají dostatečně dobře na to, aby došli k závěru, že se cítíte dobře, by bylo naivní. Facebook nebo jakékoli jiné médium v ​​tomto ohledu pokrývá jen malou část našich životů a často vykresluje obrázek, který se rozhodneme sdílet, takže vyvozování závěrů z takto omezeného a pravděpodobně neobjektivního zdroje dat bychom měli dělat s extrémní opatrností. " Řekl.

Přesto Reidenberg říká, že lidé by se neměli bát Facebooku využívajícího AI.

"Tohle není to, že Facebook obtěžuje lidi nebo se do nich dostává," řekl. "Využití technologií a lidé se snaží zachránit lidské životy," řekl. "Věřte mi, pokud máte někoho blízkého v krizi, chcete pro něj udělat vše, ať už jste v nouzi nebo online."

Ve skutečnosti doufá, že více technologií by mohlo zasáhnout u lidí v krizi.

"Když je někdo v krizi, příležitosti a alternativy mu odcházejí. Začnou se velmi soustředit na to, co se v tuto chvíli děje, a nemají nástroje potřebné k tomu, aby se přes ně dostal," řekl.

Jakákoli technologie může lidem poskytnout více příležitostí, říká Reidenberg, méně jich bude v krizi. Rád bych viděl, aby technologie vytvořila více způsobů, jak identifikovat ohrožené lidi ještě předtím, než jim dokonce hrozí deprese.

Například říká, že pokud víme, že čím méně komunikujeme, čím jsme izolovanější, čím více jsme uzavřeni, tím méně energie a čím odlišněji mluvíme a píšeme, stáváme se ještě více depresivními, pak by mohla programovací technologie, která by tyto změny odhalila. být užitečný.

„Řekněme, že jste pravidelným plakátem na Facebooku, ale pak se v životě propadáte do čím dál větší deprese a vaše aktivita pomalu upadá. Pak začnete na Instagram zveřejňovat obrázky někoho velmi smutného nebo ponurého dne tam venku. Pokud na základě vašeho online chování dokážeme přimět technologii, aby pochopila, co se děje ve vašem životě, mohli bychom vám poskytnout zdroje nebo podporu a možná to dokážeme zvrátit,“ řekl Reidenberg.

Zuckerberg ve svém příspěvku sdílel podobné pocity a narážel na budoucí plány na využití AI jinými způsoby.

"Je toho mnohem víc, co můžeme udělat, abychom to zlepšili," napsal. "V budoucnu bude umělá inteligence schopna porozumět jemnějším nuancím jazyka a bude schopna rozpoznat i jiné problémy než sebevraždu, včetně rychlého rozpoznání různých typů obtěžování a nenávisti."