Frensis Haugen, bivša zaposlena u kompaniji Fejsbuk, koja je objavila na desetine hiljada stranica internog istraživanja i dokumenata koji ukazuju na to da je kompanija bila svesna različitih problema koje uzrokuju njene aplikacije, uključujući potencijalni “toksični” efekat Instagrama na tinejdžerke, svedočila je pred američkim Senatom.
Haugenova je bila ključni izvor za veliko istraživanje Volstrit džornala pod nazivom “Fejsbuk dokumenti”. Haugenova je na saslušanju navela da rukovodstvo Fejsbuka i Instagrama zna kako da te mreže učine bezbednijim, ali da to neće učiniti jer su “astronomske profite” postavili ispred ljudi.
Volstrit džornal izvestio je ranije prošlog meseca da su istraživači na Fejsbuku u poslednje tri godine sprovodili studije o tome kako Instagram utiče na milione mladih korisnika. Istraživanje, prenosi Si-En-En, pokazuje da platforma može da ošteti mentalno zdravlje i imidž tela, posebno među tinejdžerkama.
Demokratski senator Ričard Blumental, predsedavajući Pododbora za zaštitu potrošača, bezbednost proizvoda i podataka, izrazio je “iskrenu zahvalnost” uzbunjivačici iz Fejsbuka Frensis Haugen što se “suprotstavila jednom od najmoćnijih korporativnih giganata u istoriji sveta”.
– Velike tehnološke kompanije se sada suočavaju sa onim sa čim su se suočavale velike duvanske korporacije, zapanjujućim trenutkom istine. To je dokumentovani dokaz da Fejsbuk zna da njegovi proizvodi mogu dovesti do zavisnosti i biti toksični za decu. I ne radi se samo o tome da su zaradili novac, već su više cenili svoj profit nego bol koju su naneli deci i njihovim porodicama – rekao je Blumental.
Blumental je, prenosi Si-En-En, rekao da je njegova kancelarija otvorila Instagram nalog identifikujući se kao 13-godišnja devojčica i zapratili su nekoliko naloga povezanih sa ekstremnom ishranom i poremećajima u ishrani. U roku od jednog dana, rekao je Blumental, preporuke na Instagramu bile su “isključivo ispunjene” drugim nalozima koji su promovisali samopovređivanje i poremećaje u ishrani.
Blumental je na početku saslušanja rekao da “između ostalih otkrića, informacije koje ste dali Kongresu snažan su dokaz da je Fejsbuk znao da njegovi proizvodi štete tinejdžerima” i pozvao Marka Zakerberga da svedoči pred Kongresom.
“Pogubne odluke donete unutar Fejsbuka”
Frensis Haugen, bivša menadžerka proizvoda Fejsbuka koja je radila na pitanjima građanskog integriteta u kompaniji, suočila se između ostalog sa pitanjima pododbora za trgovinu Senata o tome šta je Instagram u vlasništvu Fejsbuka znao o njegovim efektima na mlade korisnike.
Nakon što je radila na četiri različite vrste društvenih mreža, istakla je da razume “koliko su ti problemi složeni i nijansirani”, ali da su odluke “donete unutar Fejsbuka pogubne” za decu, javnu bezbednost, privatnost i demokratiju.
– Zato moramo zahtevati da Fejsbuk napravi promene – dodala je Haugenova.
Dokumenta koje je dostavila Kongresu dokazuju, tvrdi, da je Fejsbuk više puta obmanjivao javnost o tome šta njegova vlastita istraživanja otkrivaju o sigurnosti dece, efikasnosti njegovih sistema veštačke inteligencije i njegovoj ulozi u širenju razdornih i ekstremnih poruka.
– Ja sam se javila jer sam verovala da svako ljudsko biće zaslužuje dostojanstvo istine – istakla je Hogenova.
Sposobnost da se reši samo trećina slučajeva kontrašpijunaže
Pozvala je Kongres na primenu propisa koja bi “promenila pravila” za Fejsbuk.
Ističe da Mark Zakerberg drži 55 odsto upravljačkih prava u kompaniji i da ne postoji nijedna takva kompanija koja je tako unilateralno kontrolisana.
Prema njenim rečima, poslednji tim u kom je radila bavio se kontrašpijunažom.
“U svakom trenutku naš tim je mogao rešavati samo trećinu slučajeva za koje smo znali. Znali smo da ako napravimo čak i osnovni detektor, verovatno bismo imalo još mnogo slučajeva”, rekla je Haugenova.
Napominje da je želju da progovori dobila nakon predsedničkih izbora 2020. godine.
Frensis Haugen je pred Kongresom istakla da Fejsbukovi sistemi veštačke inteligencije mogu da uhvate samo mali deo uvredljivog sadržaja.
– U najboljem slučaju, kod govora mržnje, hvataju 10 do 20 odsto takvog sadržaja. U slučaju dece, to znači da će dobiti, recimo, reklame za pribor za drogiranje. Ako se oslanjaju na računare, a ne na ljude, verovatno nikada neće uhvatiti više od 10 do 20 odsto tih oglasa – objasnila je Haugenova.
Fokus na profitu i skaliranju
Razlog tome vidi u velikoj usmerenosti Fejsbuka na skaliranje.
– Dakle, skala je: možemo li učiniti stvari vrlo jeftino za ogroman broj ljudi? To je deo razloga zašto se toliko oslanjaju na veštačku inteligenciju. Moguće je da nijedan od tih oglasa nije video čovek – rekla je Haugenova.
Smatra da je vreme da Fejsbuk proglasi “moralno bankrotstvo”, saopšti da ima problem i za rešavanje potraži pomoć.
Jedan od problema sa kojima se suočava Fejsbuk je i nedovoljno zaposlenih. A to je, kako veruje, u timovima za borbu protiv špijunaže i terorizma pitanje nacionalne bezbednosti.
Ali prema Haugenovoj, razbijanje Fejsbuka neće ukloniti potencijalne rizike koje kompanija predstavlja za društvo.
– Problem leži u dizajnu algoritama i rangiranju zasnovanom na angažmanu koji se potencijalno tiču sadržaja, kao i ograničenjima veštačke inteligencije da to reši – izjavila je Haugenova.
