Pred kratkim je Netflix lansiral dokumentarec (The Social Dilemma, 2020), v katerem nastopajo ljudje, ki so soustvarjali socialne medije. Ki so ne le pisali algoritme za aplikacije in mehanizme, ki vodijo facebook, twitter, instagram, youtube…, ampak tudi odločno pokazali na zakulisje. Vsi so nekdanji zaposleni na vodilnih mestih najbogatejših korporacij na svetu, v silikonski dolini.
Začnejo s preprostimi dejstvi: procesorska moč računalnikov je v zadnjih sto letih zrasla za trilijonkrat (dobesedno); krivulja navzgor je skoraj navpična.
Rast in napredek vsega ostalega je primerjalno zanemarljiva.
Človeški možgani pa niso zrasli nikamor. Nobene spremembe. (Biološki model osnovnega živčnega mrežja za čustvo je prilagojen razmeram v zadnjih 50.000 generacijah in se v zadnjih 10.000 letih praktično ni spremenil. Goleman, Čustvena inteligenca.)
Družabna omrežja namerno ustvarjajo odvisnost. To je prvi korak. Pritegniti in potem zadržati pozornost uporabnika (mimogrede, o uporabnikih (“users”) govorita le dve dejavnosti – družabna omrežja in trgovina z nelegalnimi drogami). Pri tem uporabljajo človeško psihologijo: naše šibke točke, naše hlepenje po priznanju, po sprejemanju, po pozornosti. S čimer ni nič narobe, če bi bilo to vse, kar dobimo.
Družabna omrežja poganjajo naročniki, ki oglašujejo. In naloga umetne inteligence, ki skrbi za vse algoritme in za vsa zbiranja podatkov, je, da naročnikom ponudi največ “zrelih” uporabnikov. Takih, ki bodo kupili to, kar naročniki ponujajo.
Trgujejo z našim umom. Nas po malem spreminjajo. Nas zapirajo v kroge istomislečih, nas hranijo z novicami, za katere se zdi, da se bomo nanje odzvali. Naenkrat nismo več prepričani o viru informacij. O tem kaj je res in kaj ne. In če ni osnovnega konsenza o tem, kaj se okoli nas zares dogaja, potem je človeštvo že odteklo svoj krog.
Najhitreje opazimo polarizacijo, vse večje nasprotje med mnenji. Namreč, odziv, ki je skokovit, nenaden in močan, je vselej boljši od počasnega, enakomernega, stalnega – ta slednji ne prinese denarja. Zato umetna inteligenca išče naš odziv, ga meri, ves čas opazuje. Ne slepite se: vaš čas na družabnih omrežjih je skrbno opazovan in merjen. Ves čas. Opazujejo, katere prispevke gledate, koliko časa gledate določeno sliko (!). Kdaj reagirate. In potem vam ponudijo vsebine, ki bodo mogoče sprožale več reakcij. Vedno znova. In potem ko ste zreli, oglase. Vse to v realnem času, algoritmi se prilagajajo iz trenutka v trenutek.
Živimo v matrici – sicer (še) ne v kokončkih, obdani s tekočino kot človeške baterije (priporočamo ponovni ogled vseh treh delov Matrice), ampak je vse skupaj veliko bolj subtilno. In manipulacije se sploh ne zavedamo.
Skokovit porast depresije in samomorov med mladimi sovpada z začetkom družabnih omrežij. Naključje? Mlademu umu omrežje ponuja potrditev, ki nima zveze s potrditvami v realnem svetu. Zaradi odvisniškega modela, zaradi tega, ker naši možgani hlepijo po dopaminskem fiksu, je spirala žalosti, slabe samopodobe in nazadnje depresije, zelo intenzivna. Mladi prostovoljno živijo v svetu, kjer vsak “like”, komentar, srček, odziv, pomeni, da so sprejeti, in nasprotno, premalo všečkov pomeni, da niso. In da se morajo bolj potruditi. In, povejte po pravici, kdo ne bi pogledal fotke, na kateri vas je označil prijatelj? Avtorji sami priznavajo, da so odvisni (in da svojim otrokom ne pustijo blizu socialnim omrežjem, vsaj do 16-tega leta)! Mehanizem pritiska direktno na naše najbolj ranljive, človeške negotovosti. In jih izkorišča.
Problem je poslovni model, ki poganja vse skupaj. Ki prinaša dobiček na podlagi manipulacije uporabnikov s strani plačnikov. Tako bogatih podjetij, kot so največja tehnološka podjetja (fb, google, amazon, apple) ni bilo še nikoli v zgodovini.
In problem niti niso ljudje, ki so ustvarili algoritme, problem je umetna inteligenca, ki deluje na podlagi poslovnega modela, katerega edini kriterij je ustvarjanje dobička. Četudi na škodo celotni človeški rasi.
Korporacija, ki služi milijarde, prostovoljno tega ne bo ustavila. Kaj pa je ena vojna? Še več dobička, jasno.
Ustaviti bi ga morala država. Smo ta vlak že zamudili?
Kaj lahko naredimo? Tehnologija ni samo slaba. Tudi omrežja niso samo slaba. Povezovanje, druženje, izmenjava mnenj, obveščenost – vse to je ok, če bi eliminirali manipulacijo, ki je zadaj. Česar pa, kot rečeno, nihče noče.
Če je le mogoče, izbrišite vsa družabna omrežja na svojih pametnih telefonih. Ali vsaj ugasnite vsa nenujna opozorila. Pojdite ven. Družite se v živo. Vadite jogo, vadite čuječnost :-).
Naj bo sila z nami.
PS Poglejte semle:
Predlogi za varno uporabo tehnologija in za pogovor z otroki:
https://www.humanetech.com/families-educators
Povezava na predstavitev dokumentarca The Social Dilemma:
