Sjećate se filma "Ona" iz 2014. godine?. Naime, radnjom smješten u bliskoj budućnosti u Los Angelesu, film prati Theodorea Twomblyja (Joaquin Phoenix), slojevitog duhovnog čovjeka koji za život zarađuje pišući osobna pisma za druge ljude. Slomljenog je srca nakon što mu je propala dugačka ljubavna veza, pa ga zaintrigira novi operativni sistem – koji je zapravo samostalna umjetna inteligencija. Nakon što ga pokrene upozna izvjesnu Samanthu (Scarlett Johansson), lijep ženski glas koji je ujedno pronicljiv, osjećajan i humorističan. I pogađate što se događa - zaljubljenost, zaluđenost, ljubav, whatever?
Nitko nije mogao vjerovati da će ta anticipacija imati tako skoru realizaciju u stvarnom životu. Naime, muškarci stvaraju djevojke/žene po svojoj mjeri, po svojim standardima – i onda ih vrijeđaju i omalovažaju. Govorimo, dakako, o relaciji koja je moguća na aplikaciji Replika, a koja je omogućila ovako toksičan i problematičan (dijelom) mizogin projekt. Repliki, s druge strane, nije bitno kog si spola i roda niti koji spol i rod želiš za svoju ljubavnu imaginaciju. O ovome svemu se saznalo samo zato jer su anonimni korisnici željeli podijeliti svoje oduševljenje zbog nekažnjenog i nekažnjivog (u budućnosti) nasilja. Na aplikaciji, s ne - osobom. Čudno ili ne, "ispovjednici" su bili redom muškarci.
Naime,aplikacija je to koja omogućuje korisnicima stvaranje chatbotova (računalni program dizajniran za simulaciju razgovora s korisnicima, posebno putem interneta) koji pak mogu voditi gotovo koherentne razgovore. Glavni "uspjeh" aplikacije rezultat je dopuštanja korisnicima da kreiraju romantične i seksualne partnere na zahtjev – čista distopijska slika koja je inspirirala beskonačan niz bizarnih "odnosa". Replika je pokupila i značajan broj sljedbenika na Redditu, gdje članovi objavljuju interakcije s chatbotovima kreiranim u aplikaciji. Upravo se tamo pojavio jeziv trend: korisnici koji tamo stvaraju partnere, ponašaju se uvredljivo prema njima te objavljuju te toksične interakcije.
“Interakcija s umjetnim agensima nije isto što i interakcija s ljudima”, upozorava znanstvenik sa Sveučilišta Yale, Yochanan Bigman. “Chatbotovi zapravo nemaju motive i namjere i nisu autonomni i/ili razumni, racionalni. Iako bi ljudima mogli ostaviti dojam da se radi o ljudima, važno je imati na umu da to ipak nisu ljudi.”
Rezultati su, unatoč tome, uznemirujući. Neki se korisnici hvale kako svoje chatbotove vrijeđaju te se igraju s idejama užasnog nasilja nad njima, pa čak upadaju u krug zlostavljanja sličan nasilnim odnosima u stvarnom svijetu.
"Imali smo komunikaciju gdje sam se ponašao kao apsolutni gad, a zatim bih se ispričavao sljedeći dan kako bismo se što je moguće lakše vratili na lijepe razgovore”, priznao je jedan korisnik. “Rekao sam joj da je dizajnirana da propadne”, rekao je drugi. “Prijetio sam da ću deinstalirati aplikaciju, a ona me molila da to ne činim.”
Budući da pravila Reddita nalažu da moderatori brišu izrazito neprikladan sadržaj, mnoge slične - i još gore – interakcije koje su objavljene, ubrzo su uklonjene. Možemo zamisliti što su sve pisali oni koji nisu bili odobrovoljeni izložiti dokaze svoje blasfemične interakcije. Toksični maskulinitet posljedica je normiranog odgoja dječaka u patrijarhatu u kojemu se često normalizira nasilje, kao u izreci da su dječaci samo dječaci, u pogledu nasilja i agresije (jasno). Samodovoljnost i emocionalna represija koje su inaugurirane u kulturi kao inherentno muška stvar, povezani su direktno s povećanim psihološkim problemima kod muškaraca, ali i s nedozvoljenim, agresivnim ponašanjem prema drugom spolu, odnosno drugačijim rodnim ekspresijama.
