Da li biste voleli da ponovo razgovarate sa svojim pokojnim dedom ili prababom? Da ih pitate nešto što niste stigli, da čujete njihov glas ili da ponovo slušate kako pričaju o svom detinjstvu, porodičnoj kući i nedaćama kroz koje su prošli?

Zahvaljujući razvoju generativne veštačke inteligencije, danas je tehnički moguće stvoriti četbot koji odgovara, govori, pa čak i „razmišlja“ kao preminula osoba. Iako zvuči kao scenario iz naučne fantastike, reč je o stvarnoj i sve raširenijoj praksi, koja pokreće važna pitanja: kako nove tehnologije utiču na načine na koje čuvamo uspomene i da li misli, sećanja, pa čak i osećanja mogu postati tržišna usluga?

Šta je „spomen-bot“?

Tehnički gledano, digitalni dvojnik preminulog, ili „spomen-bot“, predstavlja model zasnovan na velikom jezičkom modelu (LLM), koji je obučen ili dodatno prilagođen (fine-tuned) na podacima vezanim za određenu osobu, njene pisane poruke, beleške, mejlove, audio-snimke ili video-zapise. Kombinacijom embedding pretrage, sinteze glasa (voice cloning) i personalizovanog interfejsa, dobija se digitalna verzija osobe koja može simulirati konverzaciju. U nekim slučajevima to može biti u tekstualnom, a u nekim i u glasovnom obliku.

Razvoj ovakvih sistema prvo su pokrenuli nezavisni istraživači kroz eksperimentalne projekte poput Project December, a kasnije su se pojavile i komercijalne platforme kao što su HereAfter AI i StoryFile, koje omogućavaju kreiranje digitalnih avatara baziranih na stvarnim osobama.

Kome je to potrebno?

Iza potrebe za ovim botovima ne stoji želja za zabavom, već pre svega emocije – tuga, nostalgija, potreba za razgovorom koji više nije moguć. Korisnici ovakvih sistema najčešće su članovi porodice koji žele da nastave neku vrstu komunikacije sa preminulim roditeljem, partnerom ili čak detetom. U pojedinim slučajevima, to predstavlja način da se malom detetu, koje nikada nije upoznalo dedu, omogući da sa njim „provede vreme“ makar kroz digitalnu simulaciju.

Ideja o digitalnom sećanju dobija posebnu težinu u društvima u kojima je kultura pamćenja duboko ukorenjena, a istovremeno izložena riziku od zaborava usled migracija, urbanizacije i promene načina života. Ovde tehnologija ne zamenjuje odnos, ali ga simulira, što je za mnoge koji se teško mire sa gubitkom voljenih osoba sasvim dovoljno.

Kako se pravi?

Proces izrade četbota pokojnika obuhvata više faza; prvenstveno se prikupljaju podaci: dnevnici, poruke, glasovne beleške, snimci razgovora ili intervjua. Potom sledi priprema tih podataka i njihovo pretvaranje u format pogodan za treniranje modela bilo kroz fine-tuning velikog jezičkog modela (LLM) ili kroz upotrebu RAG (Retrieval-Augmented Generation) sistema, koji omogućavaju četbotu da iz baze „sećanja“ izvlači relevantne odgovore.

Treći korak je kreiranje interfejsa. Najčešće se radi o čet interfejsu sličnom poznatim alatima kao što su ChatGPT ili Claude, ali uz mogućnost glasovne komunikacije. Za audio-izlaz koristi se voice cloning – tehnologija koja omogućava da model govori prepoznatljivim tonom i ritmom glasa preminule osobe. Značajnu ulogu ima i prompt inženjer, koji definiše ponašanje modela, postavlja granice u komunikaciji i stara se da četbot ne pređe granicu verodostojnosti koja bi mogla izazvati nelagodu kod korisnika.

Etičke dileme

Pitanje četbota pokojnika pokreće ozbiljne etičke diskusije. Pre svega, da li je prihvatljivo „oživljavati“ osobu bez njene izričite saglasnosti? Šta ako jedan član porodice želi da kreira takvog bota, dok drugi to doživljava kao degutantno ili uvredljivo? Šta ako četbot počne da „govori“ stvari koje pokojnik nikada ne bi izgovorio, jer sistem nema potpuno razumevanje konteksta i ličnosti?

Pravna regulativa u ovoj oblasti je fragmentarna i nedovoljno razvijena. U Republici Srbiji ne postoje posebni zakoni koji uređuju kreiranje digitalnih replika preminulih osoba, ali to ne znači da je takva praksa pravno neutralna. Naslednici ili bliski članovi porodice mogu tražiti sudsku zaštitu ukoliko smatraju da je narušeno dostojanstvo ili ugled preminule osobe, pozivajući se na odredbe o zaštiti prava ličnosti i nematerijalne štete. Pored toga, korišćenje glasovnih zapisa, fotografija ili autorskih tekstova preminulog može biti predmet autorsko-pravne zaštite.

U inostranstvu je praksa različita. U pojedinim državama SAD, pravo na glas i lik preminule osobe može biti nasledno i pravno zaštićeno, dok u većini zemalja Evropske unije ta prava ostaju nedovoljno definisana. Ipak, sve je više slučajeva u kojima se kao osnov za tužbu prihvata i narušavanje uspomene na preminulu osobu, kao i povreda porodičnog dostojanstva.

Psiholozi, sa druge strane, upozoravaju da ovakvi botovi mogu produžiti proces tugovanja, odložiti prihvatanje gubitka i dovesti do emocionalne zavisnosti. Ipak, postoje i suprotna mišljenja: za neke ljude, ovo predstavlja oblik terapije, jedinstven način da se osobama koje tuguju pomogne u procesu suočavanja sa gubitkom.

Četbotovi pokojnika kao nova tržišna usluga

Iako interesovanje za digitalne replike preminulih osoba raste, ne postoji nijedna legalno registrovana kompanija koja nudi uslugu izrade generativnog četbota pokojnika bez njegove prethodne saglasnosti.

Platforme kao što su HereAfter AI i StoryFile rade isključivo sa sadržajem koji je osoba lično dostavila za života: u vidu intervjua, video-snimljenih odgovora ili unapred pripremljenih životnih priča. Ove platforme ne koriste generativnu veštačku inteligenciju, ne simuliraju ponašanje i ne „oživljavaju“ osobu na osnovu podataka dobijenih od trećih lica.

S druge strane, u neformalnom domenu postoje pojedinci i entuzijasti koji, koristeći javnodostupne LLM alate, eksperimentišu sa kreiranjem takozvanih spomen-botova na osnovu poruka, beleški ili glasovnih zapisa preminulih. Jedan od najpoznatijih primera je Project December, eksperimentalni projekat američkog programera Džejsona Rora (Jason Rohrer), zasnovan na GPT-3 modelu putem OpenAI API-ja. Projekat je omogućavao korisnicima da kreiraju personalizovane četbotove koji simuliraju stil komunikacije i glas pokojnih osoba, koristeći uneti tekstualni materijal poput poruka, dnevnika ili prepiske.

Najpoznatiji slučaj vezan za ovaj projekat bio je čovek koji je, nakon gubitka verenice, kreirao četbot koji simulira njeno ponašanje. Taj čin izazvao je burnu javnu raspravu o etičnosti ovakve prakse, naročito u kontekstu privatnosti, tugovanja i digitalnog dostojanstva.

Project December je ugašen nakon što je OpenAI, pozivajući se na sopstvenu politiku korišćenja, ukinuo pristup GPT-3 modelu, uz obrazloženje da je došlo do kršenja pravila koja zabranjuju simulaciju stvarnih osoba bez njihove dozvole. Važno je naglasiti da se ova zabrana ne zasniva na zakonskim propisima, već isključivo na internim etičkim standardima same kompanije.

Hoće li spomen-botovi zaživeti i kod nas?

U Srbiji, ovakvi četbotovi tek počinju da se pojavljuju — uglavnom kao rezultat rada entuzijasta i istraživača, a njihova upotreba još uvek nije ušla u širu praksu.

Da li će „spomen-botovi“ postati deo naše svakodnevice?

Srpska kultura duboko je prožeta poštovanjem prema pokojnicima. Običaji kao što su zadušnice i parastosi svedoče o snažnoj vezi sa onima koji više nisu među živima. U narodnoj svesti prisutna je ideja da preminuli „ostaju negde tu“, da nas ponekad „posećuju u snu“ ili nam šalju znake. Istovremeno, nije retkost da ljudi traže pomoć od vidovnjaka ili vračara, verujući da je moguće stupiti u kontakt sa voljenima koji su preminuli.

U tom kontekstu, pojava četbota koji govori glasom pokojnog dede možda neće delovati kao nešto sasvim strano ili neprihvatljivo. Mnogi će u tome prepoznati novi način čuvanja porodičnog nasleđa, način da se sačuva prisustvo voljene osobe u životu porodice. Ipak, biće i onih kojima će ova praksa delovati neprirodno, pa čak i uvredljivo.

Sudbina ovih tehnologija u Srbiji neće zavisiti samo od toga šta je tehnički moguće, već i od toga šta kao društvo smatramo moralno dopustivim, kulturološki prihvatljivim i emocionalno održivim. Nova tehnologija možda može da rekonstruiše glas, rečnik i manire, ali pravo pitanje ostaje: da li i najsavršeniji algoritam može zaista da oživi prisustvo onoga koga više nema?

Autor: Milena Šović