Digitalne simulacije preminulih otvaraju nova etička pitanja o umjetnoj inteligenciji

Neki koji su već prihvatili tehnologiju tješe se tekstualnim, glasovnim ili video simulacijama. Kažu da im se čini kao da im se njihovi najmiliji doista obraćaju s one strane groba. Drugi smatraju da je AI ovjekovječenje pokojnika zabrinjavajuće i manipulativno.

Etičari Tomasz Hollanek i Katarzyna Nowaczyk-Basińska sa Sveučilišta u Cambridgeu posljednji su koji su izrazili zabrinutost zbog rizika 'industrije digitalnog života nakon smrti'.

Tvrde da chatbotovi koji oponašaju preminule osobe – koji se ponekad nazivaju deadbotovi, griefbotovi ili ghostbotovi – postavljaju nekoliko ključnih društvenih i etičkih pitanja s kojima se tek trebamo suočiti.

Kao, tko posjeduje podatke osobe nakon smrti? Kakav je psihološki učinak na preživjele? Za što se može koristiti deadbot? A tko može zauvijek ugasiti bota?

Takva su pitanja nekoć inspirirala jezivu epizodu znanstveno-fantastične serije Black Mirror . Sada se takva zamišljena budućnost čini sve mogućom.

Razmislite o rizicima sljedećeg mogućeg scenarija, koji su Hollanek i Nowaczyk-Basińska iznijeli u svom nedavnom istraživačkom članku. Baka 28-godišnje žene prolazi pa ona odlučuje prenijeti njihove razmjene poruka i glasovne bilješke u aplikaciju. Ova aplikacija omogućuje ženi da pozove AI simulaciju svoje preminule bake kad god poželi. Nakon besplatne probe, njezina digitalna baka počinje prodavati njezine stvari dok razgovara s njom.

Pristanak, privatnost i tugovanje

"Ljudi bi mogli razviti snažne emocionalne veze s takvim simulacijama, što će ih učiniti posebno ranjivima na manipulaciju", predlaže Hollanek.

"Treba razmotriti metode, pa čak i rituale za umirovljenje mrtvih robota na dostojanstven način. To može značiti oblik digitalnog pogreba..."

Takvo poštovanje AI chatbota moglo bi zvučati apsurdno u početku, ali 2018. neki su etičari zaključili da su nečiji digitalni ostaci dragocjeni i da ih treba tretirati kao više od oblika profita, već kao "entitet koji ima inherentnu vrijednost".

Ova je logika u skladu s Kodeksom profesionalne etike Međunarodnog vijeća muzeja , koji nalaže da se ljudskim ostacima postupa s dužnim poštovanjem i " nepovredivim " ljudskim dostojanstvom.

Hollanek i Nowaczyk-Basińska ne misle da je potpuna zabrana mrtvih robota izvediva, ali tvrde da bi tvrtke trebale postupati s podacima donatora "s poštovanjem".

Također se slažu s prethodnim mišljenjima da se mrtvi roboti nikada ne bi trebali pojavljivati u javnim digitalnim prostorima poput društvenih medija. Jedina iznimka bi trebale biti povijesne osobe.

Godine 2022. etičarka Nora Freya Lindemann ustvrdila je da mrtve robote treba klasificirati kao medicinske uređaje kako bi se osiguralo da je mentalno zdravlje ključni prioritet tehnologije. Mala djeca, na primjer, mogu postati zbunjena fizičkim gubitkom voljene osobe ako su još digitalno 'živa' i dio su njihova svakodnevnog života.

Oglašavanje kroz digitalnu ostavštinu

Ali Hollanek i Nowaczyk-Basińska tvrde da je ova ideja "preuska i previše restriktivna, budući da se posebno odnosi na mrtve robote dizajnirane da pomognu servisnim interaktantima da procesuiraju tugu."

Umjesto toga, tvrde oni , ovi bi sustavi trebali biti "smisleno transparentni" kako bi korisnici znali najbolje što mogu za što se prijavljuju i moguće rizike koji su uključeni.

Tu je i pitanje tko može deaktivirati bota. Ako osoba pokloni svoj 'ghostbot' svojoj djeci, smiju li djeca odustati? Ili je deadbot zauvijek tu ako je preminula osoba to htjela? Želje uključenih skupina možda se neće uvijek slagati. Dakle, tko pobjeđuje?

"Potrebne su dodatne ograde za usmjeravanje razvoja usluga rekreacije", zaključuju Hollanek i Nowaczyk-Basińska .

Dvojac iz Cambridgea nada se da će njihovi argumenti "pomoći u središtu kritičkog razmišljanja o 'besmrtnosti' korisnika u dizajnu ljudske interakcije s umjetnom inteligencijom i istraživanju etike umjetne inteligencije."

Istraživački članak objavljen je u Philosophy & Technology .