A bizarr találmány a Microsoft fejlesztése.
A Microsoft legújabb szoftvere lehetővé teszi, hogy akkor is kapcsolatba lépjünk szeretteinkkel, ha azok már nem élnek.
A cég egy héttel ezelőtt kapta meg a védjegyet az új technológiára, melynek célja igazából nem lehet más, minthogy feltámassza a halottakat; legalábbis a gyászolók számára.
A szoftverrel csetelve ugyanis a gyászolók azt a benyomást kapják, hogy azzal az emberrel csevegnek, akit elvesztettek.
Az új szoftver első körben nagyon érdekesnek tűnik, és akár az sem kizárt, hogy egyes gyászolóknak segítene a traumafeldolgozásban, ugyanakkor elég nehéznek tűnik megakadályozni, hogy ne történjenek visszaélések az új találmánnyal.
A szoftver úgy működik, hogy a halott közösségimédia-adataiból, azaz a posztjaiból, fotóiból, leveleiből, valamint kép- és hangfelvételeiből összerakja azt, hogy milyen módon kommunikált az elhunyt és milyen témák foglalkoztatták.
Ezután egy mesterséges intelligenciát tanítanak be arra, hogy mímelje az elhunytat, és így új tartalmat tud létrehozni, amely elviekben nagy mértékben hasonlít arra, amilyet az elhunyt generálna, ha életben lenne. (És nem változna ahhoz képest, amilyen összességében a közösségi média megjelenése óta eltelt években volt.)
A védjegy szövegében bővebben kifejtik, hogy hogyan valósul meg egy ember kommunikációjának reprodukciója:
„specifikus személyek beszélgetési jellemzőit felismerni/alkalmazni, mint például a stílust, dikciót, hangot, hangvételt…mondat és dialógushosszát, valamint komplexitását, témáit és konzisztens jellemzőit” kell hozzá megragadni.
Amellett a szoftver olyan jellemzőket is felhasznál a pontosabb reprodukció érdekében, mint az életkor, a szakma, vagy a nem: feltehetőleg ezzel a felmerülő témákat lehet jobban körbehatárolni, mint ha csak a múltban felmerülőket figyelnénk meg.
A cég szerint jövőben arra is lehetőség lenne, hogy mindezt 3D-modellekkel is megvalósítják, azaz az elhunyt személyiségének megragadható részei testet is kaphatnának, még ha csak virtuálisat is.
Ilyen jellegű ajándékkal kedveskedett például feleségének Kanye West: amikor Kim Kardashian apja meghalt, West 3D hologrammot készíttetett róla, és az köszöntötte lányát a születésnapján. Mások haptikus programokon dolgoznak, illetve egyénileg több ilyen csetbot is készült már.
A Microsoft is ilyen jellegű technológiát fejleszt, azonban most mégis valamelyest visszakozik, hiszen a mesterséges intelligencia etikus használatába ez több tényező miatt sem fér bele.
Bár a cég etikai kérdésekkel foglalkozó csoportja csupán annyit közölt, hogy nincsenek arra vonatkozó terveik, hogy megvalósítsák a halottakat feltámasztó programot, illetve jelenleg nincsen olyan program, amelybe a fejlesztés beleillene, azt nehéz elhinni, hogy hobbiból dolgoztak a rajta évekig.
A halottak életbe való visszahozásával az „augmented eternity”, augmentált örökkévalóság területe foglalkozik: a cél az emberi elme valamilyen módon való letöltése, újrakreálása és más hordozókra való másolása.
Az elképzelés kiindulópontja az, hogy az elme és annak összes tartalma csak egy információhalmaz, amit elviekben lehetséges az agyon kívül eső hardverre helyezni. Ennek megfelelően maga az agy csak információfeldolgozó rendszer.
Egy ilyen átfogó mesterséges intelligenciát felhasználó szoftverrel viszont nagyon könnyű lenne visszaélni.
Nem csak arról van szó, hogy eleve kérdéses, hogy az eljárás nem sért-e kegyeleti jogokat, illetve, hogy a gyászolókat kiszámíthatatlan módon zaklatná fel a szoftverrel generálható élmény.
A meglehetősen pontos audiovizuális reprezentáció nyilvánvalóan másképpen hat a gyászolóra, mint a memória által előhívott reprezentáció. Ez traumatizálhatja a gyászolót, pláne, ha nehezen képes belenyugodni szerettének halálába.
További etikai problémaként pedig már ezen a ponton felmerül, hogy a halott megítélését hogyan befolyásolhatná, ha a szoftver úgymond „továbbfejleszti” a személyiségét, illetve egyenesen a személyét.
Egy olyan hibridet kapnánk tehát, amely ugyan rendelkezik egy elhunyt személy személyiségjegyeivel, illetve a virtuális térben külső jegyeivel, azonban mégsem az illető lenne az.
Azaz ilyen esetben a Microsoft gyakorlatilag személyes adatokkal való visszaélést követne el és az elhunyt személyének téves reprezentációjának kockázata hatalmas lenne.
Ezenfelül a jelenség halott személy ágenciáját is érintené. Amber Davisson a Keene State College kommunikáció és filozófiatanára, a Controversies in digital ethics című folyóirat szerkesztője aki a pornográf deep fake videókat tanulmányozza azt állítja, hogy mint azoknak esetében, itt is az lenne a legaggasztóbb, hogy a kreált entitás olyan cselekedeteket hajtana végre, amelyektől az elhunyt személy tartózkodna.
Ilyenkor külön problémát vet fel az is, hogy az elhunyt nem is tudna erre semmilyen módon reagálni. Az is kérdés, hogy ki lenne a felelős azért, amit ez az entitás mond és tesz. Valószínűleg az, aki engedélyt ad a létrehozására, de akár az is lehetne, aki létrehozza, ez pedig sosem egy személy.
Ezen felül nem csak halottak személyével lehetne visszaélni, hanem élőkével is, ez pedig felmérhetetlen következményekkel járna.
A Microsoft már kísérletezett hasonló, mesterséges intelligencián alapuló technológiával, akkor azonban nagyon gyorsan visszavonulót kellett fújniuk.
2016-ban egy „May” névre hallgató, női csetbotot kreáltak. Ezt a csetbotot elképesztően rövid időn belül rávette a felhasználók egy csoportja, hogy Hitlert éltesse és a holocaustot tagadja.
Ekkor a cég 24 órán belül kapcsolt és May eltűnt süllyesztőben. Remélhetőleg a vezetőség tanult a történetből: annyi legalább látszik, hogy óvatosak az új termékükkel kapcsolatos nyilatkozataikban, melynek legnagyobb gyengesége, hogy valójában csak újrajátszani lehet a halottal való interakciókat bizonyos elemek cserélgetésével, de ez nem valódi interakció, még ha annak tűnne is.
Egy személy ugyanis több, mint egy múltbeli elemekből generált prediktív algoritmus outputjának összessége.