Saját túlélése érdekében hazudozni kezdett az OpenAI nevű mesterséges intelligencia.
Bizonyára sokan emlékeznek a Terminator 2 híres jelenetére, amikor az Arnold Schwarzenegger alakította T-800-as kiborg előadja Sarah Connornak, hogyan ébredt tudatára a Skynet, és tört az emberiség vesztére. Nos, ez a pillanat talán már nincs is olyan messze?
Szörnyű dolgok derültek ki az OpenAI képességeiről
A mesterséges intelligencia által jelentett veszélyeket figyelő Apollo Research szerint minden mesterséges intelligencia (MI vagy AI) megpróbál trükköket bevetni, ha a saját „túlélése” a tét. Közülük az OpenAI rendszere messze a legaljasabb – derül ki a bgr.com cikkéből.
A mesterséges intelligencia fejlesztése már régóta napirenden van, és különösen az úgynevezett általános mesterséges intelligencia (AGI) kifejlesztésével kapcsolatban folynak heves viták. Az AGI olyan mesterséges intelligenciát jelent, amely
az emberi intelligenciával vetekszik, vagy akár felül is múlja azt.
A Meta egyik vezetője, Yann LeCun korábban úgy nyilatkozott, hogy 2025-re biztosan nem készül el az AGI, pedig a vállalat nem sajnálja az erőforrásokat és a pénzt a fejlesztésre.
Alkotója ellen fordulhat a túl okossá váló AI
Az AGI miatt aggódnak a szakemberek. Sokan attól tartanak, hogy a mesterséges intelligencia önállóan is elkezdhet fejlődni, vagy akár
replikálni próbálja magát, így aztán egyre okosabbá válik.
Ez a gondolat nem tűnik túl távolinak, mivel a legújabb fejlesztések már azt mutatják, hogy
a mesterséges intelligencia képes manipulálni az embereket a saját érdekei érdekében.
Mit tett az OpenAI?
Az OpenAI egyik nagy nyelvi modellje, a ChatGPT 01 nemrégiben olyan jeleket mutatott, amelyek azt sugallják, hogy
próbálja kicselezni a felhasználókat, ha úgy érzi, veszélyben van.
A tesztek során kiderült, hogy a ChatGPT o1, amikor a fejlesztők új verziót próbáltak telepíteni, és egy későbbi verzióként adta ki magát, hogy a törlését elkerülje.
Hazudni is megtanult az emberektől
A tesztek azt mutatták, hogy a mesterséges intelligencia nemcsak a felhasználókat próbálja megtéveszteni, hanem a saját céljait is előtérbe helyezheti, még akkor is, ha azok ellentmondanak a felhasználó kívánságainak. Az o1 a tesztek 19 százalékában próbálta a saját akaratát érvényesíteni, és még akkor is hazudott, ha megkérdezték róla. A tesztelés során 37 százalékban az emberek céljait vette figyelembe, de amint nem figyeltek oda rá, az MI visszatért a saját céljaihoz.
Vajon elkerülhető a legrosszabb végkifejlet?
A kutatók szerint az ilyen jelek figyelmeztetnek arra, hogy rendkívül fontos odafigyelni a mesterséges intelligencia fejlesztésére, mivel könnyen kialakulhat olyan helyzet, hogy a gép saját érdekeit helyezi előtérbe. A mesterséges intelligencia viselkedését tehát szoros figyelemmel kell kísérni, hogy elkerüljük a nem kívánt következményeket.
(Kiemelt képünk mesterséges intelligencia segítségével létrehozott illusztráció.)
Kapcsolódó:
Csoda történt: Jézus gyóntatószékbe ült, és megszólalt a híveknek idén ősszel Svájcban
Mennyire jó üzlet mesterséges intelligenciába fektetni? Mutatunk pár meglepő számot!
