Előző részben a gazdasági hátrányokkal foglalkoztunk. Most a hallucinációt és az etikai kérdéseket vesszük sorra. 

Kulturális elsivatagosodás

Most úgy tekintünk az AI -ra, mint egy eszközre, és minden jelentős eszköz vagy technikai forradalom befolyásolta az emberiséget. Azonban az AI-nak más hatása van, mint bármilyen eddigi újításnak. Ez jól szemléltethető ha visszatekintünk a történelembe. 

Az állattenyésztés és a mezőgazdasági termelés kialakulásával az ember folyamatos és viszonylag megbízható élelmiszer ellátásra tett szert. Nem kellett a napi betevőért egész nap gyűjtögetnie és vadásznia. Az élelmiszertermelés másik hozzadéka, hogy embereknek több idejük lett, és egy részük már nem az élelmiszertermelésben vett részt. Gondoljunk csak Mezopotámiára, Egyiptomra és az ókori Görögországra. Ezek építészetére, költészetére, filozófiájára, színházaira stb. Kialakult a kulturális élet.

A könyvnyomtatás, az ipari forradalom, az autómobil gyártás, számítástechnika, robotika. Mind hozzátett a kulturális fejlődésünkhöz. Egyre több időnk lett a tanulásra és a kreativitásra, és egyre több információforrás, eszköz és kommunikációs csatorna állt a rendelkezésünkre. Ez a kulturális fejlődés fontos volt a társadalmi struktúráink, és társadalmi rendszereink fejlődéséhez. 

Ez a fejlődés megtorpanása már most látszik a social media platformok, és az egyéb tartalom megjelenítő platformok hatására. Ez volt az első alkalom, amikor a nagy tömegek befolyásolását már nem egy kúlturális elit, hanem az ismeretségi köreink kultúrális hatása gyakorolta. Kialakultak az információs buborékok. 

Az AI megjelenésével a tartalomgyártás gyorsabb és egyszerűbb lett éslesz. Ami két folyamatot fog elindítani. 

Az első, hogy a kreatív tartalmak létrehozásához az AI nem segítséget nyújt, hanem lényegében ő készíti el. Most még lehet, hogy mi vagyunk az ötletgazdák, de a jövőbeni AI -nál már lehet, hogy azok sem leszünk. A könyvek, képek, videók, forgatókönyvek egyre kisebb emberi kreativitás nélkül fognak elkészülni. A kreatív munka eltűnésével a kulturális és kritikus gondolkodás is hanyatlani fog. 

A másik szempont amit figyelembe kell venni, hogy az AI nem újat hoz létre, csak hasonlót. Most is virágzik a másolatok és hasonlók gyártása. Például a sikereshez hasonló ZS-kategóriás filmek, vagy könyvek sokasága készült el az elmúlt fél évszázad alatt. Erre mindig is megvolt az igény. Az AI azonban most nem is tud mást, csak hasonlókat generálni. MInden, amit elkészít az a bevitt információk egy kombinációja, de semmi több. Lehet, hogy nekünk újszerűnek hat, de nem az. Például impresszionista képeket az AI nem tudna generálni, ha valaki már nem készített volna ilyeneket. Azaz, egy olyan zárt dobozból dolgozik, amely véges méretű.  Lényegében az eddigi emberi tudás és művészet benne van, de akkor is csak véges a mérete. A dobozon kívüli dolgot nem tud létrehozni. 

Hiába tanítják újra és újra az új AI modelleket, a tudásuk ilyen értelemben nem fog változni. Vagy mégis: a mostani GenAI-ok rengeteg tartalmat generálnak most is, ami hozzáférhető lesz a következő AI modellek számára. Az új modellek egyre több olyan tartalmat kapnak, amit az előző AI generáció alkotott, és így tovább, az új modellek és még újabb modellek esetén. És akkor még nem is beszéltünk a szintetikus adatok létrehozásáról, amelyeket abból a célból hoznak létre az AI rendszerek, hogy a következő generációt tudják mivel tanítani. A kérdés az, hogy ez a saját farkába harapó kígyó hova fog vezetni. Ha szerencsénk van és az adatok minősége nem változik, akkor is csak szinten tartjuk a mai modelleket. Azonban, ha a generált adatok minősége kulturális szempontból romlik, akkor egy lefelé tartó spirálba kerülünk.

Ez a két folyamat elhozhatja a kulturális elsivatagosodást, amikor a kultúra tendenciálisan hanyatlani fog, és csak egy-két helyen maradnak oázisok. 

Hogyan is tudjuk ezt megakadályozni?

Tudatosítani kell magunkban, hogy az AI csak egy eszköz, és használjuk ennek megfelelően. Ne bízzunk rá mindent, csak a rutin feladatokat hajtsa végre akár programkód-, vagy akár könyvírásról van szó. Ellenőrizzen, inspiráljon, szerkesszen, de a gyeplő mindig a mi kezünkben legyen. A legfontosabb, hogy ezt a hozzáállást a gyermekeinknek is meg kell érteni, és el kell sajátítani. Ez az a szemlélet, amelyet követnünk érdemes. Ezt most még meg tudjuk tenni. A kérdés, hogy egy AGI vagy ASI esetén is menni fog-e? A magasan fejlett intelligenciák estén nagyon fontos lesz, hogy azok úgy legyenek elkészítve, hogy a velük való kommunikáció során az irányítást ne akarják mindenáron átvenni. 

Öntudatra ébredő AI veszélye

Sok sci-fi film és könyv története alapszik azon, hogy az AI öntudatra ébred, és az emberiség ellen fordul. Ezek a mostani AI -k esetén indokolatlan félelem. Ahhoz, hogy ez a veszély fennálljon, rendelkeznie kellene tudattal, motivációval és célokkal. Azonban, az intelligencia csak intelligencia, nem más, mint felismerési képesség. A motiváció, és így a célok is élőlények sajátjai. Az élőlényekben a szükségleteik kielégítésére és a szaporodásukra jött létre az evolúció során. Azok az élőlények, amely nem rendelkezett ilyen motivációkkal, az elpusztult. 

A mostani neurális hálók csak eszközöknek lettek tervezve, statisztikai elveken működő eszközöknek. Elkészülhet egy AGI - az emberi intelligenciával rendelkező AI - anélkül, hogy annak tudata, vagy motivációja lenne, és jelen pillanatban nincsenek is ilyen törekvések az AI fejlesztések során.  Sőt, sokan szeretnék is monitorozni az egyes modelleket, hogy tényleg, véletlenül se jöjjön létre tudatos AI a tudtunk nélkül. De a veszély valójában nem itt van. 

Az AI sokkal hasznosabb, hogyha nem csak közvetlen egyszerű utasításokat és parancsokat hajt végre, hanem homályos, általános célokból összetett terveket készít, és agilis és kreatív módon végrehajtja azt. Nagyon valószínű hogy az AGI fejlesztések ilyen irányban is fognak folytatódni. Viszont az ilyen AI -nak nem is kell feltétlenül saját céljainak lenniük, hogy veszélyes legyen. Ha elég általános utasításokat kap emberektől - azaz a célokat az emberek határozzák meg -,  akkor a megadott cél érdekében és szellemében fog ténykedni. Azaz lényegében a céljait az emberektől kapja. Ha egy ilyen utasítás elég rosszindulatú, akkor ezzel lényegében szembe lehet fordítani az AI-t az emberiséggel. Mivel az AI -nak nem csak tudata vagy céljai nincsenek, de etikai érzéke sincs, hogy megkérdőjelezze az ilyen utasításokat.

Végszó

Ha belegondolunk a jövőnk nem túl rózsás. AI nélkül sem lenne az, de AI -val még inkább borús. A hidegháborúhoz szokták hasonlítani az AI korszak eljövetelét, mivel kényes egyensúlyt kell fenntartani a használatában. De  ahogy már említettem, bármelyik történelmi esemény összehasonlítása az AI -val, hibás. Atombombát nem akart minden állampolgár használni. Sőt azt akarták, hogy senki se használjon. Ez a helyzet inkább egy új aranyláz eljöveteléhez hasonlít. Mindenki ezt akarja. Azonban ügyelnünk kell rá, hogy az arany csillogása nem homályosíthatja el a veszélyeket. Figyeljünk oda rájuk.

Ezt a cikket nem AI generálta.