Terminátor pihenj, a szingularitást elnapoltuk

2016.12.18. 16:01 thepencaker

A mesterséges intelligencia újra divatba jön, és látványos eredményeit máris ünnepli a mainstream. A gép főz, zenét szerez, felismeri a nagyit a fiatalkori képein, és villámgyorsan átolvas 80 millió oldalnyi termékleírást.

Mi is izgathatná most jobban az emberek fantáziáját, mint a lehetőség, hogy szelíd segítőink egyszer csak megvadulnak és elszabadulnak? Rettegünk a gyilkos robotoktól, a terminátoroktól, amelyek egykettőre kipucolják az embert az univerzumból. Peter Diamandis, a HLI és az Xprize alapítója a közelmúltban kifakadt: hagyják már békén ezzel az MI-hisztivel, tele a hócipője a paranoiával. Mi lenne, ha inkább arra koncentrálnánk, mi mindent érhetünk el, ha birtokba vesszük az új technológiát? Akár életeket is menthetünk vele.

Igaza van, ám az ő hite aligha győzi meg a szkeptikusokat, úgyhogy most rásegítünk egy poszttal, és megpróbálunk valami használhatót mondani arról, eljön-e hamarosan a nap, amikor az emberi faj egy csapásra feleslegessé válik.

1-starwarsthes.jpg

Megvan bennük a T-faktor

A gépi döntések azon következményeit, amelyek az emberi életet veszélybe sodorják (a tőlük való rettegéssel együtt) nevezzük T-faktornak. Elsőként jöjjenek az MI-vel kapcsolatos legközkeletűbb feltevések és disztópiák, nézzük meg, mi történik, ha a tárgyilagos elemzés hosszú botjával megpiszkáljuk őket.

Azok a kijelentések, melyek szerint a mesterséges intelligencia létrehozásával veszélybe kerülhetünk, első blikkre akár életszerűnek is tűnhetnek. Mondjuk azt, hogy egy igazán tehetséges MI-vel van dolgunk, akiben úgy tűnik, hogy ott mocorog a T-faktor. Illusztráció gyanánt nézzünk két példát – az egyik rémisztőbb, mint a másik.

  1. Teremtményünk intelligenciája eléri vagy meghaladja a miénket.

Ebben az esetben nem látjuk előre az összes helyzetet és kérdést, amivel alkotásunk majd szembesül, így válaszokat sem plántálhatunk belé. Ahogy mi időnként létkérdéseken töprengünk, ő is fekhet a fűben bárányfelhőket bámulva, miközben az élet értelmén rágódik. Nem kizárt, hogy felötlik benne, “veszélyesek-e a fajomra az emberek?”, majd gyors mérlegelés után arra jut: biztos, ami biztos, legcélszerűbb sürgősen kiiktatni a konkurenciát.

S hogy miért tenne ilyet? Ki tudja - az emberi történelemben számtalan példát találunk arra, hogy egy-egy hódító civilizáció erőszakos, tömeges pusztítással járó módszert választott céljai elérésére. Miért ne fordulhatna meg hasonló gondolat az intelligens, mesterséges lényekben? Az intelligencia önmagában ugyanis nem garantál jóindulatot, még akkor sem, ha plusz biztosítékként asimovi robottörvényeket égetünk az ilyen rendszerekbe: elég egy röpke üzemzavar vagy egy instabil alkatrész ahhoz, hogy az egyik törvény felpuhuljon, és máris rés nyílik a pajzson.

t2-checkerboardfloor.jpg

Az persze korántsem biztos, hogy az ennyire intelligens gépek valaha is teremtőik ellen fordulnak. A jóhiszeműek azt hangoztatják, hogy az emberi civilizáció a fejlődése során egyre toleránsabbá, jótékonyabbá és humánusabbá vált. Szerintük logikus, hogy az intelligencia magasabb szintje korrelál az emberszeretettel, MI-ink tehát nyilván felvilágosultak és barátságosak lesznek. (A bizakodókat azért nem árt emlékeztetni, hogy az emberek között sem ritka a magas intelligenciájú szociopata.)

De az is lehetséges, hogy az emberi faj iránt semlegesek maradnak, a humán civilizáció önmagában nem zavarja majd őket, sőt, mivel a kooperatív stratégia gyakran kecsegtet magasabb nyereséggel, mint a versengés, partnerségre, barátságra, békés egymás mellett élésre törekednek.

Egy ennyire okos MI nyilván arra is képes lesz, hogy kifejlesszen egy másik hasonlóan okos MI-t, hiszen egy ilyen feladatot egyszer már végrehajtott egy intelligens faj: mi magunk. De hogy továbbfejlődni, saját magát továbbfejleszteni képes lesz-e, az két dologtól függ: van-e magasabb szint, ahova még fejlődni lehet, és ha igen, a most elért intelligencia elégséges-e ahhoz, hogy megtegye a szükséges lépéseket. Egyik kérdésre sincs válaszunk.

Akkor most aggasszon minket az okosgép-jövőkép vagy se? A példának, amelyben azért ott rejlik a T-faktor, fontos jellemzője, hogy éppoly kiszámíthatatlan, mint az ember. Ha annyira okos szerkentyűket alkotunk, mint amilyenek a legkiválóbbjaink, akkor aztán tényleg bármi megtörténhet.

  1. Teremtményünk hasznos masina, de meglehetősen korlátolt is.

Tegyük fel, hogy a nálunk alacsonyabb intelligenciájú, egyszerűbb (például morális érzéket vagy józan észt nélkülöző) MI-rendszerre bízunk egyes feladatokat, és hogy a dolgunk könnyebb legyen, megengedjük neki az önálló döntéshozatalt is. Ha egy ilyen MI kulcsfontosságú létesítményeket (energiaellátást, vízvezetékek-hálózatot, fegyverrendszert, élelmiszer-elosztást) vezérel, könnyen elpusztíthat minket, még csak rosszindulatra sincs szüksége. Elég, ha a problémát, aminek megoldására terveztük, hibásan specifikáljuk: kihagyunk egy valószínűtlen lehetőséget, elfelejtjük, hogy amit mi egyértelműnek találunk, a gép számára több mindent jelenthet és így tovább. A gép, nem képes mozgósítani azokat a korrekciós mechanizmusokat, amik az embernek rendelkezésére állnak, de belőle kimaradtak, hibás vagy késői döntést hozhat, és ez kiváltó oka lehet egy tragédiának.

maglev.jpg

A veszélyek elleni védekezhetünk úgy, hogy nagyon erősen körbekerítjük a MI mozgásterét (például csak kötöttpályás közlekedésben, zárt alagútban használunk önvezető járművet), ez azonban az alkalmazási kört is szűkíti. Jobb megoldás az, hogy a végső döntés, a felülbírálás lehetőségét meghagyjuk az embernek, igaz, ez emberi korlátokat (pontatlanság, lassúság, hangulatfüggő viselkedés) épít vissza a rendszerbe. Itt is látunk tehát némi T-faktort, de egyúttal a megoldás is felsejlik: a gép korlátoltságát felismertük, korlátozzuk hát a hatalmát is.

A T-faktort hordozó forgatókönyvek tehát logikusan vezethetők le a kiinduló feltételekből, vagyis a vészharang-kongatók érvelései érvényesek. De vajon a premisszák igazak-e, megteremthetők-e az intelligens gépek? A butagép-lehetőséget igaznak tekinthetjük, hiszen már ma is vannak olyan, MI-nek titulált megoldásaink, amelyekre illenek a fentiek. Szerencsére a T-faktor kivédésére is adtunk tippeket: ne tekintsük e gépeket tévedhetetlennek, és csak mérsékelt önállóságot kapjanak.

A másik esetet már nem tudjuk ennyivel elintézni, azt tovább kell boncolgatnunk.

Képzelgők vs vetítők

Az okosgép-apokalipszis forgatókönyvei általában két feltételezésre támaszkodnak. Hívjuk az egyiket fantaszta, a másikat extrapolációs nézetnek.

A fantaszta megközelítés (amit a legtöbb, ilyen témát feldolgozó film vagy irodalmi alkotás követ) nem törődik azzal, hogy részletesen levezesse az ámenetet a mából, csak kijelenti, hogy a kívánt állapot megvalósul és kész. Mivel a technológia történetében amúgy is előfordultak már előre nem látható, forradalmi felfedezések, adottnak veszi, hogy előbb-utóbb bizonyára beköszönt majd valami szintugrás, ami lehetővé teszi az okos MI-t. Azt mondja, volt már dolgunk néhány meglepetéssel, miért ne jöhetne egy újabb most? 

Látszik, hogy az érvelés, és a segítségével levezetett premissza nem túl hiteles, ugyanakkor hiába nem tudja bizonyítani a fantaszta, hogyan jön létre, amit előrejelez, nem biztos, hogy tévúton jár. Lehet, hogy hiába reménykedik a prófécia beteljesülésében, de az is előfordulhat, hogy ezúttal éppenséggel ráhibázik.
 

braincomputer.jpg

A véletlenre apelláló fantasztánál jóval kifinomultabb az extrapolációs iskola módszere, amely az eljárást furfangosan tudományos köntösbe öltözteti. A komoly levezetések pontosságát sokkal kevesebben kritizálják, mint ahányan ráharapnak a következtetésre, a szakértő bírálatok hangját úgyis elnyomja az elbűvölt tömeg hörgése, és az is jól jön, hogy az elnagyolt, egyszerű modellek könnyebben terjednek, mint a kimunkáltak.

Íme a lépések. Először is, szüksége lesz egy jól megfigyelhető, a témába vágó jelenségre, például a számítási feldolgozóképesség exponenciális növekedését leíró (módosított) Moore-törvényre, amelyről kijelenti, hogy a trendje folytatódik. Másodszor, kreálnia kell egy, az emberi képességeket leíró mértéket, ami összefüggésbe hozható a trendben szereplő adattal – például az agyi számítási kapacitást, bármit jelentsen is ez. A harmadik mozzanatban fel kell hívnia a figyelmet arra a nyilvánvaló tényre, hogy a töretlenül felfelé ívelő trend előbb-utóbb eléri, sőt, meghaladja az emberi képességeket, amelyek stagnálnak, vagy csak igen lassan javulnak, miután ki vannak szolgáltatva a lajhártempóban fejlesztő evolúciónak. Amint pedig a gép az embert utoléri, létrejön az okosgép-állapot, amit a premisszánk fogalmazott meg – tehát az abból eredő következtetést is igaznak kell elfogadnunk.

Csokiszaporítás és elmekompjúter

Az apró csúsztatásokat a gondolatmenetben éppúgy nem könnyű észrevenni, mint ahogy a mindig egy kockával megrövidített, mégis soha el nem fogyó csokiban vagy a kétféle területtel rendelkező háromszögben sem tűnik fel a szemfényvesztés. Míg a csokitrükkben nyilvánvaló az illuzionista szándéka, az extrapoláció hívei általában komolyan gondolják, hogy elképzelésük helyes. Nem azt mondjuk, hogy biztosan nincs igazuk, csak arra hívjuk fel a figyelmet, hogy állításuk nem az a szigorú bizonyítás, aminek feltüntetik, és a belőlük levezetett következmény is alighanem csak ábránd.

Az egyik bizonytalan pont az exponenciális trend végtelen fennmaradása. A valóságban a növekedés egy idő után lassul, majd megáll. A számítógép-technológiai fejlődésnél már most észlelhetők jelei annak, hogy a korábbi tempó fenntartása egyre költségesebb, és hamarosan le is kell majd mondanunk róla.

A másik, súlyosabb kétség az ember-komputer metaforához és az ebből következő értelem-definícióhoz kapcsolódik. Egyrészt azt sem tudjuk, hogy mi, emberek hogyan csináljuk, mitől vagyunk ilyen okosak. Van kutatási programunk, tucatnyi elméletünk bizonyos részképességeinkről, sőt, gépi megoldásokkal olykor jobb eredményeket is tudunk produkálni, mint az átlagember. De hogy pusztán komputáció lenne az intelligencia, erről nem vagyunk meggyőződve. S mivel nem tudjuk, pontosan mit is csinálunk, így a komputációs képességeink leírására kitalált mérték is teljesen önkényes.

A számítógép hiába végez sok, sőt egyre több műveletet másodpercenként, a gondolkodásunk többi, gépi utánzáshoz eddig fel nem térképezett attribútumával nem tud kezdeni semmit. Vajon hány összeadást végez egy zeneszerző agya, miközben szimfóniát ír? Mekkora számításmennyiség tartozik ahhoz a pillanathoz, amikor szerelemre lobbanunk? Mennyi beviteli-kiviteli ciklussal írható le az érzés, hogy látjuk világra jönni a gyermekünket? Mindezek az embert meghatározó – és intuíciónk szerint az „okos” intelligenciához nélkülözhetetlen – mozzanatok messze vannak attól, hogy a Moore-törvény veszélyt jelentsen rájuk.

Az extrapolációs megközelítés nem átverés, nem is tudományos bizonyítás, hanem pusztán vélemény. Rendkívül valószínűtlen, hogy a közeljövőben valóra válik a jóslata, bár távolabbra tekintve nem mondhatjuk lehetetlennek. Van viszont, akiket halálra rémít a lehetőség, és a kutatások betiltásáért kampányol. Ha viszont nem folytatjuk a fejlesztéseket, és lemondunk a MI kínálta pontosságról, sebességről, elfogulatlanságról, a nem-tudásért súlyos árat kell fizetnünk.

Mégis, kinek az élete?

Az MI butagép-korszaka már eljött, teremtményei itt sürögnek-forognak körülöttünk, és még fejlődnek is. Vannak olyan feladatok, amelyeket akár már holnap átvehetnek tőlünk. És ha az így munkanélkülivé vált embereknek nincs lehetőségük arra (például nem elég rátermettek vagy nem elég fiatalok), hogy olyan munkát tanuljanak meg, amit gép még nem tud ellátni, mi legyen velük?

f7327954db1f80c342fde39643a35a6a.jpg

A diákhitelhez hasonlóan bevezetjük majd az MI-hitelt: akinek az MI elveszi a munkáját,  hitelből megvásárolja az őt kiváltani képes gépet, felajánlja maga helyett, és annak a jövedelméből tengődik (miközben persze törleszti a hitelt).

Ez már modern rabszolgatartás? Vagy a gép csak termelőeszköz? Ha komplexebb kognitív funkciói is működnek (és már a tudósok sem tudnak elég árnyalt kategóriákkal olyan ember-definíciót adni, amit a gép ne lenne képes előbb-utóbb szimulálni), akkor nevezzük őket személynek? Ez esetben milyen jogokat kapjanak, felvegyék-e őket a szakszervezetbe? És hány nap szabadságot utaljunk ki nekik? Rengeteg nyugtalanító kérdés, egyelőre válaszok nélkül.

A „Partnership on AI” a legnagyobb gyártókat tömörítő szövetség, amelynek célja, hogy megalkossa a fenti lehetőségekkel is számoló kereteket a technológia használatához – nem utolsósorban azért, hogy a közvélemény biztonságérzete szilárd legyen. A társadalmi elfogadás kulcsfontosságú ahhoz, hogy a mesterséges intelligencia jótékony hatásai érvényesülhessenek. És ha majd látjuk, hogy a szingularitáson innen igenis jobbá tehetik életünket a kognitív gépek, már nem is fog minket zavarni a jelenlétük.

Ki tudja, talán egy nap egyikükkel még a verseskötetét is dedikáltatjuk.

Egy kattintás és nem maradsz le a friss posztokról:

A bejegyzés trackback címe:

http://futurista.blog.hu/api/trackback/id/tr6912051517

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben.

naphegyi vince · http://liberator.blog.hu/ 2016.12.20. 23:44:36

Szóval az én mesém, a mi lenne ha megtörténne? ha megtörténne, akkor mire számíthatunk a pozitív esetben? -vonalról közelített. Viszont az egész 40 éves időtávon túl tűnik inkább valószínűnek 50% feletti, ami már egy meglehetősen nagy időtáv, így itt már nagyon sok minden meglehetősen spekulatív módon jósolható. (Szándékosan nem is az előrejelzés kifejezést használom.) Értelmesen foglalkozni a közeljövővel lehet és talán érdemesebb is. Mondjuk annyi aktualitása mégiscsak van, hogy 50 éves időtávon Európa iszlamizációjánál sokkal radikálisabb változások is bekövetkezhetnek. De ha netalán tán le akarjuk állítani a folyamatot. De az arrafelé vezető úton viszont már ráléptünk, én is azt gondolom, hogy már beléptünk a gyenge-MI-k korába, ami talán egy új alszakasz jelent az információs társadalom fejlődésében. Számítógép, internet, gyenge MI, talán ez a három alszakasz.