2018. február 2. 22:15

A mesterségesintelligencia-kutatásról rendeztek konferenciát a BME-n, ahol előadást tartott a téma egyik legnagyobb neve, Stuart J. Russell. Ő pedig felfedte az AI újfajta megközelítését: csak akkor fogunk tudni együtt élni a robotokkal, ha úgy csináljuk meg őket, hogy ne tudjanak nélkülünk élni.

A Mesterséges Intelligencia 25 éve címmel rendezett konferenciát pénteken a Budapesti Műszaki- és Gazdaságtudományi Egyetem Villamosmérnöki és Informatikai Kara, ahová két sztárvendéget is sikerült elhozni. Egyikük a BME I épülete elé leparkolt, önvezető Tesla volt. Róla sajnos csak elvben lehetett tudni, hogy sofőr nélkül is elnavigálja magát, hiszen beülni, pláne beindítani nem lehetett, ellenben, mint arra Józsa János BME-rektor a köszöntőjében rámutatott, meg lehetett tapogatni. A rendezvény másik sztárvendége - akit egyébként az egységes koncepció jegyében egy kézfogás erejéig szintén lehetett taperolni - Stuart J. Russell, a University of California, Berkeley oktatója, a mesterségesintelligencia-kutatás nagyágyúja volt. Russell az AI új megközelítéséről tartott előadást, mégpedig elég megnyugtatót, mert kiderült belőle, hogy most már tudjuk, mit kell csinálni ahhoz, hogy ne öljenek meg minket a saját robotjaink. Akik amúgy simán a fejünkre nőhetnének, annyire dermesztően nagy a sebesség, amivel okosodnak.

Tegnap még a gatyánkat hajtogatta, ma már röhögve aláz le sakkban

Nincs jó előadás ráhangolódás nélkül, úgyhogy ez a kezdő kör Russellnél sem maradt el. Hogy napjainkra mennyire ugrásszerűvé vált az AI fejlődése, azt a kutató-tanár előbb egy vicces, aztán egy meghökkentő példával szemléltette. Bejátszott egy videót az egyeteme saját fejlesztésű ruhahajtogató robotjáról, ami működés közben így néz ki:

Amit a fenti képsoron láthatunk, az viszont már nyolc évvel ezelőtti technológia. Ez a kedves kis hülyeségnek tűnő vívmány még aligha ijeszt meg bárkit is, ami azóta történt, az azonban már tényleg lenyűgöző: a háztartásvezető Mikrobi bemutatása után Russell az orrunk alá dörgölte a száraz tényt, hogy az AI-s képfelismerés, ami 2010-ben még bűnrossz, 30 százalékos hibahatárral dolgozott, ma már lement 2 százalékos hibahatárra, ez pedig azt jelenti, hogy a gépek már pontosabban tudják megállapítani, mit látnak adott képen, mint az emberek. És akkor még ott vannak az elmúlt pár év legnagyobb publicitást kapott gépdiadalai is: a Google AlphaGo algoritmussal működő programja 2016 tavaszán megverte a világ legjobb go játékosát, Lee Se-dolt, aztán - már AlphaGo Zero néven - mindössze négy óra alatt megtanult sakkozni, és egyből legyőzte a világ legjobb sakkozóprogramját, további két óra tanulás után pedig a japán sakk, a shogi legjobb robotját nyomta le. A gépi áldozatok pedig alapból sokkal jobbak voltak, mint a legjobb emberi játékosok. Ezek után mégis hogy ne gondoljuk azt, hogy a saját teremtményünk röhögve fog leigázni minket, körülbelül holnapután?

Csak óvatosan kívángassunk, mert a gép tényleg teljesíti

Ahhoz, hogy a mesterséges intelligencia ne vegye át az irányítást, már évtizedekkel ezelőtt megszületett az útmutatás. Russell az előadásában Norbert Wienert, a kibernetika atyját idézte, egyenesen 1960-ból. Wiener már akkor megmondta, hogy nagyon oda kéne figyelni arra, hogy a célok, melyekkel felruházzuk a gépeinket, valóban a saját céljaink legyenek, és ne csak azok "csicsás utánzatai." Vagyis - és ez persze a programozás alapja - nagyon aprólékosan át kell gondolni, milyen feladatot adunk meg a gépnek, mert a robot mindent úgy fog elvégezni, ahogy megmondjuk neki. Egy átgondolatlan programban pedig rengeteg hiba és veszély lehetősége van, pláne, ha a robotunk képes önálló tanulásra.

Például, mondta Russell, ha alkotunk egy robotot, melynek egyedüli feladatként azt adjuk meg, hogy hozzon kávét, az önálló tanulással szélvészgyorsan rá fog jönni, hogy a célja beteljesítését a legjobban az szabotálhatja, ha valaki kikapcsolja őt. Ennek megelőzésére tehát rögtön az első kanyarban kikapcsolhatatlanná fogja magát tenni. Ezzel pedig két dolgot nyerünk: örök kávéutánpótlást, és egy kijavíthatatlan problémát. Szóval óvatosan kívánjunk, mert a robotokkal minden kívánságunk teljesül, de centire úgy, ahogy azt kitaláltuk. Ugyanezt tudja pepitában Midász király története, aki robotot ugyan nem épített, viszont azt kívánta, minden változzon arannyá, amihez ér. Aztán rövidúton éhen is halt egy csomó aranykajával a tányérján, az aranycsaládja társaságában.

A hasznos AI megalkotásának irányelvét mindezek után három összetevőből vázolta fel Russell. Így:

  • az ember intelligens abban az értelemben, hogy úgy cselekszik, amitől azt várhatja, hogy a cselekvése hatására elérje a céljait,
  • a mesterséges intelligencia viszont úgy cselekszik, hogy a saját céljait érje el,
  • és mivel ez nem azonos a mi céljainkkal, ilyen gépeket egyálatlán nem akarunk - vagyis azt kell elérni, hogy a mesterséges intelligencia tettei a mi céljainkat szolgálják a saját céljaik helyett.

Szóval így lehet a mesterséges intelligencia valóban hasznos, nem pedig veszélyes az emberre. Most jön az, hogyan lehet ezt a gyakorlatban is megvalósítani.

Pelenkát a robotokra!

Ha élből ismeri a végcélt, akkor az öntanuló gép minden esetben a saját feje után megy, alkalmasint olyan utakat választva, amitől a hajunk az égnek áll. És bárhogy is toporzékolunk, nem tudunk beleszólni abba, hogyan végezze el a feladatát, mert a robotnak mindig csak a végcél elérése számít. Már persze csak akkor, ha ismeri a végcélt, ugye. Vagyis a megoldás: bizonytalanná kell tenni a célokat.

Russell három megfigyelése a robotok céljainak elbizonytalanításához:

  • a robot egyedüli célja az kell, legyen, hogy mindent megtegyen az ember céljának eléréséért
  • melyek mibenlétéről a robotnak végső soron bizonytalannak kell lennie
  • az emberi célokról pedig a legjobb információforrás az ember maga, ezért a robotnak az emberhez kell fordulnia

Vagyis nem szabad túl okosra csinálni a gépeket, úgy kell őket megalkotni, hogy bizonytalanok legyenek, és függjenek tőlünk.

A "jó" AI ezek alapján folyamatos kapcsolatban van az emberrel, feladata végcélját nem ismeri, ezért nem is tudja kikerülni, hogy az ember beavatkozzon a munkafolyamatába, hiszen rá van utalva az emberi ellenőrzésre a munkája folytatásához.

Erre Russell példaként a Google képfelismerőjének 2015-ös botrányát hozta fel, ahol a robot gorillaként azonosított be egy fotón egy fekete párt. A pr-katasztrófa után a programozók úgy mentették a menthetőt, hogy egyrészt kivették a címkelistából a majom, gorilla, gibbon, stb. tageket, másrészt úgy írták át az alkalmazást, hogy sokkal bizonytalanabbul működjön. Most már egyes, neccesebb képeknél a képfelismerő nem tudja megállapítani, hogy mit lát, és ilyenkor az emberhez fordul segítségért. És ez a lényeg:

az ideális ember-gép viszony akkor valósul meg, ha a robot nekünk dolgozik, de nem tud nélkülünk dolgozni.

Russell ugyanezt tavaly a TED-en is előadta, akit részleteiben is érdekel a téma, itt megnézheti, illetve elolvashatja a prezentáció leiratát.

Végül ejtsünk szót arról, miért volt furmányosan jó időzítése ennek a konferenciának. Hát azért, mert szeptemberben AI-kurzus indul a BME-n. De az őszi szemeszterben az ELTE is indít rokonértelmű képzést, szóval egyszerre két neves, hazai intézményben lehet majd gondolkodni a kávéhozós robotok problematikáján.

mfor.hu