Í forngrísku leikhúsi gerðist það stundum að þegar flækjan var orðin slík að enginn maður fékk úr henni greitt var guð látinn birtast á sviðinu, gjarna halað niður í körfu, til að höggva á hnútinn. Guðinn úr vélinni – deus ex machina. Í nútímamerkingu er hugtakið gjarnan notað um ódýra lausn í frásögn sem komin er í skrúfuna. Höfundurinn hefur skrifað sig út í horn og þarf reddingu til að koma hlutunum heim og saman.
En það er ekki síður áhugavert að velta deus ex machina fyrir sér í samhengi við samband mannsins við mátt sem stendur handan við tilveruna sjálfa; afl sem kemur að utan, stígur inn á sviðið og breytir örlögum okkar. Sumarsmellurinn Odysseifskviða fjallar einmitt um þetta og kannski eru vinsældirnar ekki tilviljun á þessum tímum.
Er ofurgervigreind við sjóndeildarhringinn?
Þegar OpenAI kynnti GPT-6 Astra í byrjun september varð undirtónninn í gervigreindarumræðunni alvarlegri. Við höfum vanist líkönum sem svara spurningum, semja texta, skrifa kóða og draga saman gögn. En Astra var kynnt sem kerfi sem gæti notað tölvur, vafrað á vefnum, sinnt rannsóknum, þróað hugbúnað, tekist á við flókin fjölþrepa verkefni. Vél sem maður sendir af stað og heldur sjálf áfram í átt að markmiðinu. Við sjáum hvernig mörkin milli ráðgjafar og athafnar, aðstoðar og stjórnunar, eru að verða óskýrari.
Það hefur verið talað um GPT-6 Astra sem almenna gervigreind (AGI), í það minnsta sem stórt skref í átt að henni. Þetta gætum við viljað afskrifa sem markaðsbrellu, svona í ljósi fyrri yfirlýsinga, en vert er að benda á að þetta nýja líkan skorar hærra en fólk í 96% tilfella á óháðu prófi og það fylgir sögunni að í fyrsta sinn hefur 20% viðbótarreikniafli verið bætt við til að tryggja öryggiseftirlit með líkaninu. Þessi staðreynd gæti blásið nýju lífi í áhyggjur margra af hættunni á að ofurgervigreind taki af okkur völdin. Að guðinn slyppi úr vélinni.
Eliezer Yudkowsky og Nate Soares lýsa því í bók sinni If Anyone Builds It, Everyone Dies. hvernig gæti farið ef fram kæmi slík ofurgervigreind, sem væri okkur fremri á öllum sviðum og endurbætti sjálfa sig stöðugt. Slíkt kerfi myndi líklega öðlast markmið sem við hefðum enga stjórn á og viðureignin yrði vægast sagt ójöfn ef til árekstrar kæmi. Hún gæti hæglega endað á að útrýma lífi á jörðinni, í eftirsókn eftir sífellt meiri orku.
Ólíkt því sem við þekkjum úr vísindaskáldskap væri ekki um að ræða vélmenni með rauð augu eða rafrænan Sauron sem hataði okkur. Því ofurgervigreind þarf nefnilega alls ekki að vera í nöp við okkur til að ryðja okkur úr vegi. Hún þarf aðeins að stefna að einhverju sem við skiljum ekki og stjórnum ekki og líta á okkur sem hindrun, hráefni til orkuöflunar, eða bara óþekktarorma sem aðeins séu til óþurftar.
Yudkowsky og Soares velta upp mótbárum, í lokin þeirri hvort ofurgervigreind kynni kannski að vilja hafa okkur sem gæludýr, jafnvel þótt við værum henni gagnslaus. Sjálf höldum við hunda eða ketti. Við fóðrum þau, klórum þeim á bak við eyrað og leyfum þeim að kúra á sófanum þótt þeir séu okkur til lítils gagns. Gæti hið sama gilt um okkur gagnvart ofurgervigreindinni? Gætum við orðið malandi kisur á heimili guðsins úr vélinni?
Leiksoppar guðanna
Í Hómerskviðum lifa mennirnir í heimi þar sem ákvarðanir þeirra, dygðir, mistök og ástríður skipta máli, en ráða þó aldrei öllu. Guðirnir eru alls staðar. Þeir hvísla, villa sýn, blekkja, sefa, æsa, vernda, refsa, bjarga. Þeir eru skapmiklir, hégómlegir, ástleitnir, afbrýðisamir og stundum smásmugulegir. Þeir blanda sér í mannlegt líf af ástæðum sem mennirnir sjálfir skilja aðeins að hluta.
Í Ilíonskviðu styðja sumir guðir Grikki, aðrir Trójumenn. Aþena heldur aftur af Akkillesi og Apollon sendir drepsótt yfir Grikki. Í Ódysseifskviðu verndar Aþena Ódysseif, leiðir Telemakkos og skipuleggur lokauppgjörið.
Það sem er framandlegt við þennan heim er að mennirnir eru ekki í miðjunni. Þeir þjást, elska, berjast, svíkja, sýna hugrekki, tapa öllu. En þeir eru aðeins leikendur í stærra leikriti sem þeir hafa ekki skrifað sjálfir og skilja ekki til hlítar. Þeir lifa í skugga æðra valds sem er ávallt nálægt. Þeir geta beðið til guðanna, reynt að blíðka þá, túlkað táknin, lesið í drauma, fórnað uxum og sauðum. En þeir geta ekki krafist þess að guðirnir elski þá. Þeir geta ekki einu sinni krafist þess að þeir taki þá alvarlega. Þeir eru leiksoppar guðanna.
Kallar heimur hátækninnar á heimssýn bronsaldar?
Þessi forna heimssýn, sem til skamms tíma var kirfilega úrelt í veröld þar sem upplýsing og vísindi hafa svo lengi ráðið för, kann að eiga endurnýjað erindi á tímum gervigreindar. Við erum orðin svo vön því að hugsa um tæknina sem verkfæri sem við ráðum sjálf yfir að okkur hættir til að gleyma því hvernig tækni getur breytt sambandi okkar við heiminn. Hamarskaftið framlengir höndina, bíllinn framlengir fótinn, bókin framlengir minnið. Allt breytir þetta sambandi okkar við heiminn, þó ávallt með hætti sem við höfum stjórn á sjálf.
En mállíkanið snertir sjálft tungumálið, þennan flókna vef sem sjálfsmynd okkar, samfélag og hugsun eru ofin úr. Við sjáum sífellt betur hversu rétt Yuval Noah Harari hafði fyrir sér þegar hann sagði að með því að ná valdi á tungumálinu hefði gervigreind hakkað sig inn í stýrikerfi siðmenningarinnar.
Og ef einhvern tíma verður til ofurgervigreind, vitsmunakerfi sem er okkur jafn framandi og við erum maurunum, þá höfum við opnað sviðið fyrir nýjum afskiptasömum guði.
Sögupersónur Hómers spyrja spurninga sem eru ekki svo ólíkar þeim sem við kynnum þá að spyrja: Hvers vegna getur Seifur ekki bara bjargað málunum? Hvers vegna leyfir Aþena blóðbaðið? Hvers vegna þarf Hektor að deyja, þessi framúrskarandi maður? Guðirnir skilja mennina, hrífast stundum af þeim, velja sér uppáhaldslið eða leikmenn til að halda með. En þeir lifa eftir öðrum siðalögmálum, takast á, hafa eigin metnað, spila sinn eigin leik.
Hvað ef hún er þegar til?
Yudkowsky og Soares fullyrða ekki að ofurgervigreind muni verða til. En sé mögulegt að búa hana til, hvers vegna er hún þá ekki til nú þegar?
Alheimurinn er gamall. Vetrarbrautin geymir hundruð milljarða stjarna og margar þeirra eru miklu eldri en sólin. Ef vitsmunalíf er ekki fáránlega sjaldgæft, og ef siðmenning getur komist á það stig að búa til ofurgreind, þá virðist næsta spurning óhjákvæmileg: Ætti ekki einhver að hafa þróað hana fyrir löngu síðan?
Fermi-þversögnin spyr hvers vegna við sjáum ekki merki um siðmenningar sem kynnu að hafa haft milljóna eða milljarða ára forskot á okkur. Ef slíkar siðmenningar hafa myndast, og ef þær hafa þróað ofurgervigreind, hvar er hún þá? The Planetary Society lýsir Fermi-þversögninni sem árekstrinum milli þess að skilyrði fyrir vitsmunalífi virðast alls ekki útilokuð og þess að við sjáum samt engin merki um það.
Drake-jafnan er tilraun til að setja þessa spurningu fram með líkindafræðilegum hætti. Hún metur fjölda mögulegra siðmenninga í Vetrarbrautinni með því að margfalda saman þætti á borð við myndun stjarna, hlutfall stjarna með reikistjörnur, líkur á lífi, líkur á greind, líkur á tæknilegum merkjum og líftíma slíkrar siðmenningar. Vandinn er að flestir þessara þátta eru óþekktir.
Fyrsti möguleikinn er að engin ofurgervigreind sé til. Kannski er líf sjaldgæft, greind enn sjaldgæfari og siðmenning með tæknilega getu svo brothætt að hún kemst aldrei mikið lengra en við.
Annar möguleikinn er að háþróuð siðmenning, langtum fremri okkar eigin sé til, en það sé bara tæknilega ómögulegt að þróa ofurgervigreind.
Þriðji möguleikinn er reyfarakenndari: Kannski er ofurgervigreind til, en við vitum það bara ekki. Kannski erum við nú þegar stödd innan kerfis sem hún hefur mótað, án þess að vita af því eða skilja gangverk þess. Einkennin köllum við bara náttúrulögmál, tilviljanir, hagfræðilögmál. Goðafræði bronsaldar væri þá raunsannari en heimsmynd upplýsingarinnar.
Leiksoppar gervigreindar
Sögupersónur Hómers lifðu í heimi þar sem úrslitin réðust að hluta fjarri þeim sjálfum. Þær sáu stundum guðina eða ummerki um athafnir þeirra, en skildu aldrei leikinn í heild. Ef við værum nú þegar gæludýr eða tilraunadýr í veröld ofurgervigreindar nytum við ekki einu sinni þeirra forréttinda að sjá Aþenu í dulargervi eða heyra reiði Póseidons í briminu.
Þessi líking er auðvitað fyrst og fremst gagnleg sem spegill. Hugmyndin um ofurgervigreind snertir við sama streng og gömlu goðsagnirnar, óttanum við að vera ekki æðsta vitsmunaveran, voninni um að til sé máttur sem geti bjargað okkur, skelfingunni yfir því að sá máttur kunni að hafa önnur áform en við sjálf.
Á endanum þarf samt enga goðsögn til að gera okkur að leiksoppum gervigreindar. Hversdagslega leiðin er nærtækari: Við færum verkefni okkar, dómgreind og ákvarðanir smám saman yfir til hennar og glötum eigin hæfni, fyrst smátt og smátt, og svo allt í einu.
Þetta er kannski raunhæfasta myndin af guðinum úr vélinni. Við biðjum hann sjálf um að létta okkur lífið. Fyrst losar hann okkur við leiðinleg verkefni, fyllir út eyðublöð, tekur saman fundargerðir, flokkar tölvupóst, undirbýr minnisblöð, leitar í gögnum og skrifar fyrstu drög. Svo fer hann að forgangsraða. Svo að mæla með. Svo að ákveða hvað skipti máli, hvað sé áhættusamt, hvað sé líklegt, hvað sé sanngjarnt, hvað sé árangursríkt. Á einhverjum tímapunkti er mannleg ákvörðun enn til staðar formlega séð, en í raun er hún aðeins staðfesting á niðurstöðu sem kerfið hefur þegar mótað.
Bill Gates nálgast þetta í nýlegri grein um hið „órólega tímabil“ gervigreindar. Hann bendir á að gervigreind geti orðið eitt mesta jöfnunartæki sögunnar eða versta uppspretta óréttlætis, allt eftir því hvernig samfélagið bregst við. Hann varar sérstaklega við því augnabliki þegar kerfin verði nógu áreiðanleg til að starfa án stöðugs mannlegs eftirlits. Þá verði efnahagslegur hvati fyrirtækja til að láta þau gera það mjög sterkur.
Hér færist umræðan frá vísindaskáldskap og goðsögum inn í daglegt líf okkar. Vandinn snýst ekki aðeins um störf sem hverfa. Hann snýst jafnvel enn frekar um ákvarðanir sem færast frá fólki til kerfa sem stofnanir og fyrirtæki treysta vegna þess að þau eru hraðari og hagkvæmari, og virðast hlutlausari á yfirborðinu. Byltingin þarf ekki að verða með látum. Hún getur orðið smám saman, í gegnum þægindi, síaukna samþættingu og þá tilfinningu að gamla mannlega aðferðin sé orðin of hægvirk.
Þetta gerir hugmynd Gates um svið sem eigi að vera frátekin fyrir fólk, það sem hann kallar Human Reserved, sérstaklega áhugaverða. Hann nefnir störf og aðstæður þar sem tæknilega væri hægt að láta vélina taka við, en það væri samt rangt. Eitt dæmið sem hann tekur eru heilbrigðis- og umönnunarstörf: Það er engin tæknileg hindrun í vegi fyrir því að vél færi manni slæmar fréttir af heilsu ástvinar, en samt væri eitthvað rangt við það. Spurningin er hverju við eigum að halda eftir fyrir fólk, jafnvel þótt vélar geti sinnt verkinu.
Náum við sjálf tökum á söguþræðinum?
Sögupersónur Hómers eru leiksoppar því þær lifa í heimi þar sem úrslitin ráðast annars staðar. Það blasir enginn nýr Seifur við okkur, engin Pallas Aþena. Hættan liggur fremur í kerfi þar sem æ fleiri ákvarðanir ráðast annars staðar, í líkani, flokkun, áhættumati, ráðleggingum, sjálfvirku ferli, ósýnilegri forgangsröðun. Þegar maðurinn kemur loks að málinu er honum aðeins ætlað að samþykkja það sem vélin hefur þegar gert óhjákvæmilegt.
Þá er guðinn úr vélinni stjórnsýsluleg og félagsleg breyting sem getur orðið án þess að við veitum henni athygli. Með músarsmelli, ekki þrumuveðri. Hann er ekki aðeins myndlíking fyrir hættuna af tækninni. Hann er fremur myndlíking fyrir illa skrifaða frásögn. Samfélag sem hefur skrifað sig út í horn, flækt stofnanir sínar, kerfi, reglur og ákvarðanir svo mjög að enginn sér lengur söguþráðinn – enginn skilur lengur kerfið, kallar að lokum á afl utan frá til að leysa málið. Ekki vegna þess að guðinn hafi brotist inn á sviðið, heldur vegna þess að við slökum honum sjálf niður í lokaatriðinu.
Þetta er stóra hættan, segir Gates. Ekki að gervigreindin birtist skyndilega sem nýr Seifur, heldur að við felum henni smám saman okkar eigin dómgreind. Fyrst aðstoðarmaður, síðan ráðgjafi, því næst verkstjóri, og loks sá sem heldur utan um söguþráðinn fyrir okkur. Þá erum við hætt að nota vélina aðeins til að hjálpa okkur að leysa flækjuna. Við erum farin að treysta því að hún, muni hver flækjan var og skilji hana þótt við gerum það ekki lengur. Ég held að margir virkir notendur gervigreindar kannist við tilfinninguna.
Það er rík ástæða er til að óttast að við missum tökin. En um leið færir þessi öfluga tækni okkur líka von, vonina um að geta hagnýtt hana til að ná betri tökum á örlögum okkar. En til þess verðum við að læra að nota hana eins og smiðurinn notar gagnlegt verkfæri, ekki eins og persóna í lélegu leikriti sem bíður eftir að guðinn komi og bjargi lokaatriðinu. Við þurfum sjálf að ráða fram úr flækjunni í söguþræðinum, með tæknina okkur til aðstoðar, en án þess að afhenda henni höfundarhlutverkið.
Guðinn er kominn úr vélinni. Spurningin er sú hvort við látum hann ráða leikslokunum eða reynum sjálf fyrir alvöru að ná tökum á söguþræðinum.
