Ég tel að leyndarmálið að baki því að verða góður vísindamaður liggi ekki í getunni til að hugsa. Hana höfum við öll. Við verðum einfaldlega að horfa á veruleikann og hugsa rökrétt og af nákvæmni um það sem við sjáum. Lykilatriðið er að hafa hugrekki til að horfast í augu við misræmið milli þess sem við sjáum og ályktum og þess sem við eigum að venjast. … Framþróun þekkingarinnar grundvallast á því að horfa gagnrýnið á grundvallarforsendur um hvernig veröldin er og hvers vegna.[1]
Eliyahu. M. Goldratt
Í umræðu um gervigreind og þær áskoranir sem henni fylgja er áherslan á nauðsyn gagnrýninnar hugsunar gjarna fyrirferðarmikil. En hvað er gagnrýnin hugsun og hvers vegna er hún svo mikilvæg þegar kemur að gervigreindinni? Hvað er hugsun? Hvað er það sem við gagnrýnum þegar við beitum gagnrýninni hugsun? Þessar spurningar er gagnlegt að skoða í ljósi þriggja lykilhugtaka sem eru skýr hugsun, rökhugsun og réttlæting.
„Nú eruð þið vopnaðir og hættulegir“ sagði H. William Dettmer, höfundur röklega umbótaferlisins við okkur nemendur sína í lok námskeiðs sem ég sótti í París fyrir nokkrum árum.
Við höfðum eytt sex dögum í að læra og æfa okkur að beita strangri röklegri greiningu til að greina aðstæður, afhjúpa djúpstæðar orsakir að baki vandamálum, leysa úr erfiðri togstreitu og kortleggja traustar framtíðaráætlanir. Vopnaðir, vissulega, en hvers vegna hættulegir?
Þótt flest okkar hafi getu til að hugsa röklega, höfum við líka tilhneigingu til að forðast það. Of oft er það svo, þegar flókin greining er lögð fram, að svo framarlega sem röktengslin líta út fyrir að vera traust og niðurstaðan passar við okkar eigin fyrirframgefnu hugmyndir, höfum við tilhneigingu til að taka hana gilda án umhugsunar, í stað þess að ögra forsendunum.
Jafnvel þótt rökleg greining geti verið frábær leið til að sýna orsakasamhengi, þá er það ekki megintilgangur hennar. Hún er fyrst og fremst hugsuð sem greiningartól, því á endanum er það ferlið við að byggja upp greininguna sem skiptir máli. Og greiningarferlið snýst alls ekki um að sýna fram á hvers vegna forsendur okkar eru réttar. Þess í stað snýst það um að ögra einmitt þessum forsendum. Ef okkur mistekst þetta er líklegt að við sitjum uppi með rangar ályktanir eða rangar ákvarðanir, sama hversu snjöll eða glæsileg greiningin kann að virðast á yfirborðinu.
Rökhugsun er nefnilega tvíeggjað sverð. Þegar hún er rétt notuð hjálpar hún okkur að greiða úr flækjum og losna við rangar fyrirframgefnar hugmyndir og ryðja þannig brautina í átt að þeim einfaldleika sem á endanum einkennir jafnvel flóknustu kerfi. Þegar hún er rangt notuð getur hún flækt okkur enn frekar í lággróðri rangra forsendna, svo í stað þess að ögra þeim með skýra hugsun og heiðarleika að vopni tökum við þess í stað til við að beita rökfræðinni til að hagræða og réttlæta eigin fyrirframgefnu hugmyndir. Þetta er ástæða þess að sá sem hefur rökhugsun á valdi sínu er bæði vopnaður og hættulegur.
Samkvæmt orðabókinni er rökhugsun (e. reasoning) „… það að draga ályktanir eða komast að niðurstöðum með því að beita skynseminni.”[2] Réttlæting (e. rationalisation) er aftur á móti „… það að færa eitthvað til samræmis við skynsemina eða láta eitthvað virðast skynsamlegt”.[3]
Í þekktu grundvallarriti sínu um áróður og beitingu hans fjallar franski félagsfræðingurinn Jaques Ellul um tengsl áróðurs og réttlætingar og hvernig sá sem er á valdi áróðurs heldur áfram að réttlæta jafnvel grimmilegustu athafnir og órökréttustu viðhorf sem byggja á honum. „Að því marki sem maðurinn þarfnast réttlætingar, þá veitir áróðurinn hana.“[4] segir Ellul, og heldur áfram:
En á meðan hversdagslegar réttlætingar hans eru viðkvæmar gagnvart efasemdum … eru þær sem grundvallast á áróðrinum óhrekjanlegar og traustar … Slíkur einstaklingur getur réttlætt allt, ekki aðeins fyrri athafnir heldur einnig allt sem hann á eftir að gera í framtíðinni.[5]
Þannig kemur áróður í veg fyrir að einstaklingurinn hugsi; sviptir hann rökhugsuninni, en hvetur hann til réttlætingar. Sá sem er á valdi áróðurs óttast allt sem gæti fengið hann til að efast um þau viðhorf sem áróðurinn hefur innrætt honum, og réttlætingin er vörn hans gegn þeirri ógn.
Afleiðing áróðurs er heimssýn sem ekki er dregin í efa. En áróður er ekki nauðsynlegt skilyrði fyrir slíkri heimssýn. Eins og David Updegrove gerir grein fyrir í bók sinni Breakthrough to Clear Thinking and Innovation, þá er yfirleitt mjög erfitt að brjóta rótgrónar hugmyndir á bak aftur, og áður en það gerist er gengið afar langt til að útskýra, réttlæta, hagræða til að dylja ósamræmið gagnvart veruleikanum.
Lykillinn að innihaldsríku lífi er skýr hugsun segir Updegrove og vitnar þar í dr. Eliyahu M. Goldratt. Við erum öll fær um að hugsa skýrt, en við óttumst afleiðingarnar sem það gæti haft. Goldratt talar um fjórar tegundir ótta, ótta við flókin kerfi, ótta við hið óþekkta, ótta við átök og ótta við að missa eitthvað sem er okkur mikilsvert. En til viðbótar þessu er til fimmta tegund ótta, segir Updegrove, og það er óttinn við að lenda í heilögu stríði við kerfið, að ögra forsendunum sem allir aðrir gefa sér og verða ásakaður um villutrú. Það er ekki auðvelt að takast á við þessa síðustu tegund ótta. Það er líklega ein mikilvægasta ástæðan fyrir því að gallaðar hugmyndir geta lifað öldum saman.[6]
Þótt til séu hagnýtar aðferðir til að takast á við þessar mismunandi tegundir ótta þurfum við úthald til að fylgja hugmyndum eftir til enda, og til þess er hugrekki nauðsynlegur eiginleiki. Til að sigrast á fimmtu tegund óttans þurfum við hugrekki til að horfast í augu við ósamræmi, segir Updegrove. Hann heldur áfram:
Ein ástæða þess að svo erfitt er að hnekkja sumum vísindalegum hugmyndum er sú að fylgismenn þeirra hætta oft að beita hinni vísindalegu aðferð. Þeir viðurkenna mögulega ósamræmi milli kenninga og sönnunargagna, en í stað þess að ögra kjarnakenningunni hunsa þeir gjarna ósamræmið, líkt og það skipti ekki máli, eða byggja upp (stundum hátimbraðar) hliðarkenningar til að útskýra misræmið eða til að fylla í „eyðurnar.[7]
Tilgangur röklegrar greiningar er að komast að réttum niðurstöðum á grunni strangra rökreglna. Það kostar tíma og fyrirhöfn að læra slíkt, en tíminn og fyrirhöfnin eru ekki stærstu hindranirnar. Í stað þess að nota réttlætingarrök til að sannfæra aðra um fyrirframgefna niðurstöðu snýst skýr hugsun um að ögra sérhverri fyrirfram gefinni hugmynd, sérhverri forsendu, sérhverju orsakasambandi. Og til þess þarf hugrekki, við verðum að þora að að ögra okkar eigin djúpstæðu sýn á heiminn.
Þannig snýst gagnrýnin hugsun ekki aðeins um að sannreyna staðreyndir og hugsa rökrétt og af nákvæmni, heldur snýst hún ekki síður um þá siðferðilegu afstöðu að kjósa að leita sannleikans og að hafa hugrekki til að viðurkenna að maður kunni að hafa rangt fyrir sér. Þetta er grunnmerking fyrri hluta orðasambandsins, “gagnrýnin”. Því sú gagnrýni sem gagnrýnin hugsun snýst um er ekki gagnrýni á aðra heldur gagnrýni á eigin fyrirframgefnu hugmyndir. Og á endanum er það einmitt þessi gagnrýni sem er forsenda þess að niðurstöður okkar verði réttar og komi að raunverulegu gagni þegar við tökum ákvarðanir.
Nú þegar gervigreindin býður upp á áður óþekkta möguleika til réttlætingar og áður óþekkta möguleika til að útvista eigin ákvörðunum, jafnvel án tillits til siðferðilegrar þýðingar þeirra er það mikilvægara en nokkru sinni áður að skilja þetta inntak gagnrýninnar hugsunar og ástunda hana markvisst. Skipuleg, rökleg greining byggð á kerfismiðaðri hugsun er eitthvert öflugasta tækið sem við höfum til þess.
Kafli úr væntanlegri bók höfundar, “Frá óvissu til árangurs – skýr hugsun og listin að taka betri ákvarðanir” sem út kemur hjá Mjaldri útgáfu í september
[1] Goldratt, Eliyahu: The Goal – A Process of Ongoing Improvement, Great Barrington, 2014, bls. 4.
[2] https://www.merriam-webster.com/dictionary/reasoning
[3] https://www.merriam-webster.com/dictionary/rationalize
[4] Jaques Ellul: Propaganda – The Formation of Men’s Attitudes, New York, 1965, bls. 165.
[5] Sama heimild, sama bls.
[6] David Updegrove: Breakthrough to Clear Thinking and Innovation, Auburn, 2022, bls. 111-132.
[7] Sama rit, bls. 113.
