Í grein á Vísi 24. júní gerir Erna Bjarnadóttir hagfræðingur athugasemd við að Pawel Bartoszek hafi sótt mat á umfangi tollfrelsis til gervigreindarinnar Google Gemini. Hún kemst svo að orði að gervigreind „komi ekki í stað heimildavinnu". Þetta er fróðleg fullyrðing, ekki síst af því að hún snýr veruleikanum nánast á hvolf.
Því ef eitthvað er, þá er heimildavinna, að finna, draga saman og bera saman fjölda heimilda, einmitt það sem þessi verkfæri eru orðin góð í. Það sem þau eru hins vegar ekki að gera fyrir okkur er hitt: að meta hvað er satt og bera ábyrgð á niðurstöðunni. Og það er nákvæmlega þar sem deilan ætti að liggja, ekki í því hvaða verkfæri var notað.
Hvaða tækni notaði Erna sjálf?
Byrjum á því augljósa. Erna gerir kröfu um að upplýst sé um „tæknina" sem liggur að baki tölum andstæðingsins. En hún upplýsir hvergi hvaða tækni hún notaði sjálf. Notaði hún ritvél? Word? Excel? Reiknivél? Leitaði hún í tollskránni á vef Skattsins eða í PDF-skjali frá ráðuneytinu? Vélritaði aðstoðarmaður glósurnar?
Auðvitað spyr enginn slíkra spurninga, og það er einmitt kjarni málsins. Við gerum ekki kröfu um að menn telji upp ritvinnsluforritið sitt, því verkfærið skiptir ekki máli fyrir sannleiksgildi fullyrðingarinnar. Það sem skiptir máli er hvort talan stenst þegar hún er borin saman við frumgögn. Eftir þrjú ár mun enginn spyrja hvort tiltekin tafla hafi orðið til í Gemini, Excel eða með penna. Menn munu aðeins spyrja hvort hún hafi verið rétt. „Hann notaði gervigreind" verður þá jafn léttvæg athugasemd og „hann notaði reiknivél" væri í dag.
Stigveldi hugsunar og hvar vélin er sterk
Hér er gagnlegt að rifja upp tvö gömul hugtök. Menntafræðingurinn Benjamin Bloom lýsti því á sínum tíma hvernig hugsun byggist upp í þrepum: neðst að muna staðreynd, svo að skilja, að beita, að greina, að meta og efst að skapa. Því ofar sem dregur, því meira reynir á dómgreind.
Gervigreind er orðin býsna góð í neðri þrepunum. Hún man, hún dregur saman, hún ber saman heimildir, sem er einmitt heimildavinna í þrengsta skilningi. Þess vegna er fullyrðing Ernu um að gervigreind „komi ekki í stað heimildavinnu" í reynd öfugmæli: heimildaöflunin er það sem vélin gerir hraðast og oft best. Það sem hún tryggir ekki er efra þrepið, að meta hvort niðurstaðan standist, og að bera ábyrgð á henni.
Gerendahæfni og hver heldur um stýrið?
Hér kemur seinna hugtakið inn, sem á ensku heitir agency en ég kýs að kalla gerendahæfni: hver hefur frumkvæðið, hver stýrir og hver ber ábyrgðina. Munurinn á góðri og slæmri notkun gervigreindar liggur ekki í verkfærinu, heldur í gerendahæfninni. Sá sem lætur vél skrifa töflu, les hana yfir í flýti og birtir óbreytta. Hann hefur afhent vélinni bæði hugsunina og ábyrgðina. Sá sem notar sömu vél til að draga saman tollskrá, en sannreynir svo hverja línu í frumgögnum áður en hann fullyrðir, hann heldur fast um stýrið.
Þetta þýðir tvennt fyrir umræðuna. Í fyrsta lagi: ef tafla Pawels var röng, þá var hún ekki röng af því að Gemini kom að henni, heldur af því að einhver sannreyndi hana ekki nógu vel. Það er gild gagnrýni. En þá á að beina henni að efninu, bókun 3, tollfrjálsum gúrkum, tómötum og papriku, eins og Erna gerir reyndar líka. Þau efnislegu rök standa fyllilega ein og sér. Gervigreindarstimpillinn bætir engu við þau; hann er retórísk viðbót til að gera andstæðinginn tortryggilegan.
Uppspretta afsannar ekki fullyrðingu
Í rökfræði heitir það erfðarökvilla (e. genetic fallacy) að dæma fullyrðingu eftir uppruna hennar fremur en innihaldi. Að segja „þetta kom frá gervigreind, því er það ósannreynt" er nákvæmlega slík villa, alveg eins og það væri villa að segja „þetta kom frá hagfræðingi með tengsl við landbúnaðinn, því er það ósannreynt". Hvort tveggja á að standa eða falla með gögnunum, ekki upprunanum.
Og þar liggur hættan við að gera gervigreindarnotkun að vopni: sá sem beitir „hann notaði gervigreind" sem rökum setur sjálfan sig undir sama mælikvarða. Þá er stutt í að öll greining, hvort sem hún styðst við töflureikni, gagnagrunn eða mállíkan, verði afgreidd með því að benda á verkfærið í stað þess að ræða efnið. Það er ekki vönduð umræða. Það er undanskot.
Niðurstaða
Ég tek heils hugar undir tvennt hjá Ernu: að gagnsæi um aðferð skiptir máli, og að enginn á að birta tölu sem hann hefur ekki sannreynt. En þá á sú krafa að vera almenn, hún á við um alla, líka hagsmunaaðila, og hún snýr að því að sannreyna í frumgögnum, ekki að því hvaða forrit var notað.
Gervigreind er ágætt verkfæri í heimildavinnu, það er einmitt það sem hún er góð í. En verkfæri á að vera í hendi þess sem hugsar. Spurningin sem skiptir máli er ekki hvaða tækni notaðir þú? heldur hélstu um stýrið? Það er sú spurning sem stendur eftir, löngu eftir að nafnið á forritinu er gleymt.
Höfundur er ritstjóri Verðbólguvaktarinnar og situr í starfshópi um gervigreind til góðs.
