Forritarinn Helgi Hrafn Gunnarsson segir enga töfralausn geta komið í stað sjálfstæðrar hugsunar. Hann telur að mannlegt tal gervigreindarinnar geti orðið til þess að fólk ofmeti getu hennar og treysti henni í blindni. Helgi Hrafn er gestur í nýjasta þætti Gervigreindarklúbbsins þar sem hann ræðir við Stefán Atla Rúnarsson um gervigreind, gagnrýna hugsun, persónuvernd, lýðræði og þá hættu sem skapast þegar fólk hættir að sannreyna upplýsingarnar sem birtast því.
Helgi hefur starfað lengi við forritun og sat áður á Alþingi fyrir Pírata. Árið 2019 varaði hann á Alþingi við gervigreindardrifnum áróðri og djúpfölsunum—löngu áður en almenningur fékk greiðan aðgang að verkfærum sem geta búið til sannfærandi myndir, myndbönd og raddir.
Í þættinum segir Helgi að tæknin geti verið öflugt hjálpartæki en hún leysi fólk ekki undan ábyrgðinni á því að hugsa sjálfstætt.
„Það er enginn svindlkóði fram hjá því að hugsa sjálfstætt,“ segir Helgi.
Hann óttast að fólk noti tæknina sem afsökun fyrir því að hugsa ekki sjálft og bendir á að gervigreind geti verið mikill „people pleaser“. Hún leitist gjarnan við að veita notandanum svar sem hann er ánægður með—jafnvel þegar forsendur hans eru rangar.
„Við erum hvergi nærri AGI“
Helgi er jafnframt gagnrýninn á þá hugmynd að mannkynið sé nú þegar komið að almennri gervigreind, eða AGI.
„Ég held reyndar að við séum hvergi nærri því,“ segir hann.
Hann bendir á að gervigreind geti talað á sannfærandi og mannlegan hátt án þess að búa yfir almennri greind eða sjálfsmeðvitund. Hættan sé meðal annars sú að mannlegt yfirbragð tækninnar fái okkur til að gera ráð fyrir meiri skilningi en raunverulega er til staðar.
Þessi afstaða leiðir til líflegrar umræðu í þættinum, þar sem Stefán og Helgi takast á um það hversu nálægt mannkynið sé raunverulegri AGI og hvort tækniframfarir síðustu ára séu vísbending um að slík þróun geti gerst hraðar en margir telja.
Getum við lengur treyst því sem við sjáum?
Í þættinum ræða þeir einnig hvað gerist þegar ljósmyndir, myndbönd og hljóðupptökur eru ekki lengur sjálfkrafa traust sönnunargögn.
Gervigreind getur nú framleitt falsað efni á örskömmum tíma og dreift því til þúsunda eða milljóna manna. Helgi segir því mikilvægt að fólk staldri við áður en það deilir sláandi efni og spyrji einfaldrar en grundvallarmikillar spurningar:
„Er þetta satt?“
Þetta geti reynst sérstaklega mikilvægt í aðdraganda kosninga, þegar falsað myndband af stjórnmálamanni gæti farið í mikla dreifingu áður en fjölmiðlar, yfirvöld eða staðreyndavaktir ná að bregðast við.
Er raunverulegt val að hætta á Facebook?
Persónuvernd og áhrif stórra tæknifyrirtækja eru einnig rædd í þættinum. Helgi bendir á að fólk geti vissulega ákveðið að nota ekki samfélagsmiðla—en spyr hvort það sé raunhæft val þegar stór hluti samskipta, viðburða og upplýsinga um nærsamfélagið fer fram á miðlum á borð við Facebook.
Getur fólk raunverulega hafnað þessum kerfum án þess að detta að einhverju leyti út úr samfélaginu?
Umræðan snýst því ekki aðeins um hvaða upplýsingum fólk deilir, heldur einnig um hversu frjálst val þess er þegar samfélagið sjálft hefur flust inn á miðla í eigu alþjóðlegra tæknifyrirtækja.
Rauði þráður þáttarins er að gervigreind muni ekki leysa mannkynið undan ábyrgðinni á eigin hugsun. Þvert á móti geri tæknin gagnrýna hugsun, upplýsingalæsi og sjálfstæða dómgreind mikilvægari en nokkru sinni fyrr.
Hér má hlusta á þáttinn á Spotify.
@gervigreindarklub Helgi Hrafn - gestur í Gervigreindarklúbbnum í umsjón @Stefán Atli #gervigreindarklubburinn #gervigreind #helgihrafn ♬ original sound - Gervigreindarklubburinn
