Halla Tómasdóttir forseti Íslands segir hraða þróun gervigreindar kalla á ígrundun. Þessi nýja tækni gæti magnað skautaða og hatursfulla umræðu. Þetta kemur fram í grein Höllu sem birtist á Vísi í dag.

Bendir Halla á að sumir þeirra sem standa á bak við þróun á sviði gervigreindar hafi sjálfir hvatt til varfærni. Til dæmis guðfaðir gervigreindarinnar, Geoffrey Hinton, sem hefur varað við því að verið sé að þróa kerfi sem fólk skilur ekki að fullu sjálft. Það sama eigi við um Tristan Harris, einn stofnenda almannaheillasamtakanna The Center for Humane Technology sem spáir því að tæknin muni ekki bara bylta verkferlum heldur einnig hugsun, hegðun og jafnvel samfélagsgerðinni sjálfri.

„Við virðumst eiga í vaxandi erfiðleikum með að eiga yfirvegað samtal um flókin málefni. Umræðan, sem á sér að mestu stað á vefmiðlum og samfélagsmiðlum, verður iðulega hvöss og persónuleg, enda mótuð af hagsmunum sem umbuna þátttakendum fyrir upphrópanir fremur en ígrundun. Skautuð og hatursfull skoðanaskipti hafa áhrif á traust okkar hvert til annars og á grundvöll lýðræðisins. Gervigreindin hefur burði til að magna þessi neikvæðu áhrif enn frekar.“

Gervigreindin geti á andartaki einu framleitt trúverðugt efni sem sé þó villandi. Þannig er hægt að dreifa falsfréttum á ógnarhraða sem hafi áhrif á skoðanir fólks án þess að það átti sig á því. Halla bendir á að samtímis felist í gervigreindinni gríðarleg tækifæri til nýsköpunar, bættrar þjónustu og aukinnar þekkingar. Brýnt sé þó að Íslendingar móti skýra stefnu um ábyrga notkun gervigreindar og sú stefna þurfi að ná til menntakerfisins, hugverkaréttar, persónuverndar, mannréttinda og til að tryggja varðveislu lýðræðisins.

Íslendingar þurfi á næstu mánuðum að ganga til sveitarstjórnakosninga og þjóðaratkvæðisgreiðslu um aðildarviðræður við Evrópusambandið. Um mikilvægar ákvarðanir sé að ræða sem þurfi að byggja á upplýstri og heiðarlegri umræðu. Landsmenn þurfi að vera meðvitaðir um áhrif tækninnar á lýðræðislega ferla og skoðanamyndun og setja þurfi tækninni skýran ramma þar sem við á.

„Ísland hefur ýmsa burði til að vera í fararbroddi þegar kemur að ábyrgri nýtingu gervigreindar. Á sterkum grunni menntunar, samfélagslegs trausts og lýðræðishefða getum við mótað framtíð þar sem tækniframfarir styðja við velsæld, sköpun og heilbrigt samfélag. Það er sameiginlegt verkefni okkar allra; kjörinna fulltrúa, atvinnulífsins, menntastofnana, skapandi greina og almennings.

Við sem hér búum berum sameiginlega ábyrgð á því að skapa samfélag þar sem tæknin þjónar manninum – ekki öfugt. Hér er um að ræða stórt og flókið verkefni sem krefst samtals, samstöðu og skýrrar framtíðarsýnar. “