Framkvæmdastjóri Fjölmiðlanefndar, Elfa Ýr Gylfadóttir, segir að fljótlega geti tekið að birtast fjölsuð myndbönd af pólitískum frambjóðendum þar sem þeir eru með gervigreindartækni látnir segja ýmislegt sem þeir hafa aldrei sagt. Þetta kemur fram í grein Elfu á Vísir.is. Nefnir hún dæmi um slíkt djúpfölsunarmyndband sem birtist á samfélagsmiðlum árið 2019:
„Haustið 2019 fór myndband af ítalska stjórnmálamanninum Matteo Renzi á flug á samfélagsmiðlum. Það sem var sérstakt við myndbandið var að þetta var svokölluð djúpfölsun (e. deep fake) þar sem gervigreind var notuð til að falsa myndband af Renzi og leggja honum orð í munn sem hann hafði aldrei látið af munni falla fyrir framan myndavélar. Í myndbandinu leit út fyrir að Renzi væri að tala í myndavél án þess að vita að um upptöku væri að ræða. Þar talaði hann m.a. með niðrandi hætti um ýmsa ítalska stjórnmálamenn. Myndbandið var sýnt í satírskum fréttaþætti í ítalska sjónvarpinu en var einnig sett á vefinn og fór þá fljótlega á flug á samfélagsmiðlum. Netverjar vissu margir hverjir ekki að um satírska djúpfölsun væri að ræða og gerðu alvarlegar athugasemdir við hegðun Renzis á samfélagsmiðlum.“
Elfa segir að djúpfölsunartæknin sé orðin svo þróuð að það sé aðeins tímaspursmál hvenær slík myndbönd verði framleidd og sett í dreifingu rétt fyrir kosningar. Gæti slíkt haft mjög neikvæð áhrif á þá stjórnmálamenn og stjórnmálaflokka sem fyrir þessu verða. Erfitt gæti reynst að sannfæra alla kjósendur um að um fölsun hefði verið að ræða nógu snemma fyrir kosningar.
Í grein sinni reynir Elfa að skýra greinarmuninn á skoðanafrelsi og skoðanaskiptum annars vegar og hreinum fölsunum hins vegar. Sú spurning vaknar hvort almenningur hafi rétt á að láta ljúga að sér, hvort vísvitandi og þrauthugsaðar blekkingar til að afflytja sannleikann geti flokkast undir tjáningarfrelsi. Upplýsingaóreiða og falsfréttir færist í aukana.
„Mörg fyrirtæki selja nú ítarlegar upplýsingar um netnotendur til aðila sem vilja markaðssetja vörur, þjónustu eða skoðanir til almennings. Markmiðið er að ná til ákveðinna markhópa með nákvæmari hætti en áður. Það hefur því aldrei verið jafn auðvelt að beina markvissum skilaboðum til einstaklinga eða hópa sem eru móttækilegir fyrir þeim. Á þetta jafnt við um upplýsingar sem byggjast á staðreyndum og staðleysum. Þetta er ástæða þess að almennt er talið að upplýsingaóreiða sé nú ein stærsta ógn sem lýðræðisríki standa frammi fyrir,“ segir Elfa. Hún bendir jafnframt á að dæmið um djúpfölsunarmyndbandið á Ítalíu sýni að sífellt erfiðara sé fyrir almenning að greina upplýsingaóreiðu frá staðreydnum.
Hún bendir einnig á að falsfréttir dreifist sex sinnum hraðar en sannar fréttir og falsfréttirnar virðist hafa dýpri og víðtækari áhrif. „Þess vegna skiptir miklu máli að auka þekkingu og færni almennings, bæði um falsfréttir og ólík form upplýsingaóreiðu, með það að markmiði að fólk geti sjálft tekist á við krefjandi áskoranir í hinum stafræna heimi,“ segir hún.
Fyrr á þessari ári lét Fjölmiðlanefnd gera skoðanakönnun um upplifun almennings af falsfréttum á netinu. Niðurstöður könnunarinnar voru meðal annars þær að 8 af 10 sögðust hafa rekist á falsfréttir á netinu á síðustu 12 mánuðum. Langalgengast er að fólk sjái slíkt efni á Facebook. Nánar má lesa um könnunina hér.
