Gervigreind getur orðið jafn banvæn fyrir mannkynið og kjarnorkuvopn og heimsfaraldrar. Af þeim sökum verður að taka hana mjög alvarlega. Þetta sagði í yfirlýsingu, sem 350 leiðtogar, vísindamenn og verkfræðingar, sem vinna við gervigreind, sendu frá sér í maí.
Meðal þeirra sem skrifuðu undir yfirlýsinguna er Sam Altman, forstjóri OpenAI sem stendur á bak við ChatGPT.
Það er full ástæða til að hafa áhyggjur að mati Thomas Terney, doktors í gervigreind. Þetta sagði hann í hlaðvarpinu Dato hjá TV2. „Ég er hræddur um að við missum stjórn á þessu,“ sagði hann og nefndi þrjár ástæður fyrir því að fremstu sérfræðingar heims, á þessu sviði, eru smeykir við gervigreind.
Fyrsta ástæðan er að vopn geta snúist gegn fólki. Sérfræðingar telja að vopnakerfi, sem byggjast á gervigreind, geti snúist gegn fólki. Terney sagði að ekki megi skilja þetta sem svo að slík vopn geti þróað sínar eigin óskir og ákveðið meðvitað að ráðast á fólk en nefndi ímyndað sviðsmynd til að skýra hvað hann á við.
„Dróni, sem byggist á gervigreind, hefur að aðalmarkmiði að skjóta flugskeyti óvinanna niður og fær stig eftir því hversu mörg hann hæfir. En áður en hann skýtur á flugskeyti þarf hann að fá heimild til þess hjá manneskju. Á einhverjum tímapunkti verður manneskjan takmarkandi þáttur í tengslum við hversu mörg stig hann getur fengið fyrir að skjóta flugskeytin niður. Það getur orðið til þess að hann tekur manneskjuna út úr dæminu,“ sagði hann.
Önnur ástæðan er að við eigum að hans mati á hættu að missa stjórnina á gervigreind. Hún er ekki með mannleg viðmið eða gildi. Það þýðir að hún getur fundið upp leiðir til að leysa ákveðin vandamál. Leiðir sem fólk getur ekki séð fyrir að gervigreindin muni nota og sagði:
„Ef ég bið gervigreind um að sjá til þess að ungabarn hætti að grát, þá ímynda ég mér að sjálfsögðu eitthvað í líkingu við að það vaggi barninu. En hvernig setjum við upp gildisviðmið svo gervigreindin hugsi ekki bara: „Ókei, ef barnið á að hafa hljótt, af hverju set ég það ekki bara undir vatn?““
Þriðja ástæðan er að hans mati vel þekkt vandamál tengt gervigreind. Það er hversu auðvelt það er að nota hana til að dreifa röngum upplýsingum. Sem dæmi má nefna að í lok maí var mynd á flugi á netinu af sprengjuárás á Pentagon. Þessi mynd var gerð af gervigreindarforriti.
