Mikil umræða hefur verið um gervigreind að undanförnu og þá hættu sem sumir telja að mannkyninu geti stafað af henni. Hinir allra svartsýnustu telja að gervigreindin geti einn daginn tekið upp á því að útrýma mannkyninu.
En hvernig gæti gervigreind útrýmt okkur?
Því reyndu tveir vísindamenn við University of Toronto og University of California, Berkeley, að svara á síðasta ári þegar þeir listuðu upp hugsanlegar sviðsmyndir þar sem gervigreind drepur „allt eða næstum því allt mannkynið“. Þeir lögðu ekki mat á hversu líkleg hver sviðsmynd væri en lýstu bara hvað getur gerst fræðilega séð.
Vélmennasamfélagið – Fleiri fara að líta á vélmenni sem vini sína í takt við framfarir innan gervigreindar og vélmennatækni. Vélmenni fá smám saman lagaleg réttindi og síðan koma gervigreindarstjórnmálamenn fram á sjónarsviðið.
Pólitísk völd manna minnka mikið eftir því sem vélmennum fjölgar og þau verða fleiri en fólkið.
Það sýnir sig að það er meiri hagnaður fólgin í að þekja akra með sólarrafhlöðum sem eiga að anna aukinni orkuþörf. Þar með verður minna landsvæði til ráðstöfunar til matvælaframleiðslu.
Fólk byrjar að mótmæla þessu kröftuglega en vélmenni, sem eru miklu öflugri en fólkið, drepa það þegar það reynir að ná aftur stjórn á pólitíska kerfinu.
Flestir þeirra sem lifa þetta af deyja síðan úr hungri.
Drónar fara sjálfir í stríð – Ríkisstjórnir leggja áherslu á að nota dróna í átökum því það dregur úr mannfalli og kostnaði. Margar milljónir dróna eru notaðar til að fylgjast með og verja landamæri ríkja sem eiga í deilum og átökum.
Í fyrstu verður drónunum stýrt af fólki en eftir því sem gervigreindin þróast tekur gervigreind við stjórninni. Með þessu getur mikill fjöldi dróna starfað samtímis og unnið saman.
Ein af afleiðingunum af þessu er að „rauðar línur“ skilgreina og skera úr um hvar og hvernig staðan stigmagnast. Hert varnarmálastefna verður forrituð beint inn í drónana.
Ef ríki fer yfir „rauðu línuna“ svara drónarnir skjótt og af festu í gagnárás.
Þetta veldur keðjuverkun þar sem hverju svari er svarað og þannig stigmagnast átökin.
Drónarnir geta haldið áfram að berjast þrátt fyrir að fólk deyji og fækki.
Þetta mynstur mun leiða til heimsstyrjaldar þar sem næstum allt mannkynið verður drepið.
Hermilíkön gera eyðileggjandi hegðun eðlilega – Hermiheimar verða sífellt algengari í vísindatilraunum, við endurbyggingu og til að gera fólki kleift að gera hluti án þess að þurfa að óttast afleiðingarnar af því sem það gerir.
Sumir munu fá áhuga á að gera hættulega hluti í hermilíkönum, hluti sem myndu kalla á refsingu í raunheiminum, til dæmis þjófnaður, svik og morð.
Þeim mun fleiri sem nota hermilíkön til að gera hrottalega hluti, þeim mun eðlilegri mun umræða um slíka hluti verða í samfélaginu.
Eftir því sem hrottalegir hlutir, sem eru gerðir í hermilíkönum, verða vinsælli, mun hugmyndin um að eyða heiminum sækja í sig veðrið.
Með því að æfa sig í hermilíkani, mun gervigreindin geta látið reyna á hugsanleg vandamál í tengslum við útrýmingu mannkynsins.
Eftir að hafa æft sig nægilega mikið hefur gervigreindin árásir á mannkynið í raunveruleikanum og mun allt mannkynið eða því sem næst látast.
