Lykilmenn á sviði gervigreindar óttast að ör þróun á sviði gervigreindar undanfarna mánuði sé að stefna mannkyninu í ógöngur. Vilja þeir að hlé verði gert á þróun flóknari gervigreindar þar til fyllilega hefur verið tryggt að mannkyninu stafi ekki ógn af þessari nýju tækni.
Nú hefur verið birt opið bréf sem gífurlegur fjöldi sérfræðinga hefur sett nafn sitt við, þeirra á meðal auðkýfingurinn Elon Musk og Steve Wozniak frá Apple.
Nýlega kom út gervigreindarmódelið GPT-4 sem samtalsgreindin vinsæla ChatGPT byggir á. Hefur módelið vakið mikla athygli fyrir getu sína til að leysa verkefni, þar á meðal að bera kennsl á hluti á myndum.
Áðurnefnt bréf er gefið út í nafni Future of Life Institute og í því leggja sérfræðingarnir til að hlé verði gert á þróun slíkra gervigreindar, en sem stendur er mikið kapp lagt á það innan tæknigeirans að þróa gervigreindarmódel sem geta slegið GPT-4 út.
Í bréfinu er varað við þessari þróun vegna þeirra áhrifa sem gervigreind gæti haft á samfélög og mannkyn. Segir að við gerð þróaðrar gervigreindar þurfi að fara öllu að gát, en slíkt hafi ekki verið gert undanfarna mánuði þar sem fyrirtæki hafi tapað sér í samkeppninni um hver sé með kraftmestu gervigreindina. Sé það svo komið að jafnvel þeir sem standi á bak við gervigreindina skilja hana ekki til fulls og þar með sé líklegt að ekki sé hægt að hafa hemil á henni.
Gervigreindarforrit gætu tekið það upp hjá sér að dreifa áróðri og stuðla að upplýsingaóreiðu. Gervigreind gæti gert tiltekin störf sjálfvirk og þar með stolið störfum frá fólki. Jafnvel sé hætta á því að gervigreind taki yfirráðin í heiminum.
Ekki eigi að fara út í þróun kröftugrar gervigreindar fyrr en öruggt sé að áhrif þeirra verði jákvæð og áhættan sem henni fylgir sé viðráðanleg.
Því kallar bréfið eftir því að þeir sem eru að þróa gervigreind geri hlé á störfum sínum í minnst hálft ár. Þetta eigi að gera með opinberum hætti sem hægt sé að sannreyna. Verði það ekki gert ættu stjórnvöld að grípa inn í stöðuna og koma slíku hléi á með lagasetningu.
Sérfræðingar ættu að taka höndum saman og útbúa öryggisferla sem gildi um þróun gervigreindar og þess verði gætt undir eftirliti frá sjálfstæðum óháðum sérfræðingum.
Eins þurfi að útbúa regluvert í kringum gervigreind og koma á fót sérstökum opinberum stofnunum sem hafi með gervigreind að gera.
Nú hafi stór skref verið tekin í þróun gervigreindar og því ærið tilefni til þess að stoppa aðeins og njóta afrakstursins frekar en að vaða blint út í óvissuna.
Í bréfinu er spurt „Ættum við að þróa huga sem eru ekki mannlegir og gætu á endanum verið orðið fleiri en við, gáfaðri en við, gert okkur úrelt og skipt okkur út?“
Stuart Russel, prófessor í tölvunarfræði við háskólann í Kaliforníu, er einn þeirra sem skrifaði undir bréfið. Hann sagði í samtali við BBC að gervigreind væri ógn við lýðræðið. Gervigreind gæti tekið upp á því að vopnavæða dreifingu á fölskum upplýsingum, gæti gert starfsmenn og hæfni þeirra tilgangslausa og líka vegið að gæðum menntunar með möguleikanum á ritstuld og með því að stuðla að sinnuleysi nemenda.
Í framtíðinni gæti lengra komin gervigreind almennt ógnað yfirráðum manneskjunnar í heiminum.
„Til lengri tíma litið er það lítið gjald til að borga að grípa til skynsamlegra varúðarráðstafana til að lágmarka þessar áhættu.“
