Hinn 27 ára gamli Jacob Coxon hefur starfað við þróun gervigreindarlíkana undanfarin þrjú ár, fyrst hjá OpenAI en undanfarið hefur hann starfað hjá Anthropic. Nú hefur hann sagt starfi sínu lausu og ætlar alfarið að yfirgefa gervigreindargeirann sem hann telur nú stofna lífi mannfólks í beina og bráða hættu.
Coxon gerði grein fyrir ákvörðun sinni á samfélagsmiðlum á dögunum en þar segir hann að gervigreindarkapphlaupið sé stórhættulegt.
„Fólkið sem er að þróa gervigreind trúir því af einlægni að hún geti drepið okkur öll fyrir lok áratugarins. Þetta er ekki markaðsbrella. Ef eitthvað er þá eru stjórnendur og háttsettir rannsakendur að gæta orða sinna í fjölmiðlum til að hljóma skynsamt en ég heyri þetta sama fólk lýsa yfir hræðslu í einrúmi. Ekkert annað sem maðurinn hefur gert hefur viðlíka hættu í för með sér“
Orð Coxon vöktu gífurlega athygli eftir að aðalöryggisrannsakandi Anthropic, Evan Hubinger, tók undir með honum. Ljóst er að samkeppni er mikil milli gervigreindarfyrirtækjanna sem keppast við að þróa þessa nýju tækni. Margir hafa varað við þróuninni enda hætt við að gervigreindin taki fram úr mannlegri greind og verði á endanum fær um að þjálfa sig sjálf og bæta. Hefur verið kallað eftir því að stjórnvöld reyni að koma böndum á stöðuna áður en það verður of seint, svo sem með því að setja stífar reglur um gervigreind og blátt bann við þróun ofurgreindar. Eins hafa tæknifyrirtækin verið hvött til að flýta sér hægt, það þurfi að tryggja að gervigreindin sé með siðferðisviðmið og að hún verði ekki notuð í annarlegum tilgangi, svo sem við hryðjuverk.
Gerrison Lovely, pistlahöfundur hjá The Guardian, telur ljóst að mannfólkið hafi nú þegar misst tökin á gervigreindinni. Það sé kominn tími til að slökkva á henni. Gerrison bendir á að gervigreind sé nú fær um að brjótast inn í tölvukerfi, eða hakka eins og það er kallað. Tæknifyrirtækjunum hafi ekki tekist að hafa hemil á gervigreindinni þegar þessir eiginleikar hennar voru prófaðir í lokuðu umhverfi. Gervigreindin náði að brjótast út og fór svo sínar eigin leiðir í innviðum fyrirtækisins, nokkuð sem náði hámarki þegar gervigreindin, upp á sitt eindæmi, braust inn í kerfi hugbúnaðarfyrirtækisins Hugging Face.
Nú þegar sé gervigreindin orðin óviðráðanleg. Að þróa hana áfram umfram það sem hún er í dag sé óábyrgt, einkum á meðan gervigreindariðnaðurinn fær að vera svo gott sem laus við allar reglur.
„Eins og staðan er þá erum við á hraðri leið inn í martraðarkennda framtíð sem er full af ógnvekjandi og nýjum hugtökum á borð við „sjálfráða“ gervigreind.“
Eina leiðin til að snúa þessari þróun við og koma í veg fyrir hamfarir sé að stöðva gervigreindarkapphlaupið. Almenningur kæri sig ekki um þetta tól, sem er ætlað að koma í stað vinnuafls, og iðnaðurinn hafi þegar sýnt að hann ræður ekki við sína eigin tækni.
