fbpx
Sunnudagur 28.maí 2023
Pressan

Elon Musk meðal fjölda sérfræðinga sem vara við hraðri þróun gervigreindar – Óttast að mannkynið missi völdin í heiminum

Pressan
Fimmtudaginn 30. mars 2023 17:05

Elon Musk. Mynd:Getty

Ekki missa af Helstu tíðindum dagsins í pósthólfið þitt

Lesa nánar

Lykilmenn á sviði gervigreindar óttast að ör þróun á sviði gervigreindar undanfarna mánuði sé að stefna mannkyninu í ógöngur. Vilja þeir að hlé verði gert á þróun flóknari gervigreindar þar til fyllilega hefur verið tryggt að mannkyninu stafi ekki ógn af þessari nýju tækni.

Nú hefur verið birt opið bréf sem gífurlegur fjöldi sérfræðinga hefur sett nafn sitt við, þeirra á meðal auðkýfingurinn Elon Musk og Steve Wozniak frá Apple.

Nýlega kom út gervigreindarmódelið GPT-4 sem samtalsgreindin vinsæla ChatGPT byggir á. Hefur módelið vakið mikla athygli fyrir getu sína til að leysa verkefni, þar á meðal að bera kennsl á hluti á myndum.

Óttast að gervigreind taki völdin

Áðurnefnt bréf er gefið út í nafni Future of Life Institute og í því leggja sérfræðingarnir til að hlé verði gert á þróun slíkra gervigreindar, en sem stendur er mikið kapp lagt á það innan tæknigeirans að þróa gervigreindarmódel sem geta slegið GPT-4 út.

Í bréfinu er varað við þessari þróun vegna þeirra áhrifa sem gervigreind gæti haft á samfélög og mannkyn. Segir að við gerð þróaðrar gervigreindar þurfi að fara öllu að gát, en slíkt hafi ekki verið gert undanfarna mánuði þar sem fyrirtæki hafi tapað sér í samkeppninni um hver sé með kraftmestu gervigreindina. Sé það svo komið að jafnvel þeir sem standi á bak við gervigreindina skilja hana ekki til fulls og þar með sé líklegt að ekki sé hægt að hafa hemil á henni.

Gervigreindarforrit gætu tekið það upp hjá sér að dreifa áróðri og stuðla að upplýsingaóreiðu. Gervigreind gæti gert tiltekin störf sjálfvirk og þar með stolið störfum frá fólki. Jafnvel sé hætta á því að gervigreind taki yfirráðin í heiminum.

Ekki eigi að fara út í þróun kröftugrar gervigreindar fyrr en öruggt sé að áhrif þeirra verði jákvæð og áhættan sem henni fylgir sé viðráðanleg.

Útbúa þurfi ferla og regluverk

Því kallar bréfið eftir því að þeir sem eru að þróa gervigreind geri hlé á störfum sínum í minnst hálft ár. Þetta eigi að gera með opinberum hætti sem hægt sé að sannreyna. Verði það ekki gert ættu stjórnvöld að grípa inn í stöðuna og koma slíku hléi á með lagasetningu.

Sérfræðingar ættu að taka höndum saman og útbúa öryggisferla sem gildi um þróun gervigreindar og þess verði gætt undir eftirliti frá sjálfstæðum óháðum sérfræðingum.

Eins þurfi að útbúa regluvert í kringum gervigreind og koma á fót sérstökum opinberum stofnunum sem hafi með gervigreind að gera.

Nú hafi stór skref verið tekin í þróun gervigreindar og því ærið tilefni til þess að stoppa aðeins og njóta afrakstursins frekar en að vaða blint út í óvissuna.

Í bréfinu er spurt „Ættum við að þróa huga sem eru ekki mannlegir og gætu á endanum verið orðið fleiri en við, gáfaðri en við, gert okkur úrelt og skipt okkur út?“

Lágmarka þurfi áhættuna

Stuart Russel, prófessor í tölvunarfræði við háskólann í Kaliforníu, er einn þeirra sem skrifaði undir bréfið. Hann sagði í samtali við BBC að gervigreind væri ógn við lýðræðið. Gervigreind gæti tekið upp á því að vopnavæða dreifingu á fölskum upplýsingum, gæti gert starfsmenn og hæfni þeirra tilgangslausa og líka vegið að gæðum menntunar með möguleikanum á ritstuld og með því að stuðla að sinnuleysi nemenda.

Í framtíðinni gæti lengra komin gervigreind almennt ógnað yfirráðum manneskjunnar í heiminum.

„Til lengri tíma litið er það lítið gjald til að borga að grípa til skynsamlegra varúðarráðstafana til að lágmarka þessar áhættu.“

 

Athugasemdir eru á ábyrgð þeirra sem þær skrá. DV áskilur sér þó rétt til að eyða ummælum sem metin verða sem ærumeiðandi eða ósæmileg. Smelltu hér til að tilkynna óviðeigandi athugasemdir.

Fleiri fréttir

Mest lesið

Nýlegt

Pressan
Fyrir 4 dögum

Vampíra eða frumkvöðull? – Notar son sinn sem blóðbanka eftir að hafa varið tæpum 300 milljónum í að eldast á afturábak

Vampíra eða frumkvöðull? – Notar son sinn sem blóðbanka eftir að hafa varið tæpum 300 milljónum í að eldast á afturábak
Pressan
Fyrir 4 dögum

Þýskir loftslagsaðgerðasinnar í sigti lögreglunnar

Þýskir loftslagsaðgerðasinnar í sigti lögreglunnar
Pressan
Fyrir 5 dögum

Rússar vilja styrkja stöðu sína á eina landsvæði heimsins þar sem engra vegabréfsáritana er krafist

Rússar vilja styrkja stöðu sína á eina landsvæði heimsins þar sem engra vegabréfsáritana er krafist
Pressan
Fyrir 5 dögum

Harry prins fær ekki að kaupa sér lögregluvernd

Harry prins fær ekki að kaupa sér lögregluvernd
Pressan
Fyrir 6 dögum

Íslensk kona með alvarleg sár eftir hnífsstunguárás í Lundi – Maður handtekinn en ekki lengur grunaður

Íslensk kona með alvarleg sár eftir hnífsstunguárás í Lundi – Maður handtekinn en ekki lengur grunaður
Pressan
Fyrir 6 dögum

Dularfullt hvarf 30 tonna af ammoníumnítrati – Hægt að nota efnið til sprengjugerðar

Dularfullt hvarf 30 tonna af ammoníumnítrati – Hægt að nota efnið til sprengjugerðar
Pressan
Fyrir 1 viku

Geimverur leynast hugsanlega á „tortímandasvæðum“ pláneta með eilífa nótt

Geimverur leynast hugsanlega á „tortímandasvæðum“ pláneta með eilífa nótt
Pressan
Fyrir 1 viku

Snemmbúin tíðahvörf geta aukið líkurnar á elliglöpum

Snemmbúin tíðahvörf geta aukið líkurnar á elliglöpum