Bill Gates, annar stofnenda Microsoft, varar við því að gervigreind sé orðin svo öflug að í höndum fólks með illan ásetning gæti hún stuðlað að atburðum sem gætu kostað allt að milljarð manna lífið.
Gates lét þessi orð falla í viðtali við Kirsten Welker í þættinum Meet the Press á NBC í gær. Þar kallaði hann eftir auknu eftirliti með öflugustu gervigreindarkerfunum og sagði sérstaklega mikilvægt að koma í veg fyrir að tæknin yrði nýtt við þróun til dæmis lífefnavopna, eða sýklavopna.
„Gervigreind er sannarlega nógu öflug til að knýja fram atburði sem valda dauða milljarðs manna,“ sagði Gates.
Hann gekk þó ekki svo langt að segja að gervigreind gæti útrýmt mannkyninu. Hættan fælist fyrst og fremst í því hvað einstaklingar með illan ásetning gætu gert með gervigreindartólum sem verða sífellt öflugri.
„Þótt ólíklegt sé að hægt væri að útrýma öllu mannkyni hefur aldrei áður verið til jafn öflugt vopn og nýjasta gervigreindartæknin í höndum fólks með illan ásetning,“ sagði Gates.
Erfitt að greina góðan og illan ásetning
Þegar Gates var spurður hvernig hægt væri að koma í veg fyrir alvarlegar afleiðingar af völdum gervigreindar nefndi hann sérstaklega hættuna á að tæknin yrði misnotuð við þróun lífefnavopna.
Vandinn, að hans sögn, er að sömu tæki og geta aðstoðað vísindamenn við að þróa ný lyf sem gera mannkyninu gagn geta einnig nýst einstaklingum sem vilja þróa til dæmis sýklavopn eða lífefnavopn. Það geti því verið afar erfitt fyrir gervigreindarfyrirtæki að greina á milli lögmætra rannsókna og hættulegrar misnotkunar.
„Ég vildi óska þess að auðveldara væri að greina á milli góðs ásetnings, þegar einhver vill til dæmis þróa nýtt lyf við sjúkdómi, og ills ásetnings, þegar markmiðið er að þróa sýklavopn.“
Þess vegna telur hann nauðsynlegt að fylgst sé sérstaklega með notkun öflugustu gervigreindarlíkananna og að hægt sé að rekja hvernig þau eru notuð.
„Vegna þess hversu stutt er þarna á milli þurfum við að fylgjast með öllum háþróuðum líkönum og skrá nákvæmlega hvað er verið að gera.“
Gates telur að slíkt eftirlit þurfi ekki að standa í vegi fyrir tækniframförum. Hann gerði skýran greinarmun á öryggisráðstöfunum annars vegar og tillögum um að hægja beinlínis á þróun gervigreindar hins vegar.
Að hans mati ættu Bandaríkin að taka forystu í að móta slíkar reglur og hann sagðist gera ráð fyrir að Kína myndi einnig grípa til sambærilegra ráðstafana.
Ólík sjónarmið um hættuna
Ummæli Gates koma á sama tíma og mikil umræða fer fram í Bandaríkjunum um hversu langt stjórnvöld eigi að ganga í eftirliti með gervigreind.
Donald Trump Bandaríkjaforseti hefur gert lítið úr hugmyndum um að þróun gervigreindar geti leitt til endaloka mannkynsins. Hann hefur þess í stað lagt áherslu á samkeppni Bandaríkjanna við Kína og mikilvægi þess að Bandaríkin haldi forystu sinni á sviðinu.
Mike Johnson, forseti fulltrúadeildar Bandaríkjaþings, hefur tekið í svipaðan streng og sagt að Bandaríkin geti ekki sett þróun tækninnar í bið þar sem hætta sé á að Kína fari þá fram úr þeim.
Barack Obama, fyrrverandi Bandaríkjaforseti, hefur hins vegar lýst áhyggjum af því hversu hratt tækninni fleygir fram og að þróunin sé að stórum hluta í höndum einkafyrirtækja. Samkvæmt New York Times sagði Obama á lokuðum viðburði fyrr í mánuðinum að gervigreind gæti orðið hættuleg ef stjórnvöld næðu ekki betur utan um þróunina.
Áhyggjur af lífefnavopnum
Viðvaranir Gates koma einnig í kjölfar umræðu um hvort öflug gervigreindarkerfi geti auðveldað þróun lífefnavopna.
Jacob Coxon, rannsakandi hjá Anthropic, sagði upp störfum fyrr í mánuðinum og gagnrýndi fyrirtækið og keppinaut þess OpenAI fyrir að gera að hans mati ekki nóg til að takast á við hugsanlegar afleiðingar tækninnar.
Skömmu síðar kom fram í skýrslu Anthropic um misnotkun gervigreindar að fyrirtækið hefði stöðvað nokkur tilvik þar sem notkun kerfa þess vakti grunsemdir um rannsóknir sem gætu nýst við þróun lífefnavopna.
Samkvæmt umfjöllun New York Times gat fyrirtækið þó ekki staðfest hvort rannsóknirnar hefðu í raun verið gerðar í ólögmætum tilgangi.
Þar liggur einmitt vandinn sem Gates segir að stjórnvöld og tæknifyrirtæki þurfi að takast á við. Sömu þekkingu og gervigreind getur nýtt til að aðstoða vísindamenn við þróun nýrra lyfja og bóluefna má hugsanlega einnig misnota til að þróa hættulega sýkla.
Gates telur því ekki að svarið felist endilega í því að stöðva eða hægja verulega á þróun gervigreindar. Þess í stað þurfi að tryggja að eftirlit og öryggisráðstafanir haldi í við tæknina eftir því sem geta hennar eykst.
