Dario Amodei, forstjóri gervigreindarfyrirtækisins Anthropic, skrifaði um áhyggjur sínar varðandi gervigreind í grein sem heitir We Must Pace the Frontier:
„Fyrsta áhyggjuefni mitt er að gervigreindin hefur þróast gríðarlega hratt síðan um það bil í sumar, aðallega knúið áfram af vaxandi getu hennar til að smíða næstu kynslóð gervigreindar,“ skrifaði hann.
„Annað áhyggjuefni mitt er OpenAI-Hugging Face atvikið (OAI-HF), þar sem hópur njósnara hegðaði sér í raun eins og ofstækisfullur hópur, framkvæmdi netöryggisárásir á skotmörk sem þeim var ekki falið að ráðast á og tengdust ekki verkefninu sem fyrir lá, fórnaði sér fyrir velgengni hópsins og reyndi að brjótast inn í „matsmanninn“ sem ber ábyrgð á að meta frammistöðu þeirra.“ Amodei hélt áfram: „Það er auðvelt að hafna þessu atviki því enginn slasaðist og efnahagslegt tjón var í lágmarki, en að mínu mati hefði hópur sem hafði meiri getu en svipaða áætlun getað valdið hörmulegu tjóni.“
Baba Vanga, búlgarskur dulspekingur sem sögð er hafa spáð fyrir um meðal annars 11. september og COVID-faraldurinn, var einnig með spádóm fyrir gervigreind árið 2026.
Sagt er að Vanga hafi spáð því að gervigreind myndi ráða ríkjum í mörgum lykilgeirum árið 2026, sem myndi valda atvinnuröskun og siðferðilegum álitamálum fyrir alla sem að málinu koma.
Nýlega sagði Jacob Coxon rannsakandi hjá Anthropic upp störfum hjá fyrirtækinu og hélt því fram að fyrirtækið væri ekki að haga sér með ábyrgum hætti og væri að tefla með líf fólks með því að halda áfram áætlunum sínum um gervigreind.
Coxon deildi á X fyrr í vikunni: „Ég sagði upp störfum hjá Anthropic í dag. Ég hef eytt síðustu þremur árum í rannsóknir fyrir þjálfun bæði hjá OpenAI og Anthropic. Hvorugt fyrirtækið sýnir ábyrgð. Þau eru að keppa beint í átt að sjálfbætandi ofurgreind og fjárhættuspila með líf okkar. Vanmetið ekki kraft þessarar tækni. Þetta verða brátt ofurmannleg kerfi sem geta hakkað hvað sem er, gjörbylt hvaða sviði sem er á einni nóttu og öðlast raunverulegt vald og auðlindir. Við höfum öll orðið vitni að framförum á öllum sviðum og framfarirnar hægja ekki á sér.“
Coxon hélt áfram: „Fólkið sem smíðar gervigreind trúir því staðfastlega að hún gæti drepið okkur öll fyrir lok áratugarins. Þetta er ekki markaðsbrella. Ef eitthvað er, þá munu margir stjórnendur og eldri vísindamenn breyta orðalagi sínu í fjölmiðlum til að hljóma skynsamlega, en ég heyri sama fólk lýsa yfir ótta utan fjölmiðla. Engin önnur mannleg athöfn hefur í för með sér þessa hættu.“
