fbpx
Miðvikudagur 11.desember 2024
Pressan

Nektarmyndir búnar til með gervigreind valda uppnámi í skóla

Pressan
Fimmtudaginn 2. nóvember 2023 17:30

Westfield í New Jersey en dreifing falsaðra nektarmynda af unglingsstúlkum skekur nú bæinn/Wikimedia

Ekki missa af Helstu tíðindum dagsins í pósthólfið þitt

Lesa nánar

Ljósmyndir sem búnar eru til með gervigreind og sýna kvenkyns nemendur skóla í New Jersey í Bandaríkjunum á klámfengin hátt og var dreift af karlkyns nemendum hafa valdið gríðarlegu uppnámi meðal foreldra og komið af stað lögreglurannsókn.

Skólinn er á því skólastigi sem kallast high school í Bandaríkjunum en í slíkum skólum eru nemendur yfirleitt á aldrinum 14-18 ára.

Umræddur skóli er í bænum Westfield en meðal árstekjur í bænum eru um fjórfalt hærri en meðal árstekjur á landsvísu í Bandaríkjunum.

Nemendur segja að einn eða fleiri karlkyns nemendur hafi notað gervigreindina til að búa myndirnir til og síðan dreift þeim meðal annarra nemenda.

Málið laut dagsins ljós þegar hópur karlkyns nemenda á öðru ári í skólanum hafði þótt haga sér undarlega. Kvenkyns samnemendur þeirra fóru að spyrja spurninga og loks sagði einn úr hópnum hvað væri á seyði. Að minnsta kosti einn karlkyns nemandi hafði notað myndir af stúlkum í nemendahópnum sem hann fann á internetinu til að búa fölsuðu nektarmyndirnar til og nýtti gervigreind til þess. Nemandinn deildi síðan afurðunum með öðrum drengjum í nemendahópnum í hópspjalli.

Stúlkunum var tjáð af stjórnendum skólans að drengirnir hefðu borið kennsl á þær á þessum fölsuðu nektarmyndum.

Óttast um framtíð dóttur sinnar

Móðir 14 ára stúlku sem er nemandi í skólanum segir að dóttur sinni hafi verið tjáð af stjórnendum skólans að mynd af henni hafi verið notuð til að búa til nektarmynd af þessu tagi.

Móðirinn segist dauðhrædd um að myndin fari í almenna dreifingu. Dóttir sín eigi bjarta framtíð fyrir höndum og það sé ekki hægt að ábyrgjast að falsaða myndin muni ekki hafa áhrif á starfs- og námsferil hennar sem og félagslíf. Hún segist ekki kæra sig um að dóttir sín gangi í skóla með neinum sem hafi tekið þátt í að búa til myndirnar og hefur lagt fram kæru hjá lögreglu.

Alls hafa foreldrar fjögurra stúlkna lagt fram kærur.

Foreldrar tveggja þessara stúlkna segja að þau og dætur þeirra hafi ekki séð myndirnar.

Lögreglan hefur að sögn ekki séð myndirnar.

Fjöldi vefsíðna þar sem hægt er að búa til ljósmyndir með aðstoð gervigreindar eru öllum opnar og ekki er ljóst hvaða síða var notuð til að búa þessar tilteknu myndir til.

Skólastjóri skólans hefur látið foreldra allra 1.900 nemenda við skólann vita af málinu. Mun það hafa verið gert eftir að stúlkurnar sem urðu fyrir barðinu á tiltækinu létu stjórnendur skólans vita.

Skólastjórinn segir í bréfi til foreldra telja að myndunum hafi verið eytt og að þær séu ekki lengur í dreifingu. Málið sé hins vegar alvarlegt og nemendur verði að skilja hvaða skaða tiltæki af þessu tagi geti valdið öðru fólki. Kenna verði nemendum að nýta þessa nýju tækni með ábyrgum hætti.

Ekki er ljóst á þessu stigi hversu margir karlkyns nemendur áttu þátt í að búa fölsuðu nektarmyndirnar til eða hvort þeir hafi verið beittir einhverjum viðurlögum af hálfu skólans.

Fyrr í vikunni undirritaði Joe Biden forseti Bandaríkjanna tilskipun sem felur meðal annars í sér reglur og aðgerðir til að sporna gegn framleiðslu á efni, með aðstoð gervigreindar, sem felur í sér kynferðislega misnotkun á börnum og einnig til að spyrna fótum við framleiðslu á nektarmyndum af raunverulegum einstaklingum án þeirra samþykkis.

Það var New York Post sem greindi frá.

 

Athugasemdir eru á ábyrgð þeirra sem þær skrá. DV áskilur sér þó rétt til að eyða ummælum sem metin verða sem ærumeiðandi eða ósæmileg. Smelltu hér til að tilkynna óviðeigandi athugasemdir.

Fleiri fréttir

Mest lesið

Talaði Trump af sér?

Nýlegt

Pressan
Fyrir 2 dögum

Réðst á ísbjörn til að bjarga konunni sinni

Réðst á ísbjörn til að bjarga konunni sinni
Pressan
Fyrir 3 dögum

Sakamál: Var framið réttarmorð á Rebeccu eða er hún besti lygari í heimi?

Sakamál: Var framið réttarmorð á Rebeccu eða er hún besti lygari í heimi?
Pressan
Fyrir 3 dögum

Þetta er besti morgunmaturinn til að tryggja þér orku allan daginn

Þetta er besti morgunmaturinn til að tryggja þér orku allan daginn
Pressan
Fyrir 3 dögum

Heilinn getur skilið skrifaða setningu á „augabragði“

Heilinn getur skilið skrifaða setningu á „augabragði“
Pressan
Fyrir 4 dögum

Þetta finnst þjónum dónaleg hegðun gesta

Þetta finnst þjónum dónaleg hegðun gesta
Pressan
Fyrir 4 dögum

Næringarfræðingar ráðleggja fólki að borða þetta ekki með banana

Næringarfræðingar ráðleggja fólki að borða þetta ekki með banana