fbpx
Sunnudagur 28.apríl 2024
Pressan

Nektarmyndir búnar til með gervigreind valda uppnámi í skóla

Pressan
Fimmtudaginn 2. nóvember 2023 17:30

Westfield í New Jersey en dreifing falsaðra nektarmynda af unglingsstúlkum skekur nú bæinn/Wikimedia

Ekki missa af Helstu tíðindum dagsins í pósthólfið þitt

Lesa nánar

Ljósmyndir sem búnar eru til með gervigreind og sýna kvenkyns nemendur skóla í New Jersey í Bandaríkjunum á klámfengin hátt og var dreift af karlkyns nemendum hafa valdið gríðarlegu uppnámi meðal foreldra og komið af stað lögreglurannsókn.

Skólinn er á því skólastigi sem kallast high school í Bandaríkjunum en í slíkum skólum eru nemendur yfirleitt á aldrinum 14-18 ára.

Umræddur skóli er í bænum Westfield en meðal árstekjur í bænum eru um fjórfalt hærri en meðal árstekjur á landsvísu í Bandaríkjunum.

Nemendur segja að einn eða fleiri karlkyns nemendur hafi notað gervigreindina til að búa myndirnir til og síðan dreift þeim meðal annarra nemenda.

Málið laut dagsins ljós þegar hópur karlkyns nemenda á öðru ári í skólanum hafði þótt haga sér undarlega. Kvenkyns samnemendur þeirra fóru að spyrja spurninga og loks sagði einn úr hópnum hvað væri á seyði. Að minnsta kosti einn karlkyns nemandi hafði notað myndir af stúlkum í nemendahópnum sem hann fann á internetinu til að búa fölsuðu nektarmyndirnar til og nýtti gervigreind til þess. Nemandinn deildi síðan afurðunum með öðrum drengjum í nemendahópnum í hópspjalli.

Stúlkunum var tjáð af stjórnendum skólans að drengirnir hefðu borið kennsl á þær á þessum fölsuðu nektarmyndum.

Óttast um framtíð dóttur sinnar

Móðir 14 ára stúlku sem er nemandi í skólanum segir að dóttur sinni hafi verið tjáð af stjórnendum skólans að mynd af henni hafi verið notuð til að búa til nektarmynd af þessu tagi.

Móðirinn segist dauðhrædd um að myndin fari í almenna dreifingu. Dóttir sín eigi bjarta framtíð fyrir höndum og það sé ekki hægt að ábyrgjast að falsaða myndin muni ekki hafa áhrif á starfs- og námsferil hennar sem og félagslíf. Hún segist ekki kæra sig um að dóttir sín gangi í skóla með neinum sem hafi tekið þátt í að búa til myndirnar og hefur lagt fram kæru hjá lögreglu.

Alls hafa foreldrar fjögurra stúlkna lagt fram kærur.

Foreldrar tveggja þessara stúlkna segja að þau og dætur þeirra hafi ekki séð myndirnar.

Lögreglan hefur að sögn ekki séð myndirnar.

Fjöldi vefsíðna þar sem hægt er að búa til ljósmyndir með aðstoð gervigreindar eru öllum opnar og ekki er ljóst hvaða síða var notuð til að búa þessar tilteknu myndir til.

Skólastjóri skólans hefur látið foreldra allra 1.900 nemenda við skólann vita af málinu. Mun það hafa verið gert eftir að stúlkurnar sem urðu fyrir barðinu á tiltækinu létu stjórnendur skólans vita.

Skólastjórinn segir í bréfi til foreldra telja að myndunum hafi verið eytt og að þær séu ekki lengur í dreifingu. Málið sé hins vegar alvarlegt og nemendur verði að skilja hvaða skaða tiltæki af þessu tagi geti valdið öðru fólki. Kenna verði nemendum að nýta þessa nýju tækni með ábyrgum hætti.

Ekki er ljóst á þessu stigi hversu margir karlkyns nemendur áttu þátt í að búa fölsuðu nektarmyndirnar til eða hvort þeir hafi verið beittir einhverjum viðurlögum af hálfu skólans.

Fyrr í vikunni undirritaði Joe Biden forseti Bandaríkjanna tilskipun sem felur meðal annars í sér reglur og aðgerðir til að sporna gegn framleiðslu á efni, með aðstoð gervigreindar, sem felur í sér kynferðislega misnotkun á börnum og einnig til að spyrna fótum við framleiðslu á nektarmyndum af raunverulegum einstaklingum án þeirra samþykkis.

Það var New York Post sem greindi frá.

 

Athugasemdir eru á ábyrgð þeirra sem þær skrá. DV áskilur sér þó rétt til að eyða ummælum sem metin verða sem ærumeiðandi eða ósæmileg. Smelltu hér til að tilkynna óviðeigandi athugasemdir.

Fleiri fréttir

Mest lesið

Nýlegt

Pressan
Fyrir 4 dögum

Ólýsanleg sjón blasti við 10 ára dreng þegar hann vaknaði – Allir í fjölskyldunni látnir

Ólýsanleg sjón blasti við 10 ára dreng þegar hann vaknaði – Allir í fjölskyldunni látnir
Pressan
Fyrir 4 dögum

Harmleikur í Svíþjóð – Tvö börn fundust látin

Harmleikur í Svíþjóð – Tvö börn fundust látin
Pressan
Fyrir 4 dögum

Sanna sagan á bak við Netflixþættina Baby Reindeer sem hafa slegið í gegn – Hvað varð um Richard og Mörthu og hver er hin raunverulega Martha?

Sanna sagan á bak við Netflixþættina Baby Reindeer sem hafa slegið í gegn – Hvað varð um Richard og Mörthu og hver er hin raunverulega Martha?
Pressan
Fyrir 4 dögum

„Hefurðu séð lík?“ – 14 ára stúlka myrti móður sína og bauð vinkonu heim til að sjá líkið

„Hefurðu séð lík?“ – 14 ára stúlka myrti móður sína og bauð vinkonu heim til að sjá líkið
Pressan
Fyrir 5 dögum

Leynidagbók grunnskólakennarans kom upp um níðingsverk hennar

Leynidagbók grunnskólakennarans kom upp um níðingsverk hennar
Pressan
Fyrir 5 dögum

„Ósigrandi“ stúlknalið fór ósigrað í gegnum tímabilið í „strákadeildinni“

„Ósigrandi“ stúlknalið fór ósigrað í gegnum tímabilið í „strákadeildinni“