Samantha Smith blaðamaður segir í viðtali við BBC að henni hafi fundist hún „afmennskuð og breytt í kynferðislega staðalímynd“ eftir að gervigreindarforritið Grok, sem er í eigu og þróað af Elon Musk, var notað til að fjarlægja föt hennar stafrænt. Því leit þannig út að konan hefði upphaflega birt nektarmyndir af sér.
Á samfélagsmiðlinum X má sjá fjölmörg dæmi þar sem notendur biðja forritið um að afklæða konur til að láta þær birtast í bikiníum án samþykkis þeirra, sem og að setja þær í kynferðislegar aðstæður.
XAI, fyrirtækið á bak við Grok, svaraði ekki beiðni BBC vegna fréttarinnar fyrir utan sjálfvirkt svar þar sem fram kom „lygar frá fjölmiðlum“.
Smith deildi færslu á X um að mynd hennar hefði verið breytt, og skrifuðu aðrir í athugasemd um sömu reynslu, meðan aðrir báðu Grok um að búa til fleiri myndir af Smith.
„Konur eru ekki að samþykkja þetta,“ sagði hún. „Þrátt fyrir að ég hafi ekki birt nektarmynd af mér, þá lítur út eins og ég hafi gert það og þetta brýtur jafnmikið gegn mér eins og ef einhver hefði í raun birt nektarmynd af mér.“
Talsmaður breska innanríkisráðuneytisins sagði að verið væri að setja lög til að banna forrit af þessum toga og samkvæmt nýjum refsiákvæðum myndi hver sem útvegaði slíka tækni eiga yfir höfði sér fangelsi og háar sektir.
Eftirlitsaðilinn Ofcom sagði að tæknifyrirtæki yrðu að „meta áhættuna“ á því að fólk í Bretlandi skoði ólöglegt efni í kerfum sínum, en staðfesti ekki hvort það væri nú að rannsaka X eða Grok í tengslum við gervigreindarmyndir.
Grok er ókeypis gervigreindarforrit, þar sem hægt er að greiða fyrir aukanotkunarmöguleika, sem bregst við fyrirmælum X-notenda þegar þeir merkja það í færslu. Forritið er oft notað til að gefa viðbrögð eða meira samhengi við athugasemdir annarra sem senda inn færslur, en fólk á X getur einnig breytt upphlaðinni mynd í gegnum gervigreindarmyndvinnsluaðgerðina.
Forritið hefur verið gagnrýnt fyrir að leyfa notendum að búa til myndir og myndbönd með nekt og kynferðislegu efni og það var áður sakað um að búa til kynferðislega gróft myndskeið af bandarísku tónlistarkonunni Taylor Swift.
Clare McGlynn, lögfræðiprófessor við Durham-háskóla, sagði að X eða Grok „gætu komið í veg fyrir þessar tegundir misnotkunar ef það vildi“ og bætti við að það „virðist njóta refsileysis“. „Vettvangurinn hefur leyft gerð og dreifingu þessara mynda í marga mánuði án þess að grípa til neinna aðgerða og við höfum enn ekki séð neinar áskoranir frá eftirlitsaðilum,“ sagði hún.
Samkvæmt eigin reglum XAI um ásættanlega notkun er „að sýna líkindi fólks á klámfenginn hátt“ bannað.
Í yfirlýsingu til BBC sagði Ofcom að það væri ólöglegt að „búa til eða deila kynferðislegum myndum eða efni sem sýnir kynferðislegt ofbeldi gegn börnum án samþykkis“ og staðfesti að það ætti einnig við um kynferðislegar eftirlíkingar sem búnar voru til með gervigreind.
Þar kom fram að miðlar eins og X væru skyldugir til að grípa til „viðeigandi ráðstafana“ til að „draga úr hættu“ á að breskir notendur rekist á ólöglegt efni á miðlum sínum og fjarlægja það fljótt þegar þeir verða varir við það.
