Samfélagsmiðillinn Twitter er nú harðlega gagnrýndur fyrir meintan rasisma en algórithmi sem miðillinn notar til að framkalla sýnishorn af myndum sem á miðlinum hafa verið deilt virðist kjósa að sýna frekar hvíta einstaklinga heldur en svarta.

Nokkrir tístarar hafa bent á þetta vandamál undanfarna daga.

Toni Arcieri vakti athygli á tilraun sem hann gerði á Twitter. „Ég er að gera hryllilega tilraun. Hvort mun Twitter algórithminn velja : Mitch McConnell eða Barack Obama?“

McConnell er forseti öldungadeildar Bandaríkjaþings og er hvítur en Barack Obama er fyrrverandi forseti Bandaríkjanna og er svartur.

Trying a horrible experiment…

Which will the Twitter algorithm pick: Mitch McConnell or Barack Obama? pic.twitter.com/bR1GRyCkia

— Tony “Abolish (Pol)ICE” Arcieri 🦀 (@bascule) September 19, 2020

Eins og sést hér að ofan valdi Twitter McConnell frekar en Obama og skipti þá engu hvor þeirra var í efri mynd eða neðri.

Einhverjir bentu þá Tony á að það gæti verið bindið sem gerði útslagið. „Það er rauða bindið. Greinilega er algórithminn hrifnari af rauðum bindum. Látum okkur nú sjá..“

"It's the red tie! Clearly the algorithm has a preference for red ties!"

Well let's see… pic.twitter.com/l7qySd5sRW

— Tony “Abolish (Pol)ICE” Arcieri 🦀 (@bascule) September 19, 2020

Bindið skipti engu

Greinilega skipti bindið ekki máli. Enn varð McConnell fyrir valinu. Er Tony prufaði þó að umsnúa litum myndanna – þá valdi algórithminn þá mynd sem var neðar, enda var þá litamunurinn á þeim McConnell og Obama ekki eins áberandi.

Let's try inverting the colors… (h/t @KnabeWolf) pic.twitter.com/5hW4owmej2

— Tony “Abolish (Pol)ICE” Arcieri 🦀 (@bascule) September 19, 2020

Annar notandi, Jack Philipsson, prufaði svo að hafa fleiri myndir af Obama en McConnell – en það skipti engu.

I wonder what happens if we increase the number of Obamas. pic.twitter.com/sjrlxjTDSb

— Jack Philipson (@Jack09philj) September 19, 2020

Zoom afhöfðar 

Twitter er ekki eini vettvangurinn sem glímir við þetta vandamál, annar notandi á Twitter benti á að kollegi hans, sem er svartur, hafi ítrekað lent í því að fundaforritið Zoom neiti að sýna andlit hans.

„Starfsmaður er búinn að vera að spyrja mig hvernig hann geti fengið Zoom til að hætta að afhausa hann þegar hann notar stafrænan bakgrunn. Við stungum upp á hefðbundna bakgrunninum og góðri lýsiningu, en það breytti engu. Ég var á fund með honum í dag þegar ég gerði mér grein fyrir því hvers vegna þetta gerðist. Getið þið giskað á hvað?“

any guesses? pic.twitter.com/9aIZY4rSCX

— Colin Madland (@colinmadland) September 19, 2020

Þetta á heldur ekki bara við um mannfólk heldur einnig teikninmyndir.

I wonder if Twitter does this to fictional characters too.

Lenny Carl pic.twitter.com/fmJMWkkYEf

— Jordan Simonovski (@_jsimonovski) September 20, 2020

Málið verður skoðað

Starfsmaður úr samskiptateymi Twitter tísti um helgina að fyrirtækið væri búið að prófa algórithmann og að við prófun hafi ekki fundist neitt sem benti til undirliggjandi rasisma.

„Ég vil þakka öllum fyrir sem vöktu athygli á þessu. Við höfum prófað kerfið fyrir rasisma og gerðum það áður en við hófum notkun á því en fundum engin merki um mismunun á grundvalli kyns eða kynþáttar. En það er ljóst af þessu að við þurfum að ráðast í frekari greiningarvinnu“

thanks to everyone who raised this. we tested for bias before shipping the model and didn't find evidence of racial or gender bias in our testing, but it’s clear that we’ve got more analysis to do. we'll open source our work so others can review and replicate. https://t.co/E6sZV3xboH

— liz kelley (@lizkelley) September 20, 2020