photosince/Shutterstock @bella_noche_/TikTok (Engedélyezett) Remix Caterina Rose
„Ez ijesztő”: Egy nő szerint a Canva mesterséges intelligenciája „rasszista”, miután fényképeket kért gyerekekről bokamonitoron
– Ahogy leesett az állkapcsom…
A Canva mesterséges intelligenciáját rasszizmussal vádolják, miután egyik felhasználója gyerekeket kért bokamonitorban. Állítólag a bot csak fekete fiúkról készített képeket.
A TikToker Bellanoche (@Bella_noche_) a közösségi médiában hívta fel a céget egy most vírusos videóban, amelyet a megjelenés időpontja óta több mint 728 100 megtekintés és több mint 127 500 kedvelés gyűjtött össze.
„A @Canva a mesterséges intelligencia eszköze rasszista” – olvasható a képernyőn megjelenő feliratban.
A nő azt mondta, hogy a szoftver segítségével képeket készített „egy fiatalkorú vádlott bokafigyelőjéről”. Azt mondta azonban, hogy a keresés több verziójának kipróbálása után az AI csak egy faj fiúiról készített képeket.
„Minden alkalommal fekete kisfiúkról kaptam képeket” – állította.
A tartalomkészítő elmondta, hogy szerinte a mesterséges intelligencia gyakran rasszista, de mégis meglepte a Canva mesterséges intelligenciájával kapcsolatos tapasztalata.
„Most 12 különböző képet lőttek ki belőlem, amelyek csak fekete gyerekek, és nem írtam le vagy kértem fekete gyereket” – mondta.
A képekre példákat mutattunk be a klipben.
„Akkor vajon miért démonizálják a fekete kisfiúkat, miért lövik le őket fehér társaik” – folytatta. – Ez azért van, mert egészen kicsi koruk óta gazemberek.
Videóját azzal zárta, hogy megkérte a Canvát, hogy magyarázza el az algoritmusát.
A megjegyzések részben sokan megosztották saját aggodalmukat a rasszista technológiával és algoritmusokkal kapcsolatban.
„Valójában csak arról tanultam, hogy a számítógépes programozás mennyire diszkriminatív az egyik főiskolai órámon” – írta Tate felhasználó.
„Van egy TED-előadás valami hasonlóról. Például a Snapchat arcszkenneléséről beszélnek” – tette hozzá egy másik néző.
Nem ez az első alkalom, hogy AI képgeneráló szoftvert rasszizmussal vádolnak. A jobboldaliak a Google-t vádolták AI Gemini hogy nem hajlandó elismerni a fehér emberek létezését. Az egyik fogyatékosságvédő azt mondta, hogy az AI rasszista, miután generált fényképeket kért autista személy ”, és a megjelenített képek túlnyomó többsége fehér férfiakról készült.
Az AI egy hatékony eszköz, de nem hibátlan. Mesterséges intelligencia szoftver hibázik és korlátai vannak .
A Daily Dot megkereste a Canvát e-mailben, és a Bellanoche-t a TikTok megjegyzésében további információért.
Az internet kaotikus – de ezt egy napi e-mailben lebontjuk Önnek. Iratkozzon fel a Daily Dot web_crawlr hírlevelére itt hogy az internet legjobb (és legrosszabb) része közvetlenül a postaládájába kerüljön.
