Gyapotot szedő feketék, ikertornyokba repülő futballisták – súlyos gondok Elon Musk AI-modelljével?

December óta egyre elterjedtebbek az X felületén a közösségi oldal chatbotja, a Grok által generált képek. A Signify nevű szervezet, amely kiemelkedő sportegyesületekkel és klubokkal dolgozik együtt az online gyűlölet nyomon követése és jelentése érdekében, nemrég közölte, hogy a generatív AI legutóbbi frissítése óta megnőtt a visszaélésekről szóló jelentések száma, és ahogy egyre fotorealisztikusabb képeket gyártanak az AI modellek, ez a szervezet szerint csak egyre gyakoribb lesz.

A 2023-ban útjára indult Grok nemrégiben bővült az Aurora nevű text-to-image funkcióval, amellyel, hasonlóan például a ChatGPT-ben található DALL-E-hoz, egyszerű szöveges utasításokkal készíttethetünk képeket a chatbottal. A Guardian megemlíti, hogy ennek egy korábbi, jóval kevésbé fejlett verziója, a Flux annak idején nagy botrányt kavart, mivel szerzői jogvédelem alatt álló közszereplőket és karaktereket is képes volt igen kompromittáló helyzetekben ábrázolni, például ahogy épp erőszakos cselekményt követnek el vagy kábítószert fogyasztanak.

Azonban úgy tűnik, hogy az Aurora sem kíméletesebb: jelentések szerint több fotorealisztikus és rasszista képet is készítettek a segítségével futballjátékosokról és menedzserekről, például egy fekete bőrű játékosról, amint éppen gyapotot szed vagy banánt eszik a majmok között.

De olyan képek is elterjedtek, amelyeken szintén ismert futballjátékosok egy pilótaként ülnek egy repülőgép fülkéjében, a háttérben az ikertornyokkal.

Megint más fotókon azt látni, ahogy a futballjátékosok többek között Adolf Hitlerrel, Szaddám Husszeinnel vagy Oszama bin Ladennel találkoznak.

A szakértők szerint a fő aggály nem is abban rejlik, hogy a felhasználók kevés korlátozást kapnak arra vonatkozóan, hogy mit kérhetnek a chatbottól a képek készítésekor, hanem az, hogy a kérések könnyen megkerülhetik a mesterséges intelligenciára irányelveket.

Egy nyáron készült jelentésében a CCDH arra a megállapításra jutott, hogy amikor gyűlöletkeltő tartalmakat jelentettek, akkor azokat 80 százalékban a Grok hozta létre, 30 százalékukat ellenállás nélkül, 50 százalékukat úgy, hogy az irányelveket ügyesen megkerülték a felhasználók.

Tavaly februárban szintén a megkérdőjelezhető etikusságú generált képek miatt a Google kénytelen volt lelőni ezt a funkciót a Gemini rendszerében, ami azonban azóta már nem csak a képgenerátorában mutatkozott megkérdőjelezhetőnek. Néhány hónapja ugyanis maga a chatbot valakinek a halálát kívánta.