Chyba AI alebo rasizmus na Instagrame?

Zdá sa, že vygenerovať dvoch ľudí bielej rasy bol pre generátor spoločnosti Meta problém.

Dianie na poli s umelou inteligenciou a generovaní obrázkov sledujeme pozorne. Bezpečnostné mechanizmy neumožňujú vygenerovať akékoľvek obrázky. Avšak to, že sa nepodarí vygenerovať obrázok bieleho muža alebo ženy v blízkosti ázijskej rasy, je prekvapujúce. Na chybu, ktorou bola zasiahnutá spoločnosť Meta, prišiel redaktor z magazínu The Verge. Firma predstavila tieto nástroje na generovanie obrázkov cez AI už minulý rok. V tzv. Direct Messages teda priamych správach na Instagrame sa dá použiť AI generovanie.

Bez bielej rasy

Zdroj, ktorý objavil problémy, informoval o tom, že prostredníctvom priamych správ sa dá na základe príkazov generovať len ázijská rasa. Pokúšal sa vyladiť svoju požiadavku a skúšal rôzne typy príkazov, respektíve požiadaviek na vygenerovanie žiadaného výsledku. Avšak ani po rôznych zmenách sa nepodarilo dosiahnuť, aby na obrázku boli ľudia inej, než ázijskej rasy. Je to zaujímavý úkaz, ktorý sa dá zaradiť do sekcie chýb, nakoľko je zrejmé, že takto by nástroj nemal fungovať. Nepomohlo ani kombinovanie s viacerými osobami.

Pre niekoho by mohlo byť urážlivé, že generátor obrázkov odmieta vytvoriť kombináciu belochov s Ázijcami. Nepomohlo ani upravenie príkazu so zadaním požiadavky na vygenerovanie kaukazskej ženy. Kuriózny prípad pokračoval ďalej tým, že po snahe generovať obrázky s bielou rasou ľudí prestal generovať akékoľvek obrázky úplne. Zobrazilo sa len chybové hlásenie, ktoré znemožňovalo pokračovať v tomto procese.

Nepodarený tréning AI?

V tejto chvíli ešte nie je jasné, čo presne stojí za touto chybou. Môžeme špekulovať o tom, že tréning nástrojov nebol dôsledný, alebo si firma nedokáže predstaviť aziatov v spoločnosti bielych ľudí. V minulosti sme sa stretli aj s inými chybami pri generovaní obrázkov, avšak nie každý sa dá považovať za takto vypuklý.

Ak nástroj tvrdohlavo odmieta vygenerovať bielych ľudí vedľa Aziatov, je skutočne pravdepodobné, že to pobúri veľkú časť obyvateľstva. Na pohľad by sa mohlo javiť, že tréningový model vôbec nepočíta s tým, že ázijskí ľudia si budú blízki s kaukazskými typmi.