Podľa vedenia Facebooku zlyhala umelá inteligencia, ktorá má na starosti odporúčania obsahu.
Facebook sa ospravedlnil za incident, v rámci ktorého umelá inteligencia nesprávne označila video černochov s prívlastkom „primáty“. Sociálna sieť označila túto chybu ako neprijateľnú, pričom sa okamžite začalo skúmať, prečo k tomu došlo, aby sa zabránilo ďalšiemu opakovaniu.
Ako uvádza denník – New York Times , používatelia, ktorí si pozreli video z 27. júna zverejnené britským bulvárnym denníkom Daily Mail, dostali automatickú výzvu s otázkou, či chcú „naďalej pozerať videá o primátoch“. Následne spoločnosť Facebook deaktivovala celú funkciu odporúčania tém, povedal hovorca spoločnosti v e-maile pre The Verge .
„Toto bola zjavne neprijateľná chyba,“ dodal hovorca. Spoločnosť vyšetruje príčinu, aby zabránila opakovaniu takéhoto správania umelej inteligencie. „Ako sme už povedali, aj keď sme našu AI vylepšili, tak vieme, že nie je dokonalá, a máme pred sebou ďalší pokrok.“ Ospravedlňujeme sa každému, kto mohol vidieť tieto urážlivé odporúčania.“
Tento incident je len najnovším príkladom nástrojov umelej inteligencie, ktoré ukazujú na rodovú alebo rasovú zaujatosť, pričom sa ukázalo, že nástroje rozpoznávania tváre majú osobitný problém v nesprávnej identifikácii ľudí s odlišnou farbou pleti. V roku 2015 sa Google ospravedlnil po tom, čo jeho aplikácia Fotky označila fotografie černochov ako „gorily“. V minulom roku Facebook uviedol, že skúma, či sú jeho algoritmy trénované pomocou AI – vrátane algoritmov Instagramu, ktorý Facebook vlastní – rasovo zaujaté.
Americká federálna obchodná komisia v apríli varovala, že nástroje AI, ktoré preukázali „znepokojujúce“ rasové a rodové predsudky, môžu byť v rozpore so zákonmi o ochrane spotrebiteľa, ak sa používajú na rozhodovanie o úvere, bývaní alebo zamestnaní. „Zodpovedajte sa – alebo buďte pripravení, že to FTC urobí za vás,“ napísala zástupkyňa FTC, Elisa Jillson, v príspevku na webovej stránke agentúry.
Zdroj: theverge.com
Prečítajte si aj:
