Facebook a creat un sistem AI care poate identifica meme-uri ofensatoare, analizându-le precum o persoană reală
-
12 Septembrie 2018 14:41
Sarcină dificilă pentru o rețea de socializare gigant, cum este Facebook, analizarea semnificației fiecărei imagini postate de utilizatori pentru identificarea mesajelor potențial ofensatoare apela până acum la vigilența utilizatorilor de bună credință dispuși să le raporteze manual. Mai departe, o armată de moderatori trebuie să evalueze fiecare imagine raportată, decizând dacă aceasta încalcă sau nu regulile de postare ale rețelei de socializare. În cele mai multe cazuri, vor trece câteva zile până când un o imagine nepotrivită este eliminată în urma raportărilor primite.
Facebook promite să rezolve această problemă cu ajutorul tehnologiilor de inteligență artificială. Sistemul numit Rosetta folosește tehnologii de învățare pentru a identifica elemente text din imagini și clipuri video, care sunt transcrise apoi în formă text obișnuită. Însă recunoașterea textului din imagini nu este ceva nou. Sistemul Rosetta merge cu un pas mai departe, analizând conținutul imaginii și comparând-ul cu textul preluat, încercând să determine semnificația mesajului transmis, scrie Go4it.
Deja funcțional, sistemul extrage conținut text și analizează peste 1 miliard de poze și cadre video în fiecare zi, preluate din rețelele Facebook și Instagram. Momentan, nu este clar la ce vor folosi administratorii Facebook toate datele colectate.
Funcționând ca și „experiență” pentru sistemul AI, datele deja analizate pot ajuta o mai bună identificare a meme-urilor postate de utilizatori, sesizând mesaje subtile care altfel ar scăpa unei analize făcute strict după conținut. O altă posibilitate este ca Facebook să încerce crearea unui rezumat mai sofisticat al utilizatorilor, care să includă subtilități cum ar fi trăsăturile de caracter și interese mai puțin evidente după activitățile desfășurate în mod uzual. La final, observațiile se vor reflecta în conținutul afișat în News Feed. Nu în ultimul rând, Facebook ar putea desluși motivul pentru care anumite meme-uri sunt foarte populare: sunt pur și simplu distractive sau transmit anumite mesaje ofensatoare care lezează imaginea sau interesele altor persoane.
Oficial, Facebook declară că noile filtre AI sunt folosite la identificarea automată a conținutului încadrat la categoria Hate Speech, sistemul recunoscând deja conținut în mai multe limbi.