HTCinside


Microsoft napoveduje Video Authenticator za prepoznavanje Deepfake

Za boj proti širjenjugloboki ponaredkiMicrosoft je izdal novo orodje za preverjanje pristnosti videa, ki ga je mogoče uporabiti za analizo fotografije ali videoposnetka, da se določi odstotek verjetnosti, da je bil medij umetno spremenjen.

V primeru videoposnetka je Microsoft izjavil, da bi lahko ta odstotek zagotovili v realnem času za vsak okvir med predvajanjem videoposnetka. Zazna linijo mešanja globokih, subtilnih sivin ali bledečih elementov, ki morda niso vidni človeškemu očesu.

Deepfakes ali sintetični mediji so lahko fotografije, videoposnetki ali zvočne datoteke, ki jih obdeluje umetna inteligenca (AI). Odkrivanje globokih ponaredkov ključnega pomena za prihajajoče volitve v ZDA, pravi Microsoft.

Tehnologija je bila ustvarjena z uporabo javnega nabora podatkov podjetja Face Forensic ++. Microsoft je dejal, da je bil testiran z naborom podatkov DeepFake Detection Challenge, ki naj bi bil vodilni model. za usposabljanje in preizkušanje prihajajočih tehnologij za odkrivanje ponaredkov.

»Predvidevamo, da bodo metode generiranja sintetičnih medijev še naprej vse bolj zapletene. Ker imajo vse metode odkrivanja umetne inteligence stopnje napak, moramo razumeti in biti pripravljeni reagirati na globoko zasidrane ponaredke, ki gredo skozi metode odkrivanja.« je družba zapisala v objavi na blogu.

'Dolgoročno moramo torej iskati močnejše načine za ohranjanje in potrjevanje pristnosti novic in drugih medijev.'



Z nekaj razpoložljivimi orodji je Microsoft predstavil tudi novo tehnologijo, ki lahko zazna spremenjeno vsebino in zagotovi, da je predstavnost, ki jo gledate, pristna.

Tehnologija je sestavljena iz dveh komponent. Prvo je orodje, vgrajeno v Microsoft Azure, ki proizvajalcu vsebine omogoča dodajanje digitalnih zgoščenih vrednosti in potrdil vsebini.

»Zgoščene vrednosti in potrdila živijo z vsebino kot metapodatki, kjer koli je na spletu,« je dejal Microsoft.

Drugi je bralnik, ki ga je mogoče vključiti v razširitev brskalnika, ki preverja potrdila in primerja zgoščene vrednosti z ujemanji, da ugotovi pristnost.

Microsoft je tudi sodeloval z AI Foundation v svojem globokem lažnem boju. Kot del partnerstva bosta obe strani zagotovili video avtentifikatorje organizacijam, vključenim v demokratični proces, vključno z novinarskimi organizacijami in političnimi kampanjami, prek pobude fundacije Reality Defender 2020.

Video overitelj bo sprva na voljo samo prek pobude.

Drugo partnerstvo s konzorcijem medijskih podjetij, znanim kot Project Origin, testira Microsoftovo tehnologijo pristnosti. Pobuda več založnikov in družbenih medijev, Trusted News Initiative, se je prav tako strinjala, da bo sodelovala z Microsoftom pri testiranju njihove tehnologije.

Univerza v Washingtonu, In-House Counterfeit Detection Sensitivity in USA Today so prav tako sodelovali z Microsoftom za izboljšanje medijske pismenosti.

'Z izboljšanjem medijske pismenosti lahko ljudje odpravijo dezinformacije, ki temeljijo na resničnih dogodkih, in obvladujejo tveganja poceni in globokih ponaredkov,' je dejal Microsoft. 'Poznavanje medijev nam lahko vsem omogoči, da kritično razmišljamo o medijskem kontekstu in postanemo bolj angažirani državljani, medtem ko uživamo v satiri in parodiji.'

Kot del tega partnerstva bo potekala kampanja javnega oglaševanja, ki bo ljudi povabila, naj se »ustavijo za razmislek« in preverijo, ali informacije izvirajo iz ugledne novičarske organizacije, preden jih delijo ali promovirajo. na družbenih omrežjih pred volitvami.

Stranke so objavile tudi vprašalnik za ameriške volivce, da bi izvedeli več o sintetičnih medijih.