Šis jaunais sejas maiņas AI ir biedējoši reāls

Realitātes beigas ir nenovēršamas.

Šis jaunais sejas maiņas AI ir biedējoši reāls

Ar mākslīgo intelektu darbināma sejas maiņas tehnoloģija satricināja internetu debitēja pagājušajā gadā Siggraph, ikgadējā datorgrafikas konferencē. Videoklipi, kas pazīstami kā dziļi viltojumi, ātri kļuva par vēl strīdīgāku un sāpīgāku parādību, jo cilvēki izmantoja algoritmu, lai izveidotu porno video izmantojot nevēlētu slavenību vai privātpersonu sejas. Pat ja gadījuma rakstura artefakts atklāja viltus, bija skaidrs, ka tehnoloģija ir nojaukusi sienu starp daiļliteratūru un realitāti.

Tagad jauna tehnoloģiju atkārtošana, ko sauc Dziļi video portreti tehnoloģija, debitē šī gada augustā Siggraph konferencē. Septiņu minūšu video, kas pievienots dokumentam un kas šonedēļ tika augšupielādēts pakalpojumā YouTube, parāda, kā aizvadītais pētījumu gads ir novirzījis šādas tehnoloģijas uz realitāti satricinošu jaunu līmeni.

Kad jums ir izdevies aizvērt muti, dažas minūtes apsveriet tikko redzēto. Heck, atskaņojiet to vēlreiz. Ja nepieciešams, divreiz.



Stenfordas komanda aiz dokumenta saka, ka izcilais reālisms viņu darbā tiek panākts, rūpīgi apmācot pretiniekus, un rezultātā [viņi] var izveidot modificētus mērķauditorijas videoklipus, kas atdarina sintētiski radītās informācijas uzvedību. Lai pilnībā kontrolētu mērķa videoklipu, pētnieki pilnībā atveido sintētisku personu, kā arī fonu. Viņi apgalvo, ka var veikt jebkāda veida parametru rekombināciju, piemēram, mainīt sākotnējās personas darbības vai pilnībā mainīt sejas, nemodelējot matus, ķermeni vai fonu. Citiem vārdiem sakot, AI visu parūpējas pats.

Viņu filma Siggraph 2018 šķiet patiesi neatšķirama no realitātes: no smalkas un dabiskas sejas izteiksmes izmaiņas, līdz neticamam varoņdarbam, lai automātiski panāktu dabisku 3D kustību, līdz tam, ka subjekta rumpji tagad lieliski atbilst viņu galvas kustībām. Programmatūra var arī automātiski rekonstruēt katra videoklipa fonu un pat projicēt tam reālu ēnu, lai apmānītu acis. Tas ir tehnoloģisks varoņdarbs, kas man liek justies, ka mēs esam liecinieki cilvēces paradigmas maiņai.

Patiešām, kā rakstīja Marks Vilsons CoDesign agrāk šajā gadā, realitātes beigas tagad jūtas patiešām nenovēršami. Mēs esam uz sliekšņa, lai pilnībā atjaunotu to, kā mēs saprotam kustīgo attēlu. Iepriekš mēs izmantojām videokaseti kā fakta pierādījumu - vai tas liecināja, ka kāds izdara noziegumu, vai politiķis vienkārši sniedz paziņojumu. Dziļi video portreti var būt priekšpēdējais solis, lai iznīcinātu kādreiz neapstrīdamo video patiesību. To labot, vai nu ar juridiskiem noteikumiem, vai ar kriminālistiku, šķiet gandrīz neiespējami. Tāpat kā jebkura cita programmatūra, tās izplatīšana un lietošana ir neapturama.

Deepfakes, anonīmais Redditor, kurš izveidoja kodu, kas noveda pie videoklipu izplatīšanas pagājušajā gadā, runāja ar CoDesign par viņu prognozēm par programmatūru martā. Pēc viņu domām, to nav iespējams apturēt. Vienīgais, ko mēs varam darīt, ir vairot izpratni par šīs tehnoloģijas esamību: pirmkārt, algoritms ir ļoti, ļoti viegli saprotams, un es neredzu iemeslu to slēpt, tolaik sacīja Deepfakes. Kāds cits agrāk vai vēlāk atradīs līdzīgu risinājumu. Otrkārt, labāk ir ļaut sabiedrībai zināt, ka šie algoritmi pastāv, ļaut cilvēkiem zināt, kā šie algoritmi darbojas. Šīs informācijas slēpšana man šķiet amorāla.

Vienīgā problēma ir tā, ka zināšana par to neko nemaina. Ja jūs nevarat uzticēties tam, ko redzat, kā jūs varat veidot pasaules uzskatu? Es baidos, ka pretestība ir veltīga. Vienkārši pagatavojiet popkornu un izbaudiet braucienu uz elli.