Vaizdas rodo ugnies stulpą ir giliai juodų dūmų bangas po bombos sprogimo Kijevo centre. Naujienų istorija, kurią tariamai atkeliavo iš CNN, kelia nerimą dėl daugybės dronų stebėjimų, sukeliančių bendruomenės paniką Sirakūzuose, Niujorke.
Be jų patikimumo besikeičiančiais ir neaiškiais laikais, šie žiniasklaidos pranešimai yra bendra tai, kad jie yra visiškai netikri: Sirakūzų universiteto Sintetinės medijos laboratorijos kompiuteriniai produktai.
Mokykla nenaudoja šių padirbinių, kad apgautų Amerikos visuomenę, kaip to siekia daugelis priešiškų užsienio veikėjų; jie naudoja juos kurdami įrankius, kurie padės organizacijoms, įskaitant JAV kariuomenę, atskirti tiesą nuo apgaulės. Ir jie tai daro padedami kai kurių mokyklos Atsargos karininkų rengimo korpuso kariūnų.
Mokyklos darbas prasidėjo 2020 m., kai SI Newhouse School of Public Communications gavo 830 958 USD vertės subrangos sutartį iš DARPA, kad sukurtų kovos su netikrų naujienų plitimu priemones. Nuo tada darbas išsiplėtė ir tęsėsi, nors fakulteto nariai teigė negalintys pateikti daug informacijos apie savo darbo apimtį ar remiamą DoD subjektą.
Dirbtinio intelekto technologinė revoliucija padidino iššūkius ir sprendimų poreikį, sakė Jasonas Davisas, mokyklos mokslinis profesorius ir vienas iš pagrindinių giliųjų padirbinėjimo pastangų tyrėjų.
„Įvyko DI akimirka, ir mes pasakėme: o, gerai, taigi mes ne tik žmonės, kuriantys tokią informaciją“, – sakė jis. „Su dirbtiniu intelektu ir dideliais kalbų modeliais bei vaizdų generatoriais yra automatizavimas ir mastas, kurie tiesiog keičia visą aplinką, kaip tai gali atsitikti.
„Taigi mes įgijome įgūdžių, įveikėme tą laukinę, žinote, didelių kalbų modelių generavimo ir sintetinio AI generuojamo turinio bangą. Kaip mes kuriame turinį automatizuotu būdu? Kaip mes, kaip žmonės, sąveikaujame su tais įrankiais ir kaip modeliuojame tą naują grėsmę, taip pat tradicinę, įprastą grėsmę? Ir tada toliau tobulinome savo galimybes.
Dabar, pasak pagrindinės tyrėjos Reginos Luttrell, „Newhouse“ vyresniosios asocijuotosios dekanės, laboratorijoje yra daugiau nei 20 įrankių, padedančių aptikti ir sukurti padirbtą klastotę, kad būtų galima toliau tirti ir nustatyti skirtumus tarp sintetinių ir autentiškų laikmenų.
ROTC studentai prisijungė prie darbo maždaug 2021 m., Davis sakė, kai susisiekė su ROTC programa ir paaiškino jiems darbą. ROTC kohortos visada buvo nedidelės – dabartinė yra tik trys studentai, sakė dėstytojai, – tačiau darbas ne tik prasmingas, bet ir naudingas ateities karjeroje. Du iš keturių pirmosios kohortos studentų gavo pirmojo pasirinkimo užduotis atlikti karinius kibernetinius vaidmenis, sakė Davisas.
„Suteikėme jiems įgūdžių, kad jie galėtų eiti ir būti iš karto naudingi juos dominančiai apsaugos tarnybai, todėl tai buvo labai naudinga jiems ir apsaugos tarnybai“, – sakė jis. „Taigi dabar esame antroje studentų grupėje ir tikimės, kad tai tęsis ir, jei galėsime, plėsti.
Vienas iš dabartinių kariūnų, 20-metis Glennas Milleris, vadovauja konkrečiai programai, orientuotai į giliųjų padirbtų vaizdo įrašų aptikimą, siekiant sukurti įrankius, leidžiančius nustatyti, ar kas nors nenaudoja veido keitimo ar kito tapatybės maskavimo mechanizmo vaizdo skambučio metu.
Milleris, norintis įstoti į armiją kaip inžinierius, sakė, kad šiuo metu savo kompiuteriniam modeliui pateikia daugybę vaizdo įrašų, kuriuose užfiksuotas jis pats, tikėdamasis sukurti veiksmingą „aš detektorių“, kurio neapgautų skaitmeniniai klastotės. Tai sudėtingas darbas ir turi būti atliktas kartu su kitais prioritetais, įskaitant ROTC įsipareigojimus ir klasės darbą, tačiau jis taip pat jau mato, kaip darbas turės įtakos jo būsimai karinei karjerai.
„Manau, kad (AI) tikrai bus labai svarbus mūsų supratimui ir kariuomenės informacijos supratimui“, – sakė jaunesnysis Milleris, baigęs studijas 2027 m. „Manau, kad būtent čia tai bus svarbiausia, kaip jį iššifruoti arba kaip žmonės gali iššifruoti informaciją, kad ji būtų tokia, kokia ji iš tikrųjų yra, ir tos informacijos kokybės nustatymas yra tai, kur AI bus labai svarbus ateityje.
Pagal dabartinius susitarimus laboratorija bendradarbiauja su DoD bent dvejus ateinančius metus, sakė fakulteto nariai. Darbe, kuriam dabar teikiama pirmenybė, pagrindinis dėmesys skiriamas žmonių pasitikėjimo dirbtinio intelekto agentais ir įrankiais, su kuriais jie dirba, kūrimui, pavyzdžiui, tikrinimų ir apsaugos priemonių kūrimas, siekiant užtikrinti, kad pokalbių robotas, padedantis apsipirkti internetu, nėra kenkėjiškas agentas, bandantis pavogti jų duomenis ir juos apgauti.
Davisas sakė, kad užduočių vykdytojai iš kariuomenės taip pat padeda apsaugoti tyrėjus nuo „persekioti drugelius“ tarp plačių ir konkuruojančių paklausos signalų.
„Kai kuriomis dienomis man tai yra tarsi jutimo perkrovos erdvė, tačiau turint omenyje šią svarbią misiją ir tuos aukšto prioriteto taikinius, gaunamus iš DoD… tai tikrai suteikia mums puikų tašką, į kurį galime sutelkti dėmesį“, – sakė jis. „Ir tai, tiesą sakant, mes ir toliau naudosime kaip gaires, ką turėtume dirbti toliau.
