Gynybos departamento vyriausiasis technologijų pareigūnas sakė, kad dirbtinio intelekto įmonės sukūrė modelius, turinčius ginklavimosi potencialą, todėl jos privalo būti dėmesingos savo sistemoms.
Po neseniai priimto prezidento Donaldo Trumpo vykdomojo įsakymo dėl dirbtinio intelekto naujovių, gynybos sekretoriaus pavaduotojas moksliniams tyrimams ir inžinerijai Emilis Michaelas pareiškė, kad jam nerimą kelia „kibernetinių ginklų“ kategorija, kurią išleidžia įmonės, pavyzdžiui, „Anthropic's Mythos“.
„Šios bendrovės yra atsakingos už tai, kad jų ginklai, tai, ką jie vadina šių modelių ginklavimo potencialu, būtų atsargūs ir apgalvoti, ką daro“, – sakė Michaelas ketvirtadienį „The Washington Post“ inauguraciniame „Building America“ viršūnių susitikime.
Įstatymų leidėjai vis dažniau perspėjo, kad JAV priešininkai nenaudoja dirbtinio intelekto modelių ginklų prieš piliečius, įmones ir vyriausybines agentūras, ragindami į jų kūrimą įtraukti atsparias saugumo priemones, skirtas apsisaugoti nuo įsilaužimų.
Antradienį Baltieji rūmai išleido vykdomąjį įsakymą, kuriuo įsteigiamas „AI kibernetinio saugumo kliringo centras“, per kurį AI pramonės partneriai gali savanoriškai paprašyti Gynybos departamento nuskaityti jų sistemas dėl programinės įrangos spragų prieš jas išleidžiant.
Michaelas teigė, kad įmonės, turinčios modelius su „ginklavimo galimybe“, galėtų leisti federalinei vyriausybei praleisti 30 dienų savo sistemoms tirti. Vyriausybė galėtų visoje šalyje nustatyti pažeidžiamumą sistemose, turinčiose IP, kurios gali būti jautrios įsilaužimams, pvz., elektros tinkluose ar valstybinėse ligoninėse.
„Manau, kad jie visi sutiko ir manau, kad tai yra gera idėja. Tai buvo geras konstruktyvus procesas”, – sakė Michaelas. „Visoms įmonėms, „Open AI“, net „Anthropic“ ir „Google“ dėkoju už tai, kad sutiko, kad tai buvo protingas dalykas.
„Anthropic“ nebuvo sudaryta iš sandorių su Pentagonu, kai įmonė atsisakė leisti neribotai naudotis savo „Claude“ modeliais, skirtais visiškai autonominiams ginklams ir masiniam vidaus stebėjimui.
Bendrovė padavė Trumpo administraciją į teismą dėl to, kad federalinė vyriausybė įvardijo įmonę kaip tiekimo grandinės riziką dėl jos sprendimo apriboti kariuomenės naudojimąsi savo technologijomis.
Naujasis „Anthropic“ modelis „Mythos“ sulaukė kritikos, nes programos skeptikai pabrėžia, kad ji gali kelti pavojų dėl įsilaužimo ir kibernetinio saugumo galimybių. Anthropic peržiūrėjo modelį ir paskelbė, kad jis gali rasti būdų, kaip išnaudoti programinės įrangos spragas.
Tuo tarpu DoD visame skyriuje integravo AI.
Kai viršūnių susitikime buvo užduotas klausimas apie vyriausybės AI naudojimą, Michaelas sakė, kad prieš šešis mėnesius dirbtinio intelekto naudotojai buvo tik apie 80 000 federalinių darbuotojų kiekvieną mėnesį. Tačiau dabar yra 1,5 mln., sakė jis, sakydamas, kad vyriausybė „lenktyniavo“, kad padidintų darbuotojų naudojimą efektyvumui, žvalgybai ir karui.
„Manau, kad iki šių metų pabaigos būčiau sukrėstas, jei trys ketvirtadaliai departamento kokiu nors būdu nenaudotų dirbtinio intelekto“, – sakė Michaelas. „Per pastaruosius kelis mėnesius integravome visas didžiausias dirbtinio intelekto įmones, todėl per vienerius metus padarysime daugiau pažangos nei prieš penkerius metus.
Cristina Stassis yra reporterė, pasakojanti istorijas apie gynybos pramonę, nacionalinį saugumą, karinius / veteranų reikalus ir kt. Anksčiau ji dirbo „Defense News“ redaktore 2024 m., kur padėjo naujienų skyriui skelbti „Sightline Media Group“ naujienas.
