Dirbtinis intelektas veda mus į robotų žudikų amžių

 „Kijevo pakraštyje esančiame, lauke Ukrainos dronų kompanijos „Vyriy“ įkūrėjai neseniai dirbo prie ateities ginklo.

 

 Norėdamas tai pademonstruoti, 25 metų „Vyriy“ vadovas Oleksijus Babenko užšoko ant motociklo ir nuvažiavo purvo taku. Už jo sekė dronas, kol kolega sekė judesius iš portfelio dydžio kompiuterio.

 

 Dar visai neseniai keturkopterį būtų pilotavęs žmogus. Nebe. Vietoj to, po to, kai dronas užsifiksavo ant savo taikinio - pono Babenko, jis skrido pats, vadovaujamas programinės įrangos, kuri naudojo mašinos kamerą jam sekti.

 

 Motociklo urzgiantis variklis neprilygo tyliam dronui, nes jis persekiojo p. Babenko. „Stumkite, stumkite daugiau. Mink pedalą, žmogau“, – per raciją sušuko jo kolegos, dronui nuskriejus link jo. "Tu prapuolei!"

 

 Jei bepilotis orlaivis būtų ginkluotas sprogmenimis ir jo kolegos nebūtų atjungę autonominio sekimo, p. Babenko būtų žuvęs.

 

 „Vyriy“ yra tik viena iš daugelio Ukrainos kompanijų, kurios daro didelį šuolį į priekį vartotojiškų technologijų ginklavimo srityje, kurią paskatino konfliktas su Rusija.

 

 Spaudimas aplenkti priešą, didžiuliai investicijų, aukų ir vyriausybės sutarčių srautai pavertė Ukrainą Silicio slėniu autonominiams dronams ir kitai ginkluotei.

 

 Tai, ką įmonės kuria, yra technologija, dėl kurios žmonės vis mažiau sprendžia apie taikymą ir šaudymą. Plačiai paplitęs jau paruoštų prietaisų, lengvai kuriamos programinės įrangos, galingų automatizavimo algoritmų ir specializuotų dirbtinio intelekto (A.I.) mikroschemų prieinamumas išstūmė mirtiną naujovių lenktynes ​​​​į nežinomą teritoriją ir paskatino potencialiai naują robotų žudikų erą.

 

 Pažangiausios technologijos, leidžiančios bepiločiams orlaiviams ir kitoms mašinoms veikti autonomiškai, versijos yra įmanomos, naudojant gilųjį mokymąsi, A.I. kuri naudoja didelius duomenų kiekius modeliams nustatyti ir sprendimams priimti. Išsamus mokymasis padėjo sukurti populiarius didelių kalbų modelius, pvz., OpenAI GPT-4, bet taip pat padeda modeliams interpretuoti ir realiuoju laiku reaguoti į vaizdo įrašą ir kamerų filmuotą medžiagą. Tai reiškia, kad programinė įranga, kuri kažkada padėjo dronui sekti snieglentininką nuo kalno, dabar gali tapti mirtina priemone.

 

 Per daugiau, nei tuziną interviu su Ukrainos verslininkais, inžinieriais ir kariniais daliniais susidarė vaizdas apie netolimą ateitį, kai savarankiškai valdomų bepiločių orlaivių spiečius gali koordinuoti atakas, o kulkosvaidžiai su kompiuterine vizija gali automatiškai numušti karius. Taip pat kuriami neįprasti kūriniai, pavyzdžiui, sklandantis nepilotuojamas kopteris, valdantis kulkosvaidžius.

 

 Ginklai yra grubesni už mokslinės fantastikos stulbinamų filmų, tokių, kaip „Terminatorius“ ir jo T-1000 skysto metalo žudikas, gudrius dalykus, tačiau jie yra žingsnis tokios ateities link.

 

 Nors šie ginklai nėra tokie pažangūs, kaip brangios karinio lygio sistemos, pagamintos JAV, Kinijoje ir Rusijoje, jų patobulinimai yra reikšmingi dėl jų mažos kainos – vos tūkstančius dolerių ar mažiau – ir prieinamumo.

 

 Išskyrus šaudmenis, daugelis šių ginklų yra pagaminti, naudojant kodą, kurį galima rasti internete, ir komponentus, tokius, kaip mėgėjų kompiuteriai, pvz., Raspberry Pi, kuriuos galima nusipirkti iš „Best Buy“ ir techninės įrangos parduotuvės.

 

 Kai kurie JAV pareigūnai teigė nerimaujantys, kad gebėjimai netrukus gali būti panaudoti teroristiniams išpuoliams vykdyti.

 

 Sistemos padidina susidomėjimą tarptautinėse diskusijose apie etinius ir teisinius A.I. mūšio lauke klausimus. Žmogaus teisių grupės ir Jungtinių Tautų pareigūnai nori apriboti autonominių ginklų naudojimą, baimindamiesi, kad jie gali sukelti naujas pasaulines ginklavimosi varžybas, kurios gali tapti nekontroliuojamos.

 

 „Mums reikia maksimalaus automatizavimo“, – sakė Ukrainos skaitmeninės transformacijos ministras Mykhailo Fedorov, vadovavęs šalies pastangoms panaudoti naujų technologijų įmones išplėsti pažangius kovos pajėgumus. „Šios technologijos mums yra esminės."

 

 Pasak Ukrainos pareigūnų ir „The New York Times“ patvirtinto vaizdo įrašo, autonominiai dronai, tokie, kaip „Vyriy’s“, jau buvo naudojami kovose, siekiant pataikyti į Rusijos taikinius. P. Fiodorovas sakė, kad vyriausybė stengiasi finansuoti bepiločių orlaivių įmones, kad padėtų joms greitai padidinti gamybą.

 

 Kyla pagrindiniai klausimai, koks automatizavimo lygis yra priimtinas. Šiuo metu bepiločiams orlaiviams reikia, kad pilotas užsifiksuotų prie taikinio ir išlaikytų „žmogų kilpoje“ – tokią frazę dažnai remiasi politikos formuotojai ir A.I. etikai. Ukrainos kariai išreiškė susirūpinimą, kad autonominiai bepiločiai orlaiviai gali smogti jų pačių pajėgoms. Ateityje tokiems ginklams apribojimų gali ir nebūti.

 

 Ukraina „žiauriai išaiškino logiką, kodėl autonominiai ginklai turi pranašumų“, – sakė Stuartas Russellas, A.I. Kalifornijos Berklio universiteto mokslininkas ir profesorius, perspėjęs apie ginkluoto A.I. pavojų. „Bus pigių, keičiamo dydžio masinio naikinimo ginklų ir tai bus lengvai prieinama ginklų rinkose visame pasaulyje."

 

 Dronų Silicio slėnis

 

 28-erių 92-osios puolimo brigados karys Devas, dirbdamas sugriuvusiame daugiabučiame name Rytų Ukrainoje, padėjo išstumti naujoves, pavertusias pigius dronus ginklais. Pirmiausia jis pritvirtino bombas prie lenktyninių dronų, tada pridėjo didesnių baterijų, kad padėtų jiems skristi toliau, ir neseniai įdiegė naktinį matymą, kad mašinos galėtų medžioti tamsoje.

 

 Gegužę jis vienas pirmųjų pradėjo naudoti autonominius dronus, tarp jų ir iš Vyriy. Nors kai kuriuos reikia patobulinti, sakė Devas, jis tikėjo, kad tai bus kitas didelis technologinis šuolis, pasieksiantis fronto linijas.

 

 Jis sakė, kad autonominiai dronai „jau yra labai paklausūs“. Mašinos buvo ypač naudingos nuo kliūčių, kurios gali nutraukti ryšio ryšius tarp drono ir piloto.

 

 Kai pats dronas skraido, pilotas gali tiesiog užsifiksuoti ant taikinio ir leisti įrenginiui padaryti visa kita.

 

 Visoje Ukrainoje atsirado laikinų gamyklų ir laboratorijų, skirtų kurti įvairaus dydžio nuotoliniu būdu valdomus įrenginius – nuo ​​tolimojo nuotolio orlaivių ir atakų laivų iki pigių kamikadzės bepiločių orlaivių – sutrumpintai F.P.V.s, kad būtų galima matyti iš pirmo asmens, nes juos veda, akinius dėvintis pilotas. Tai į virtualią realybę panašūs akiniai, suteikiantys vaizdą iš drono. Daugelis jų yra mašinų, kurios ilgainiui veiks pačios, pirmtakai.

 

 Pastangos automatizuoti F.P.V. skrydžius prasidėjo praėjusiais metais, tačiau juos pristabdė nesėkmės, kuriant skrydžių valdymo programinę įrangą, teigia p. Fiodorovas, kuris teigė, kad šios problemos buvo išspręstos. Kitas žingsnis buvo išplėsti technologiją, išleidžiant daugiau vyriausybės išlaidų, sakė jis ir pridūrė, kad apie 10 įmonių jau gamina autonominius dronus.

 

 „Mes jau turime sistemas, kurios gali būti gaminamos masiškai, ir dabar jos yra plačiai išbandytos priekinėse linijose, o tai reiškia, kad jos jau aktyviai naudojamos“, – sakė p. Fiodorovas.

 

 Kai kurios įmonės, pavyzdžiui, Vyriy, naudoja pagrindinius kompiuterinio matymo algoritmus, kurie analizuoja ir interpretuoja vaizdus bei padeda kompiuteriui priimti sprendimus. Kitos įmonės yra sudėtingesnės ir naudoja gilų mokymąsi, kurdamos programinę įrangą, galinčią identifikuoti ir atakuoti taikinius. Daugelis kompanijų teigė, kad surinko duomenis ir vaizdo įrašus iš skrydžių treniruoklių ir bepiločių orlaivių skrydžių.

 

 Vienas Ukrainos dronų gamintojas „Saker“ su A.I. sukūrė autonominę taikymo sistemą. Naudojami procesai, iš pradžių skirti vaisiams rūšiuoti ir klasifikuoti. Žiemą įmonė pradėjo siųsti savo technologijas į priešakines linijas, išbandydama įvairias sistemas su dronų pilotais. Paklausa išaugo.

 

 Iki gegužės mėnesio Saker masiškai gamino vienos grandinės kompiuterius su programine įranga, kurią buvo galima lengvai prijungti prie F.P.V. bepiločių orlaivių, kad mašinos galėtų automatiškai užsifiksuoti ant taikinio, sakė bendrovės vadovas, kuris, baimindamasis Rusijos keršto, prašė, kad jį vadintų tik vardu Viktoras.

 

 Tada dronas atsitrenkia į taikinį „ir viskas“, - sakė jis. „Atsparus vėjui. Jis atsparus trukdymui. Jūs tiesiog turite būti tikslus, į ką pataikysite."

 

 Dabar Saker per mėnesį pagamina 1 000 grandinių plokščių, o iki vasaros pabaigos planuoja padidinti iki 9 000 plokščių per mėnesį. Keletas Ukrainos karinių dalinių jau smogė Rusijos taikiniams fronto linijose, naudodami Sakerio technologiją, rašo bendrovė ir „The Times“ patvirtino vaizdo įrašai.

 

 Viename socialiniuose tinkluose pasidalintame Saker technologijos klipe dronas skrenda virš apšaudyto lauko. Piloto vaizdo ieškiklio centre esantis langelis staiga priartina tanką, nurodydamas užraktą. Dronas atakuoja pats, sprogdamas į šarvų šoną.

 

 Sakeris pastarosiomis savaitėmis žengė toliau, sėkmingai naudodamas žvalgybinį droną, kuris identifikavo taikinius su A.I. ir tada išsiuntė autonominius kamikadzės dronus nužudymui, sakė Viktoras. Vienu atveju sistema pataikė į taikinį už 25 mylių.

 

 „Kai pasieksime tašką, kai neturime pakankamai žmonių, vienintelis sprendimas yra juos pakeisti robotais“, – sakė Rostyslavas, „Saker“ įkūrėjas, kuris taip pat prašė, kad būtų vadinamas tik vardu.

 

 Miniatiūrinis karas

 

 Karštą praėjusio mėnesio popietę rytų Ukrainos regione, vadinamame Donbasu, 23 metų atsargos karys Jurijus Klontsakas apmokė keturis karius naudoti naujausią futuristinį ginklą: pistoleto bokštelį su autonominiu taikikliu, kuris veikia su PlayStation valdikliu ir tablete.

 

 Kalbėdamas garsiau už netoliese vykstančius apšaudymus, ponas Klontsakas paaiškino, kaip ginklas, pavadintas Wolly, panašus į Pixar robotą WALL-E, gali automatiškai užsifiksuoti iki taikinio, esančio iki 1000 metrų atstumu, ir šokinėti tarp iš anksto užprogramuotų pozicijų, kad greitai apimtų platų plotą.  Ginklą gaminanti įmonė „DevDroid“ taip pat kūrė automatinį taikiklį, skirtą judančių taikinių sekimui ir pataikymui.

 

 „Kai pirmą kartą pamačiau ginklą, buvau sužavėtas“, – sakė ponas Klontsakas. „Supratau, kad tai vienintelis būdas, jei ne laimėti šį konfliktą, tai bent jau išlaikyti savo pozicijas."

 

 Pistoletas yra vienas iš kelių, kurie pasirodė priešakinėse linijose, naudojant A.I. apmokytą programinę įrangą automatiškai sekti ir šaudyti į taikinius. Nesiskiriantis nuo objekto identifikavimo stebėjimo kamerose, programinė įranga ekrane supa žmones ir kitus galimus taikinius su skaitmenine dėžute. Šauliui belieka nuotoliniu būdu nuspausti gaiduką su vaizdo žaidimų valdikliu.

 

 Kol kas ginklų gamintojai teigia neleidžiantys kulkosvaidžiui šaudyti žmonių, nepaspaudus mygtuko. Tačiau jie taip pat sakė, kad būtų lengva sukurti tokį, kuris galėtų.

 

 Daugelis Ukrainos naujovių kuriamos, siekiant atremti besivystančią Rusijos ginkluotę. Kulkosvaidžius valdantys Ukrainos kariai yra pagrindinis Rusijos dronų atakų taikinys. Naudojant robotus, joks žmogus nemiršta, pataikius į kulkosvaidį. Nauji algoritmai, kurie vis dar kuriami, galiausiai galėtų padėti ginklams iš dangaus iššauti Rusijos dronus.

 

 Tokios technologijos ir galimybė jas greitai sukurti ir išbandyti fronto linijose sulaukė dėmesio ir investicijų iš užsienio. Praėjusiais metais Ericas Schmidtas, buvęs „Google“ vadovas, ir kiti investuotojai įkūrė įmonę „D3“, kuri investavo į naujas mūšio lauko technologijas Ukrainoje. Kitos gynybos įmonės, tokios, kaip Helsing, taip pat bendradarbiauja su Ukrainos įmonėmis.

 

 Ukrainos įmonės juda greičiau, nei konkurentės užsienyje, sakė D3 vadovaujanti partnerė Eveline Buchatskiy ir pridūrė, kad įmonė prašo įmonių, į kurias investuoja už Ukrainos ribų, apsilankyti šalyje, kad jos galėtų paspartinti savo plėtrą.

 

 „Čia yra tik kitoks paskatų rinkinys“, - sakė ji.

 

 Dažnai mūšio lauko reikalavimai sutraukia inžinierius ir kareivius. Oleksandras Yabchanka, bataliono „Da Vinci Wolves“, garsėjančio savo naujovėmis ginklų srityje, vadas priminė, kaip jį paskatino būtinybė ginti „gyvybės kelią“ – maršrutą, naudojamą tiekti karius, kovojančius su rusais palei rytinę fronto liniją Bakhmute. Įsivaizduodamas sprendimą, jis socialiniame tinkle „Facebook“ paskelbė atvirą užklausą dėl kompiuterizuoto nuotoliniu būdu valdomo kulkosvaidžio.

 

 Po kelių mėnesių p. Yabchanka turėjo veikiantį prototipą iš firmos Roboneers. Ginklas beveik akimirksniu padėjo jo daliniui.

 

 „Galėtume sėdėti tranšėjoje gerti kavą ir rūkyti cigaretes, ir šaudyti“, – sakė jis.

 

 Pono Yabchanka indėlis vėliau padėjo Roboneers sukurti naujos rūšies ginklą. Bendrovė kulkosvaidžio bokštelį sumontavo ant riedančio drono, kad padėtų kariams atlikti puolimą ar greitai pakeisti pozicijas. „Roboneers“ generalinis direktorius Antonas Skrypnykas sakė, kad programa padidino A.I. varomo automatinio taikymo poreikį.

 

 Panašios partnerystės pastūmėjo ir kitokią pažangą. Bepiločių orlaivių poligone gegužę kita vietinė įmonė „Swarmer“ surengė vaizdo pokalbį su kariniu padaliniu, kad supažindintų kareivius su jo programinės įrangos atnaujinimais, leidžiančiais bepiločiais atakas įvykdyti be piloto.

 

 „Swarmer“ programinė įranga, kurią pernai sukūrė buvęs „Amazon“ inžinierius Serhii Kupriienko, buvo sukurta, naudojant A.I. modelį, kuris buvo apmokytas, naudojant didelius duomenų kiekius priekinėse bepiločių orlaivių misijose. Tai leidžia vienam specialistui bombardavimo ir žvalgybos misijose valdyti iki septynių dronų.

 

 Neseniai Swarmer pridėjo sugebėjimų, kurie gali nukreipti kamikadze atakuojančius dronus iki 35 mylių. Tikimasi, kad programinė įranga, kuri buvo bandoma nuo sausio mėnesio, sumažins žmonių, reikalingų valdyti miniatiūrines oro pajėgas, kurios dominuoja fronto linijose, skaičių.

 

 Per demonstraciją „Swarmer“ inžinierius prie kompiuterio stebėjo žemėlapį, kai virš galvos zvimbė šeši autonominiai dronai. Vienas po kito dideli dronai bombonešiai skrido virš galimo taikinio ir vietoje bombų numetė vandens butelius.

 

 Kai kurie bepiločių orlaivių pilotai baiminasi, kad juos visiškai pakeis ši technologija, sakė J. Kupriienko.

 

 Jie sako: „O, jis skrenda be mūsų. Jie atims mūsų nuotolinio valdymo pultus ir įdės ginklą į rankas“, – sakė jis, turėdamas omenyje įsitikinimą, kad saugiau skristi bepiločiu nei užimti apkasą priekyje.

 

 „Bet aš sakau, ne, dabar galėsite skristi su penkiais ar 10 bepiločių orlaivių vienu metu“, – sakė jis. „Programinė įranga padės jiems geriau kovoti.

 

 Skerdyklinių robotų kilimas

 

 2017 metais ponas Russellas, Berklio A.I. tyrėjas, išleido internetinį filmą „Slaughterbots“, įspėjantį apie autonominių ginklų keliamus pavojus. Filme klajojantys pigių ginkluotų A.I. dronai naudoja veido atpažinimo technologiją, kad gaudytų ir nužudytų taikinius.

 

 Tai, kas vyksta Ukrainoje, stumia mus į tą distopinę ateitį, sakė p. Russellas. Pasak jo, jį jau persekioja Ukrainos vaizdo įrašai, kuriuose užfiksuoti kariai, kuriuos persekioja žmonių pilotuojami ginkluoti bepiločiai orlaiviai. Dažnai pasitaiko momentų, kai kariai nustoja bandyti pabėgti ar pasislėpti, nes supranta, kad negali pabėgti nuo drono.

 

 „Jiems nėra kur eiti, todėl jie tiesiog laukia, kol numirs“, – sakė ponas Raselas.

 

 Jis ne vienas baiminasi, kad Ukraina yra lūžio taškas. Vienoje JT ekspertų grupės nariai taip pat teigė nerimaujantys dėl naujosios temos pasekmių  Ukrainoje kuriamos technikos.

 

 Pareigūnai praleido daugiau, nei dešimtmetį diskutuodami apie autonominių ginklų naudojimo taisykles, tačiau tik nedaugelis tikisi, kad bet koks tarptautinis susitarimas nustatys naujas taisykles, ypač kai JAV, Kinija, Izraelis, Rusija ir kitos šalys lenktyniauja kurdamos dar pažangesnius ginklus.

 

 Vienoje rugpjūtį paskelbtoje JAV programoje, žinomoje kaip iniciatyva „Replicator“, Pentagonas teigė, kad planuoja masiškai gaminti tūkstančius autonominių dronų.

 

 „Dėl geopolitikos tai neįmanoma“, – sakė vyriausiasis Austrijos derybininkas dėl autonominių ginklų JT Aleksandras Kmentas. „Šie ginklai bus naudojami ir bus naudojami beveik visų kariniame arsenale“.

 

 Niekas nesitiki, kad šalys sutiks su visišku tokių ginklų uždraudimu, – sakė jis, – „tačiau jie turėtų būti reguliuojami taip, kad nepasiektume absoliučiai košmariško scenarijaus“.

 

 Grupės, įskaitant Tarptautinį Raudonojo Kryžiaus komitetą, siekė teisiškai privalomų taisyklių, kurios draudžia tam tikrų tipų autonominius ginklus, riboja kitų naudojimą ir reikalauja tam tikro žmogaus kontrolės, priimančios sprendimus naudoti jėgą.

 

 Daugeliui Ukrainoje diskusijos yra akademinės. Jie yra aplenkti ir įveikiami.

 

 „Pirmiausia turime laimėti“, – sakė skaitmeninės transformacijos ministras p. Fiodorovas. „Norėdami tai padaryti, padarysime viską, ką galime, kad maksimaliai įdiegtume automatizavimą ir išgelbėtume mūsų karių gyvybes.“ [1]

 

1. A.I. Begins Ushering In an Age of Killer Robots. Mozur, Paul; Satariano, Adam.  New York Times (Online) New York Times Company. Jul 2, 2024.

A.I. Begins Ushering In an Age of Killer Robots

"In a field on the outskirts of Kyiv, the founders of Vyriy, a Ukrainian drone company, were recently at work on a weapon of the future.

To demonstrate it, Oleksii Babenko, 25, Vyriy’s chief executive, hopped on his motorcycle and rode down a dirt path. Behind him, a drone followed, as a colleague tracked the movements from a briefcase-size computer.

Until recently, a human would have piloted the quadcopter. No longer. Instead, after the drone locked onto its target — Mr. Babenko — it flew itself, guided by software that used the machine’s camera to track him.

The motorcycle’s growling engine was no match for the silent drone as it stalked Mr. Babenko. “Push, push more. Pedal to the medal, man,” his colleagues called out over a walkie-talkie as the drone swooped toward him. “You’re screwed, screwed!”

If the drone had been armed with explosives, and if his colleagues hadn’t disengaged the autonomous tracking, Mr. Babenko would have been a goner.

Vyriy is just one of many Ukrainian companies working on a major leap forward in the weaponization of consumer technology, driven by the conflict with Russia. 

 The pressure to outthink the enemy, along with huge flows of investment, donations and government contracts, has turned Ukraine into a Silicon Valley for autonomous drones and other weaponry.

What the companies are creating is technology that makes human judgment about targeting and firing increasingly tangential. The widespread availability of off-the-shelf devices, easy-to-design software, powerful automation algorithms and specialized artificial intelligence microchips has pushed a deadly innovation race into uncharted territory, fueling a potential new era of killer robots.

The most advanced versions of the technology that allows drones and other machines to act autonomously have been made possible by deep learning, a form of A.I. that uses large amounts of data to identify patterns and make decisions. Deep learning has helped generate popular large language models, like OpenAI’s GPT-4, but it also helps make models interpret and respond in real time to video and camera footage. That means software that once helped a drone follow a snowboarder down a mountain can now become a deadly tool.

In more than a dozen interviews with Ukrainian entrepreneurs, engineers and military units, a picture emerged of a near future when swarms of self-guided drones can coordinate attacks and machine guns with computer vision can automatically shoot down soldiers. More outlandish creations, like a hovering unmanned copter that wields machine guns, are also being developed.

The weapons are cruder than the slick stuff of science-fiction blockbusters, like “The Terminator” and its T-1000 liquid-metal assassin, but they are a step toward such a future. 

While these weapons aren’t as advanced as expensive military-grade systems made by the United States, China and Russia, what makes the developments significant is their low cost — just thousands of dollars or less — and ready availability.

Except for the munitions, many of these weapons are built with code found online and components such as hobbyist computers, like Raspberry Pi, that can be bought from Best Buy and a hardware store.

 Some U.S. officials said they worried that the abilities could soon be used to carry out terrorist attacks.

 The systems raise the stakes in an international debate about the ethical and legal ramifications of A.I. on the battlefield. Human rights groups and United Nations officials want to limit the use of autonomous weapons for fear that they may trigger a new global arms race that could spiral out of control.

“We need maximum automation,” said Mykhailo Fedorov, Ukraine’s minister of digital transformation, who has led the country’s efforts to use tech start-ups to expand advanced fighting capabilities. “These technologies are fundamental to us.”

Autonomous drones like Vyriy’s have already been used in combat to hit Russian targets, according to Ukrainian officials and video verified by The New York Times. Mr. Fedorov said the government was working to fund drone companies to help them rapidly scale up production.

Major questions loom about what level of automation is acceptable. For now, the drones require a pilot to lock onto a target, keeping a “human in the loop” — a phrase often invoked by policymakers and A.I. ethicists. Ukrainian soldiers have raised concerns about the potential for malfunctioning autonomous drones to hit their own forces. In the future, constraints on such weapons may not exist.

Ukraine has “made the logic brutally clear of why autonomous weapons have advantages,” said Stuart Russell, an A.I. scientist and professor at the University of California, Berkeley, who has warned about the dangers of weaponized A.I. “There will be weapons of mass destruction that are cheap, scalable and easily available in arms markets all over the world.”

A Drone Silicon Valley

In a ramshackle workshop in an apartment building in eastern Ukraine, Dev, a 28-year-old soldier in the 92nd Assault Brigade, has helped push innovations that turned cheap drones into weapons. First, he strapped bombs to racing drones, then added larger batteries to help them fly farther and recently incorporated night vision so the machines can hunt in the dark.

In May, he was one of the first to use autonomous drones, including those from Vyriy. While some required improvements, Dev said, he believed that they would be the next big technological jump to hit the front lines.

Autonomous drones are “already in high demand,” he said. The machines have been especially helpful against jamming that can break communications links between drone and pilot.

 With the drone flying itself, a pilot can simply lock onto a target and let the device do the rest.

Makeshift factories and labs have sprung up across Ukraine to build remote-controlled machines of all sizes, from long-range aircraft and attack boats to cheap kamikaze drones — abbreviated as F.P.V.s, for first-person view, because they are guided by a pilot wearing virtual-reality-like goggles that give a view from the drone. Many are precursors to machines that will eventually act on their own.

Efforts to automate F.P.V. flights began last year, but were slowed by setbacks building flight control software, according to Mr. Fedorov, who said those problems had been resolved. The next step was to scale the technology with more government spending, he said, adding that about 10 companies were already making autonomous drones.

“We already have systems which can be mass-produced, and they're now extensively tested on the front lines, which means they’re already actively used,” Mr. Fedorov said.

Some companies, like Vyriy, use basic computer vision algorithms, which analyze and interpret images and help a computer make decisions. Other companies are more sophisticated, using deep learning to build software that can identify and attack targets. Many of the companies said they pulled data and videos from flight simulators and frontline drone flights.

One Ukrainian drone maker, Saker, built an autonomous targeting system with A.I. processes originally designed for sorting and classifying fruit. During the winter, the company began sending its technology to the front lines, testing different systems with drone pilots. Demand soared.

By May, Saker was mass-producing single-circuit-board computers loaded with its software that could be easily attached to F.P.V. drones so the machines could auto-lock onto a target, said the company’s chief executive, who asked to be referred to only by his first name, Viktor, for fear of retaliation by Russia.

The drone then crashes into its target “and that’s it,” he said. “It resists wind. It resists jamming. You just have to be precise with what you’re going to hit.”

Saker now makes 1,000 of the circuit boards a month and plans to expand to 9,000 a month by the end of the summer. Several of Ukraine’s military units have already hit Russian targets on the front lines with Saker’s technology, according to the company and videos confirmed by The Times.

In one clip of Saker technology shared on social media, a drone flies over a field scarred by shelling. A box at the center of the pilot’s viewfinder suddenly zooms in on a tank, indicating a lock. The drone attacks on its own, exploding into the side of the armor.

Saker has gone further in recent weeks, successfully using a reconnaissance drone that identified targets with A.I. and then dispatched autonomous kamikaze drones for the kill, Viktor said. In one case, the system struck a target 25 miles away.

“Once we reach the point when we don’t have enough people, the only solution is to substitute them with robots,” said Rostyslav, a Saker co-founder who also asked to be referred to only by his first name.

A Miniaturized War

On a hot afternoon last month in the eastern Ukrainian region known as the Donbas, Yurii Klontsak, a 23-year-old reservist, trained four soldiers to use the latest futuristic weapon: a gun turret with autonomous targeting that works with a PlayStation controller and a tablet.

Speaking over booms of nearby shelling, Mr. Klontsak explained how the gun, called Wolly after a resemblance to the Pixar robot WALL-E, can auto-lock on a target up to 1,000 meters away and jump between preprogrammed positions to quickly cover a broad area. The company making the weapon, DevDroid, was also developing an auto-aim to track and hit moving targets.

“When I first saw the gun, I was fascinated,” Mr. Klontsak said. “I understood this was the only way, if not to win this conflict, then to at least hold our positions.”

The gun is one of several that have emerged on the front lines using A.I.-trained software to automatically track and shoot targets. Not dissimilar to the object identification featured in surveillance cameras, software on a screen surrounds humans and other would-be targets with a digital box. All that’s left for the shooter to do is remotely pull the trigger with a video game controller.

For now, the gun makers say they do not allow the machine gun to fire without a human pressing a button. But they also said it would be easy to make one that could.

Many of Ukraine’s innovations are being developed to counter Russia’s advancing weaponry. Ukrainian soldiers operating machine guns are a prime target for Russian drone attacks. With robot weapons, no human dies when a machine gun is hit. New algorithms, still under development, could eventually help the guns shoot Russian drones out of the sky.

Such technologies, and the ability to quickly build and test them on the front lines, have gained attention and investment from overseas. Last year, Eric Schmidt, a former Google chief executive, and other investors set up a firm called D3 to invest in emerging battlefield technologies in Ukraine. Other defense companies, such as Helsing, are also teaming up with Ukrainian firms.

Ukrainian companies are moving more quickly than competitors overseas, said Eveline Buchatskiy, a managing partner at D3, adding that the firm asks the companies it invests in outside Ukraine to visit the country so they can speed up their development.

“There’s just a different set of incentives here,” she said.

Often, battlefield demands pull together engineers and soldiers. Oleksandr Yabchanka, a commander in Da Vinci Wolves, a battalion known for its innovation in weaponry, recalled how the need to defend the “road of life” — a route used to supply troops fighting Russians along the eastern front line in Bakhmut — had spurred invention. Imagining a solution, he posted an open request on Facebook for a computerized, remote-controlled machine gun.

In several months, Mr. Yabchanka had a working prototype from a firm called Roboneers. The gun was almost instantly helpful for his unit.

“We could sit in the trench drinking coffee and smoking cigarettes and shoot,” he said.

Mr. Yabchanka’s input later helped Roboneers develop a new sort of weapon. The company mounted the machine gun turret atop a rolling ground drone to help troops make assaults or quickly change positions. The application has led to a bigger need for A.I.-powered auto-aim, the chief executive of Roboneers, Anton Skrypnyk, said.

Similar partnerships have pushed other advances. On a drone range in May, Swarmer, another local company, held a video call with a military unit to walk soldiers through updates to its software, which enables drones to carry out swarming attacks without a pilot.

The software from Swarmer, which was formed last year by a former Amazon engineer, Serhii Kupriienko, was built on an A.I. model that was trained with large amounts of data on frontline drone missions. It enables a single technician to operate up to seven drones on bombing and reconnaissance missions.

Recently, Swarmer added abilities that can guide kamikaze attack drones up to 35 miles. The hope is that the software, which has been in tests since January, will cut down on the number of people required to operate the miniaturized air forces that dominate the front lines.

During a demonstration, a Swarmer engineer at a computer watched a map as six autonomous drones buzzed overhead. One after the other, large bomber drones flew over a would-be target and dropped water bottles in place of bombs.

Some drone pilots are afraid they will be replaced entirely by the technology, Mr. Kupriienko said.

“They say: ‘Oh, it flies without us. They will take away our remote controls and put a weapon in our hand,’” he said, referring to the belief that it’s safer to fly a drone than occupy a trench on the front.

“But I say, no, you’ll now be able to fly with five or 10 drones at the same time,” he said. “The software will help them fight better.”

The Rise of Slaughterbots

In 2017, Mr. Russell, the Berkeley A.I. researcher, released an online film, “Slaughterbots,” warning of the dangers of autonomous weapons. In the movie, roving packs of low-cost armed A.I. drones use facial recognition technology to hunt down and kill targets.

What’s happening in Ukraine moves us toward that dystopian future, Mr. Russell said. He is already haunted, he said, by Ukrainian videos of soldiers who are being pursued by weaponized drones piloted by humans. There’s often a point when soldiers stop trying to escape or hide because they realize they cannot get away from the drone.

“There’s nowhere for them to go, so they just wait around to die,” Mr. Russell said.

He isn’t alone in fearing that Ukraine is a turning point. In Vienna, members of a panel of U.N. experts also said they worried about the ramifications of the new techniques being developed in Ukraine.

Officials have spent more than a decade debating rules about the use of autonomous weapons, but few expect any international deal to set new regulations, especially as the United States, China, Israel, Russia and others race to develop even more advanced weapons. 

In one U.S. program announced in August, known as the Replicator initiative, the Pentagon said it planned to mass-produce thousands of autonomous drones.

“The geopolitics makes it impossible,” said Alexander Kmentt, Austria’s top negotiator on autonomous weapons at the U.N. “These weapons will be used, and they’ll be used in the military arsenal of pretty much everybody.”

Nobody expects countries to accept an outright ban of such weapons, he said, “but they should be regulated in a way that we don’t end up with an absolutely nightmare scenario.”

Groups including the International Committee of the Red Cross have pushed for legally binding rules that prohibit certain types of autonomous weapons, restrict the use of others and require a level of human control over decisions to use force.

For many in Ukraine, the debate is academic. They are outgunned and outmanned.

“We need to win first,” Mr. Fedorov, the minister of digital transformation, said. “To do that, we will do everything we can to introduce automation to its maximum to save the lives of our soldiers.”" [1]

1. A.I. Begins Ushering In an Age of Killer Robots. Mozur, Paul; Satariano, Adam.  New York Times (Online) New York Times Company. Jul 2, 2024.