Piemēram, transportlīdzekļa forma vai cilvēka apģērbs ne vienmēr ļauj noteikt, vai tas ir civilais vai militārais objekts. Tikpat sarežģīti automatizētai sistēmai var būt atpazīt ievainotu karavīru, cilvēku, kurš padodas gūstā, vai citas situācijas, kurās starptautiskās humanitārās tiesības paredz īpašu aizsardzību.
Pastāv arī risks, ka mākslīgā intelekta modelis kļūdaini interpretē attēlu vai nonāk pie secinājuma, kura pamatojumu cilvēks nespēj pilnībā izskaidrot.
Saskaņā ar “The New York Times” informāciju kāda Ukrainas aizsardzības uzņēmuma vadītājs apgalvojis, ka viņa uzņēmuma izstrādātās sistēmas apmācības laikā kļūdainu mērķu noteikšanas īpatsvars bijis mazāks par 5%.
Tomēr šāds rādītājs pats par sevi vēl nepierāda sistēmas drošumu reālos kaujas apstākļos, jo būtiska nozīme ir arī neatpazīto mērķu īpatsvaram, apkārtējai videi un konkrētā uzdevuma apstākļiem.
Starptautiskā Sarkanā Krusta komiteja uzsver, ka starptautiskās humanitārās tiesības attiecas arī uz autonomajiem ieročiem. Tādēļ tehnoloģiju attīstība neatceļ pienākumu nošķirt militāros mērķus no civiliedzīvotājiem un ievērot samērīguma un piesardzības principus.
Ukrainas kara dati var kļūt par stratēģisku resursu arī NATO valstīm
Ukrainas lēmums piedāvāt kaujaslauka datus sabiedrotajiem iezīmē būtisku militāro tehnoloģiju attīstības tendenci – nākotnes karadarbībā stratēģiski nozīmīgi var kļūt ne tikai ieroči, munīcija un ražošanas jaudas, bet arī kvalitatīvi dati.
Valstīm, kas nepiedalās intensīvā karadarbībā, ir ierobežotas iespējas iegūt tik lielu daudzumu reālu kaujaslauka ierakstu. Militārie poligoni un simulācijas ļauj pārbaudīt ieroču sistēmas, taču tajos nav iespējams pilnībā atkārtot apstākļus, kādos tehnika darbojas faktiskā bruņotā konfliktā.
Ukrainas pieredze šajā ziņā ir īpaši nozīmīga, jo tās bruņotie spēki nepārtraukti pielāgojas pretinieka izmantotajiem elektroniskās karadarbības līdzekļiem, maskēšanās metodēm un jaunajām bezpilota sistēmām.
Līdz ar to regulāri tiek iegūta jauna informācija, kas palīdz pilnveidot esošos algoritmus un pārbaudīt to darbību mainīgos apstākļos.
NATO dalībvalstīm, tostarp Latvijai, šāda attīstība ir nozīmīga arī no aizsardzības spēju plānošanas viedokļa. Mākslīgā intelekta izmantošana varētu palīdzēt uzlabot bezpilota lidaparātu atklāšanu, militārās izlūkošanas informācijas apstrādi, pretgaisa aizsardzības sistēmu efektivitāti un karavīru spēju pieņemt lēmumus situācijās, kad pieejams milzīgs datu apjoms.