Computer Vision e intelligenza artificiale nella guerra moderna

Set 15 2022
Tatiana Basilio

Siamo onorati di ospitare l’abstract della tesi di laurea del Graduato a. (c/a) Dott. Vincenzo Grillo, effettivo al 4 Reggimento Artiglieria Contraerei di Mantova.
Si tratta di un lavoro svolto con grande professionalità da parte del dottor Grillo, che si è laureato presso la Facoltà di Ingegneria Informatica con la collaborazione del centro studi Laran. 
Per la scelta degli argomenti da sviluppare e per la scrittura della tesi il Caporale Grillo è stato affiancato da un membro del comitato dei ricercatori, il CV Francesco Scialla
Il supporto e la collaborazione con giovani laureandi è fra gli obiettivi più importanti di Laran che garantisce un affiancamento, il più tecnico possibile, cercando di privilegiare con i laureandi un rapporto umano che possa portarli a sviluppare fiducia nelle Istituzioni, ma soprattutto convinzione nei propri mezzi.

Di seguito potete leggere l’abstract (sia in inglese che in italiano) del lavoro del dottor Grillo, svolto con cura, dedizione e passione nonostante il suo impegno profuso in divisa.

Graduato a. (c/a) Dott. Vincenzo Grillo
Graduato a. (c/a) Dott. Vincenzo Grillo
English version

Since early age, science and warfare have always developed together. Most modern technologies used by everyone in their daily life were researched and developed for military purposes: Internet for instance, was developed by Darpa.

One of the most important technologies of our age which can have a huge impact on our lives is Artificial Intelligence, the discipline that studies methodologies and techniques that allow the creation of hardware and software systems capable of providing to a computer the skills that would be exclusive of human intelligence.

Since its outcome, AI has been divided in two main sides: weak and strong AI, the first one it’s complex and aim to completely replicate a human brain, the second one instead it’s focused on solving a specific problem.

While proceeding with studies related to the two types of AI, one problem was highlighted: how can a device be truly intelligent without being able to see or hear, basically to receive input from the outside world? To such interesting question the answer is given by a new discipline: Computer Vision, who’s making possible to have self-driving cars or devices who can collect data from the world and do complex tasks related to real life events.

This fascinated discipline was born in 1966, when Minsky and Papert decided to research on how a computer could describe what could be seen by a camera. Such studies took us nowadays, after a quite short path, to being able to have cars who are able to drive autonomously.

The amount of data generated by newer devices, being able to have inputs and feedbacks from real life, gave birth to a new field: Big Data Analytics, an incredibly big amount of information that must be analyzed and processed with high speed, that must be evaluated in order to be considered trustworthy and also that can be constantly updated.

Mastering a huge amount of data allowed computers to make different types of analysis: with the descriptive analysis, computers were able to understand what happened, with diagnostic analytics it could be possible to answer to why did something happened, with predictive analysis it was possible to make forecasts and guess what might happen, and with prescriptive analytics it was possible to define which action should be taken in a certain scenario.

Such advanced use of data, created an incredible horizon for military. For instance, the United States DoD Project Maven was made to create Algorithmic Warfare Cross-Functional Team in order to deep dive into studies machine learning and neural nets, aiming to give a huge advantage to us army.

While it can be a fascinating subject for most people, AI can be also very scary. Several movies such as the famous Terminator, didn’t help humans to have trust in smart machines, and considering that AI techniques could be considered a black box, because it’s almost impossible to understand how it gives us output, fear for what AI can make hasn’t decreased.

Such issue pushed researchers to develop eXplainable AI, which tries to give a simple explanation for AI decisions. If a smartphone’s camera will focus and recognize a car, XAI could, for instance, show that the statement was based on the fact that it was possible to detect 4 wheels, seats and so on.

In the development of such field there are two major tech companies such as Google and IBM, with its famous Watson Framework, and both are trying to make AI transparent and simple in order to be used visually by anyone.

The development of so many advanced technologies led to a new set of products for the modern warfare:

Unmanned Aerial Vehicles – more commonly known as drones, have been already vastly used in different war scenarios. They are a sort of robots able to fly autonomously or remotely controlled and can be equipped with sensors or even weapons. They could be mostly classified in drones for target and decoy, for combat, for reconnaissance, for research and civil drones mostly used by civilians.

Unmanned Ground Vehicles – or Self-guided vehicles, as the name implies are ground vehicles able to drive autonomously. They are substituting regular tanks and are able, with complex algorithms and computer vision, to detect threats and alert a remote user to decide on the countermeasure. There are researches already at advanced stage for underwater unmanned vehicles and subterranean unmanned vehicles.

Augmented Soldiers – biohacking or special equipment capable of increase the power and augment the senses of soldiers. Already in 2019, the American Department of Defense published a paper called Cyborg Soldier 2050: Human/Machine Fusion and the Implications for the Future of the DOD. Some of the super power of such technology can be multispectral camouflage, enhanced mobility, environment monitoring, physiological monitoring, wireless networking.

Augmented weapons – weapons able to jam communications, to use stealth technology or use electromagnetic impulses to defeat enemy’s systems. But not only spectrum related tech, augmented weapons also include system like the smart shooter smash 2000, a system who can be mounted on any weapon and can help soldiers in aiming the target, finding the optimal point of aim even with moving targets, increasing the chance to hit the target with high precision, or a smart rifle making any soldiers without special training being able to kill enemies from over a kilometer.

The incredible technologies described seems to show that machines are already very smart and will be everyday smarter, and capable of taking their own decisions, but this issue also several problems, especially an ethical one.

AI is powerful but it can make mistakes, and there are several real-life cases who show how could be dangerous to rely completely on some computer’s decision. In addition to this we have the example made by the writer Asimov, who made us think “what can happen if a robot would follow orders of a criminal or a child?”

Technology can bring huge advantages but also bring with it many risks. One of the most common risks is due to bugs. Even if different government and companies are creating contests of bug hunt with huge prizes, it’s impossible to have a technology who is free of bugs. What could happen if a weapon would crash and act non responsively? We have several examples of disasters happened because of bugs, such as the Mars Climate orbiter loss, the EDS child support system making a mess with UK taxes, the Ariane 5 explosion or the therac-25 killings.

Another big fear is due to AI fallibility. Even if computers have a huge percentage of precision, they can make mistakes too. Computer vision for instance, could make mistakes due to a simple light reflex. What would happen if a mistake involves a shooting decision of a smart tank?

Cyber war also showed risks of hacker attacks. Relying on technology means we expose ourselves to hacker’s attacks. A cyber-criminal could cause damage or malfunctions of a system, even very important ones such as hospitals, power grids and so on. Cyber criminals are organized in huge systems who allows them to be powerful and dangerous. Most countries are trying to create new army to protect themselves from hackers: for instance, Pentagon gave Cyber Command the same status of the other ten combat commands and Italy recently created a new Agency for national cybersecurity.

Everything seems to show that new wars will be fought with computers in the digital or virtual space.

Versione italiana

Da sempre scienza e guerra si sono sviluppate insieme. La maggior parte delle tecnologie moderne utilizzate nella vita quotidiana sono state studiate e sviluppate per scopi militari: Internet, per esempio, lo si deve alla statunitense DARPA (Defense Advanced Research Projects Agency).

Una delle tecnologie più importanti della nostra epoca, che può avere un enorme impatto sulla nostra vita, è l’intelligenza artificiale, la disciplina che studia metodologie e tecniche che consentono la creazione di sistemi hardware e software in grado di fornire ad un computer competenze che sarebbero esclusive dell’intelligenza umana.

Fin dalla sua nascita l’AI è stata divisa in due caratteri principali: debole e forte; la prima è complessa e mira a replicare completamente un cervello umano, la seconda invece si concentra sulla risoluzione di un problema specifico.

Mentre si procedeva con gli studi relativi ai due tipi di AI, è stato evidenziato un problema: come può un dispositivo essere veramente intelligente senza essere in grado di vedere o sentire, fondamentalmente per ricevere input dal mondo esterno? A tale interessante domanda la risposta è stata fornita da una nuova disciplina: la Computer Vision, che sta rendendo possibile avere automobili che si guidano in automatico o dispositivi in grado di raccogliere dati dal mondo ed eseguire operazioni complesse legate agli eventi della vita reale.

Questa affascinante disciplina nacque nel 1966, quando Minsky e Papert decisero di studiare come un computer potesse descrivere ciò che poteva essere visto da una macchina fotografica. Tali studi ci hanno portato oggi, dopo un percorso piuttosto breve, ad avere automobili capaci di guida autonoma.

La quantità di dati generati dai dispositivi più recenti, essendo in grado di avere input e feedback dalla vita reale, ha dato vita a un nuovo campo: la Big Data Analytics; una quantità incredibilmente grande di informazioni che devono essere analizzate ed elaborate ad alta velocità, che devono essere valutate per essere considerate affidabili e che possono essere costantemente aggiornate.

Gestire un’enorme quantità di dati ha permesso ai computer di fare diversi tipi di analisi: con l’analisi descrittiva, sono stati in grado di capire “cosa è successo”, con l’analisi diagnostica si è reso possibile rispondere al “perché è successo qualcosa”, con l’analisi predittiva è stato possibile fare previsioni e indovinare cosa “potrebbe accadere”, infine, con l’analisi prescrittiva, è stato possibile definire “quale azione dovrebbe essere intrapresa in un determinato scenario”.

Tale uso avanzato dei dati ha creato un orizzonte incredibile in ambito militare. Ad esempio, il Progetto “Maven” del DoD USA è stato realizzato per creare un team interfunzionale di guerra algoritmica al fine di approfondire gli studi di apprendimento automatico e reti neurali, con l’obiettivo di dare un enorme vantaggio all’esercito.

Se, da un lato, per molti l’argomentazione AI può suscitare curiosità e stupore, per altri rappresenta un mondo “oscuro” dal quale tenersi alla larga. Alcuni film, come il famoso Terminator, non hanno aiutato gli esseri umani ad avere fiducia nelle macchine intelligenti e, visto che le tecniche di AI spesso vengono prese in considerazione come se fossero delle black-box, vista la quasi impossibilità di capire l’esito di un determinato studio, la paura per quello che può fare questa scienza non diminuisce.

Tale problema ha spinto i ricercatori a sviluppare eXplainable AI, che cerca di dare una semplice spiegazione per le decisioni AI. Se la fotocamera di uno smartphone si concentrerà e riconoscerà un’auto, XAI potrebbe, per esempio, dimostrare che l’affermazione si basava sul fatto che era possibile rilevare 4 ruote, sedili e così via.

Nello sviluppo di questo settore ci sono due grandi aziende tecnologiche come Google e IBM, con il famoso Watson Framework, ed entrambe stanno cercando di rendere l’AI trasparente e user-friendly.

Lo sviluppo di tante tecnologie avanzate ha portato a una nuova serie di prodotti per la guerra moderna:

Aerei senza equipaggio – più comunemente noti come droni, sono già stati ampiamente utilizzati in diversi scenari di guerra. Sono una sorta di robot in grado di volare autonomamente o telecomandati e possono essere dotati di sensori o addirittura armi. Potrebbero essere per lo più classificati in droni per obiettivi ed esca, per il combattimento, per la ricognizione, per la ricerca e per impieghi civili per lo più utilizzati per svago.

Veicoli a terra senza equipaggio – o veicoli autoguidati, come suggerisce il nome sono veicoli a terra in grado di guidare autonomamente. Stanno sostituendo carri armati regolari e sono in grado, con algoritmi complessi e computer vision, di rilevare le minacce e avvisare un utente remoto di decidere sulla contromisura. Ci sono ricerche già in fase avanzata per veicoli subacquei e sotterranei senza equipaggio.

Soldati Potenziati – biohacking o attrezzature speciali in grado di aumentare il il potenziale e i sensi dei soldati. Già nel 2019, il Dipartimento della Difesa americano ha pubblicato un articolo dal titolo Cyborg Soldier 2050: Human/Machine Fusion and the Implications for the Future of the DOD.

Armi potenziate – sistemi in grado di bloccare le comunicazioni, utilizzare la tecnologia stealth o utilizzare impulsi elettromagnetici per contrastare i sistemi nemici.

Le incredibili tecnologie descritte sembrano dimostrare quanto le macchine siano già molto intelligenti e che lo saranno sempre di più; saranno in grado, ad esempio, di prendere proprie decisioni anche se questo aspetto presenta diversi problemi, soprattutto in ambito etico.

L’intelligenza artificiale è potente ma può commettere errori e ci sono diversi casi reali che mostrano come potrebbe essere pericoloso affidarsi completamente alla decisione di qualche computer. A tale riguardo ci invita alla riflessione lo scrittore Asimov con la sua citazione: “cosa potrebbe succedere se un robot seguisse gli ordini di un criminale o di un bambino?”

La tecnologia può fornire enormi vantaggi ma anche portare con sé molti rischi. Uno dei più comuni è dovuto ai bug. Anche se diversi governi e aziende stanno creando veri e propri concorsi per la caccia ai bug, con enormi premi, a tutt’oggi è ancora impossibile avere una tecnologia che sia libera da bug. Cosa potrebbe accadere se un’arma risultasse difettosa e agisse in modo non reattivo? Abbiamo diversi esempi di disastri accaduti a causa di bug, come la perdita del satellite Mars Climate Orbiter, il sistema di sostegno ai bambini EDS, l’esplosione del missile Ariane 5 o le morti causate dal Therac-25.

Un altro grande timore è dovuto alla fallibilità dell’intelligenza artificiale. Anche se i computer hanno un’enorme percentuale di precisione, possono comunque commettere errori. La visione artificiale, per esempio, potrebbe commetterne a causa di un semplice riflesso di luce. Quali effetti si produrrebbero se un errore portasse a “far decidere” di aprire il fuoco impropriamente ad un carro armato intelligente?

La guerra cibernetica ha anche mostrato di essere vulnerabile agli attacchi hacker. Affidarsi alla tecnologia significa esporsi a questo tipo di minaccia. Un cyber-criminale potrebbe causare danni o malfunzionamenti ad un sistema, magari impiegato in ambiti molto importanti come ospedali, reti elettriche e così via. I criminali informatici sono organizzati in enormi sistemi che consentono loro di essere potenti e pericolosi. La maggior parte dei paesi sta creando apposite strutture militari per proteggersi dagli hacker: per esempio, il Pentagono ha costituito il Cyber Command, peraltro attribuendogli lo stesso status degli altri dieci, tradizionali, comandi di combattimento e l’Italia ha recentemente creato l’Agenzia per la Sicurezza Informatica Nazionale.

Di certo rimane che tutto sembra mostrare che le guerre del futuro saranno combattute ricorrendo sempre più all’uso dei computer nelle dimensioni digitale o virtuale.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *