Tesis sobre el tema "NeuralRTI"

In particolare in questo lavoro cercherò di analizzare l’utilizzo di reti neurali in ambito economico-finanziario in quanto alcuni dei temi che si riscontrano in economia ben si prestano ad un’analisi attraverso le reti neurali. In particolare nel primo capitolo di questo elaborato descriverò le origini delle reti neurali e alcuni criteri attraverso i quali oggi si classificano le reti stesse. Nel secondo capitolo mi occuperò invece di approfondire quali sono i passaggi da seguire al fine di costruire una rete neurale concentrandomi sulla risoluzione di problemi legati all’ambito economico-finanziario. Infine, nell’ultimo capitolo, mi dedicherò all’analisi di due articoli nei quali vengono confrontati i risultati ottenuti tramite l’utilizzo di diversi tipi di reti neurali accennando anche ad approcci diversi attraverso algoritmi di machine learning.

För onlinespel är fuskande spelare ett problem som påverkar både övriga spelare och spelföretagen. Det är därför intressant att ta fram en metod som upptäcker fusk. Detta arbete fokuserar på att upptäcka aimbotfusk inom CS:GO med hjälp av artificiellt neuralt nätverk. Arbetet jämför hur väl ett så kallat MLP kan detektera fusk då informationen representeras i tidsserier eller som frekvensdata. Olika konfigurationer jämförs i syfte att hitta bästa möjliga kombinationen för ett MLP. Resultaten visar att frekvensdata är ett mycket bra sätt att upptäcka aimbotfusk. Förhoppningen är att metoden kan utvecklas för att användas även för att upptäcka andra typer av fusk i onlinespel.

Det finns övrigt digitalt material (t.ex. film-, bild- eller ljudfiler) eller modeller/artefakter tillhörande examensarbetet som ska skickas till arkivet.

Questo elaborato è stato proposto con l’obbiettivo di affrontare il problema della classificazione di documenti utilizzando sia contenuti visivi che testuali, cercando di analizzare diverse reti e diverse combinazioni di esse per poi sviluppare un modello personalizzato.

Artificiella neurala nätverk (ANN) har många användningsområden inom datavetenskap. Några av dessa är mönsterigenkänning, robotik, processkontroll, optimering och spel. Detta examensarbete kommer att handla om hur en alternativ lösning på den traditionella arkitekturen av hur ett neuralnät kan se ut. Jag kommer att undersöka om man kan ta ett stort och komplext neuralnät och bryta ned detta till mindre neuralnät utan att förlora kvaliteten på botarna i en spelmiljö kallad Open Nero. Detta för att försöka minska beräkningshastigheten av neuralnäten och förhoppningsvis även göra så botarna lär sig ett bra beteende snabbare. Mitt examensarbete kommer att visa att min lösning av arkitekturen för ett neuralt nätverk inte fungerar speciellt bra då botarna inte lärde sig tillräckligt fort. En fördel med min arkitektur är dock att den är något snabbare än originalets i exekveringshastighet.

L’utilizzo di reti neurali deep nell’ambito dell’elaborazione del linguaggio naturale sta conducendo negli ultimi anni a risultati significativi in task molto disparati, dalla speech recognition all’analisi semantica. La ragione di tali innovazioni risiede nelle capacità computazionali odierne, in grado di supportare l’utilizzo di reti neurali con molti livelli nascosti, dette appunto deep, e di strumenti innovativi quali le recurrent neural network, convolutional neural network e la possibilità di costruire word embedding tramite word2vec o strumenti analoghi. Fra i task irrisolti nell’ambito delle reti neurali, è di particolare interesse lo studio della coreference resolution. In tale task l’obiettivo è quello di risolvere le coreferenze in un testo, ovvero associare menzioni che si riferiscono ad una stessa entità. Il fenomeno in esame risulta particolarmente interessante, in quanto comprende aspetti semantici e sintattici del linguaggio, che devono essere utilizzati per giungere a buoni risultati. Un ulteriore caratteristica della coreference è la relazione di tale fenomeno con il concetto di “contesto linguistico”. È infatti dal contesto che circonda una menzione che è possibile intuire a quale entità esso si riferisca. Si presenta con questa tesi un solver per la coreference basato su reti neurali deep, che sfrutti reti recurrent per trattare il problema. La proposta si basa sulla supposizione che sia necessario introdurre delle componenti della rete che siano in grado di fornire una rappresentazione delle menzioni, in modo da poter utilizzare tali risultati per affrontare il problema della coreference resolution.

Durante il lavoro di tesi è stata realizzata una applicazione web finalizzata al caricamento e modifica di immagini storiche. L'applicazione web è stata realizzata sfruttando tecnologie come il PHP, per il lato back-end, Javascript, HTML e CSS, per il lato front-end, e MySQL per la creazione e gestione del database. L’applicazione offre, inoltre, una funzionalità di rilevamento volti per le immagini caricate. Per tale funzionalità è stata impiegata la rete neurale convoluzionale You Only Look Once (YOLO). Durante il lavoro di tesi, sono stati svolti degli esperimenti per verificare le prestazioni della rete neurale. Tali esperimenti consistevano nell'analizzare 5000 immagini processate da YOLO per poter individuare i True Positive, False Positive e False Negative necessari a calcolare il miss rate e la sensitività dell’algoritmo.

Lo scopo di questa tesi è quello di introdurre alcune applicazioni della topologia algebrica, e in particolare della teoria dell’omologia persistente, alle reti neurali. A tal fine, nel primo capitolo dell’elaborato vengono introdotti i concetti di neurone e rete neurale artificiale. Viene posta particolare attenzione sull’addestramento di una rete, spiegando anche delle problematiche e delle caratteristiche ad esso legate, come il problema dell’overfitting e la capacità di generalizzazione. All’interno dello stesso capitolo vengono anche esposti il concetto di similarità tra due reti e il concetto di pruning, e vengono definiti rigorosamente i problemi di classificazione. Nel secondo capitolo vengono introdotte le nozioni basilari relative all’omologia persistente, vengono forniti degli strumenti utili alla visualizzazione e comparazione di tali nozioni (i barcodes e i diagrammi di persistenza), e vengono esposti dei metodi per la costruzione di complessi simpliciali a partire da grafi o insiemi di punti in R^d. Nel terzo e ultimo capitolo vengono riportati i risultati di applicazione cui ci si riferiva all’inizio dell’abstract. In particolare, vengono esposte delle ricerche basate sull’utilizzo dell’omologia persistente riguardanti la creazione di misure di espressività e similarità di architetture neurali, la messa a punto di un metodo di pruning, la creazione di una rete neurale resistente agli adversarial attacks di misura data, e alcuni risultati sulla modifica topologica dei dati che vengono elaborati da un’architettura neurale.

Ansiktsigenkänning med hjälp av maskininlärning är ett växande område och används i många sammanhang i dagens samhälle, till exempel som autentiseringsmetod i mobiltelefoner. De flesta system för ansiktsigenkänning har haft stor budget och starka utvecklare bakom sig, men går det att skapa ett fungerande system med begränsade resurser och datamängd? Det här projektet undersöker hur mycket data som krävs för att producera en fungerande ansiktsautentiseringssmodul för kontorsmiljö baserad på bildklassificering. I projektet används ett förtränat Convolutional Neural Network (ResNet34), data som är insamlad med hjälp av uppdragsgivaren samt en bilddatabas från NVIDIA. Resultaten visar att mängden data som krävs för att producera en tillförlitlig modell troligtvis överstiger den mängd som är rimlig att samla in från användaren.
Face recognition using machine learning is a changing field and is used in many contexts in today’s society, for example as an authentication method in mobile phones. Most face recognition systems have had large budgets and strong developers behind them, but is it possible to create a working system with a limited amount of resourses and data? This project investigates how much data is required to produce a working face recognition module for an office environment based on image classification. This project used a pretrained Convolutional Neural Network (ResNet34), data collected with the help of the client, and an image database from NVIDIA. The results show that the amount of data required to produce and reliable model probably exceeds the amount that is reasonable to collect from the user.

Negli ultimi anni abbiamo assistito all'ascesa delle Reti Neurali Profonde. Sin dall'introduzione di AlexNet, nel 2012, la comunità di ricercatori e industrie che sfruttano l'Apprendimento Profondo è cresciuta a dismisura. Tale aumento di visibilità ha portato all'avanzamento dello stato dell'arte in diversi campi: visione artificiale, elaborazione del linguaggio naturale e modellazione di serie temporali. Il successo dell'apprendimento profondo ha posto nuove sfide metodologiche per l'accademia e al tempo stesso ha reso possibile all'industria il dispiego di servizi web su larga scala impensabili pochi anni fa. Nonostante tale indiscutibile successo, l'apprendimento automatico non è privo di limiti: sviluppare nuovi modelli è costoso, la loro interpretabilità è scarsa, il loro impiego richiede esperti altamente specializzati e, non per ultimo, ogni rete neurale profonda richiede un grande quantitativo di dati per essere allenata. In più, in letteratura mancano ancora risultati teorici fondamentali a garantire la convergenza dell'ottimizzazione e la generalizzazione dei modelli profondi. In questa tesi studiamo l'addestrabilità e la capacità di generalizzazione delle reti neurali profonde: in particolare, analizziamo le traiettorie di ottimizzazione e di generalizzazione di modelli sovra parametrizzati; in più, proponiamo un bias induttivo specializzato e una regolarizzazione che favoriscono sia l'interpretabilità che la generalizzazione delle reti neurali profonde. Il punto di partenza della nostra analisi è un risultato recentemente proposto in letteratura: il “Neural Tangent Kernel” per modelli sovra parametrizzati. Basandoci su questo strumento, studiamo il numero di passi di ottimizzazione necessari ad una rete neurale profonda pre-allenata per convergere ad un dato valore della funzione di costo (“Tempo di Allenamento”). In più, sfruttando la teoria sul “Neural Tangent Kernel”, risolviamo il problema di scegliere il miglior modello pre-allenato all'interno di un “model zoo” quando solamente i dati su cui allenare la rete neurale sono noti e senza ottimizzare alcun modello. La nostra analisi è spinta dalla necessità di sbloccare l'adozione di sistemi per la visione artificiale su larga scala: in cui gli utenti allenano modelli selezionandoli all'interno di un “model zoo” ottenuto combinando svariate architetture pre-allenate ed iper-parametri, ma sono riluttanti a farlo senza una stima del costo. I nostri risultati, basati su una nuova analisi dell'interazione tra generalizzazione e sovra-parametrizzazione, sono un passo avanti nello studio della capacità di adattamento delle reti neurali profonde. Sfruttando questi risultati proponiamo quindi una nuova architettura profonda basata su un forte bias induttivo e regolarizzazione esplicita, entrambi sono pensati ed usati per limitare la capacità espressiva dell'architettura e permettono di applicare tecniche Bayesiane di selezione automatica della complessità. Per concludere, applichiamo con successo il nostro metodo per l’identificazione di sistemi non-lineari e per l’individuazione di anomalie su serie temporali di grandi dimensioni.
The last few years have witnessed the rise of Deep Neural Networks. Since the introduction of AlexNet in 2012, the community of researchers and industries employing Deep Learning has exploded. This surge in attention led to the development of State of The Art algorithms in many different fields such as Computer Vision, Natural Language Processing and Time Series modeling. The empirical success of Deep Learning posed new methodological challenges for academia and allowed industry to deploy world-wide large scale web services unthinkable ten years ago. Despite such incontrovertible success, Deep Learning does not come free of issues: model design is highly costly, model interpretability is not easy, deployment often requires very specialized experts and, not least, any Deep Neural Network requires a large amount of data for training. Moreover, from a theoretical standpoint many important guarantees on optimization convergence and generalization are still lacking. In this thesis we address trainability and generalization of Deep Neural Network models: we analyze the optimization trajectories and the generalization of typical over-parametrized models; moreover, we design a specialized inductive bias and regularization scheme to foster interpretability and generalization of Deep Neural Networks. The starting point in our analysis is a recently proposed tool: the Neural Tangent Kernel for over-parametrized models. Building on this fundamental result, we investigate the number of optimization steps that a pre-trained Deep Neural Network needs to converge to a given value of the loss function ("Training Time"). Moreover, we exploit the Neural Tangent Kernel theory to solve the problem of choosing the best pre-trained Deep Neural Network within a "model zoo" when only the target dataset is known and without training any model ("Model Selection"). Our analysis started to unblock the adoption of real-world Computer Vision AutoML systems: Users fine-tune models selected from a large "model zoo" testing hundreds of combinations of different architectures, pre-training sets and hyper-parameters, but are reluctant to do so without an estimate of the expected training cost. Our results are a step towards better understanding of transfer learning through a novel study on the interplay between generalization and highly over-parametrized Deep Neural Networks. We then build a specialized Deep architecture equipped with a strong inductive bias and explicit regularization, that are designed both to constrain the representational power of our architecture and to allow Bayesian automatic complexity selection. Then, we show our novel method can be successfully applied both for non-linear System Identification and for Anomaly Detection of large scale Time Series.

The thesis describes a hardware/sofwtare system based on human neurons adhering to microelectrode arrays and interfaced to a robotic actuator. After a learning phase, the user stimulates the biological network of neurons by means of digital bidimensional patterns, the neurons react in an organized fashion and the Artificial Neural Network decodes their signals moving the robot. The system replies with more than 90% correct answers.

Il problema del riconoscimento ottico di caratteri all’interno delle immagini è ormai studiato da decenni e, nel corso degli anni, sono stati proposti molti algoritmi che mirano a risolvere il problema a vari livelli di “generalità” (cioè con la presenza o meno di vincoli relativi alle caratteristiche dell’immagine da analizzare). Tuttavia, ad oggi, molti tra i software (che si occupano del riconoscimento di caratteri) sviluppati per il robot Nao di Aldebaran Robotics si appoggiano a librerie software di Optical Character Recognition (OCR) già pronte all'uso come, ad esempio, Tesseract. In questa tesi verrà illustrato un approccio alternativo al problema, che mostra come sia stato possibile creare da zero un software che non utilizza librerie di OCR preesistenti ma che, combinando l'utilizzo di alcune Reti Neurali Convoluzionali (addestrate ad hoc) con alcune funzioni basilari per la manipolazione delle immagini di una libreria di Computer Vision largamente utilizzata (quale è OpenCV), è comunque capace di garantire buoni risultati in termini di accuratezza per quanto riguarda la localizzazione del testo all'interno dell'immagine, la successiva segmentazione dello stesso nelle sue componenti più elementari (cioè righe di testo, parole e caratteri), il riconoscimento dei singoli caratteri e, infine, la riaggregazione delle lettere riconosciute in parole.

Questa tesi descrive lo studio e l’implementazione di un sistema basilare di autopilota in cui vengano coniugati aspetti di Computer Graphics e tecnologie innovative del Machine Learning, nello specifico il "Behavioural Cloning", una metodologia di apprendimento supervisionato in cui le capacità cognitive possono essere carpite e riprodotte da un programma, attraverso l’imitazione. Perché ciò avvenga è necessario possedere un record di una serie di azioni logiche che un soggetto ha precedentemente registrato e memorizzato. Il programma di apprendimento utilizza queste informazioni per costruire una funzione che mappi l’input di un certo stato, al suo corrispondente output. In questa tesi si vedono questi principi applicati alla creazione di un veicolo virtuale a guida autonoma, e se ne descrivono le caratteristiche, sperimentando con nuove strategie e migliorie applicate al modello neurale.

L'argomento principale di questa tesi è il problema di super risoluzione applicato all'ambito dell'imaging. Lo scopo è quello di fornire una panoramica generale sul problema e sugli approcci possibili, e di presentare dei modelli di soluzione basati sull'uso di reti neurali arti�ficiali.

L’architettura analizzata è Deep Recursive Attentive Writer(DRAW), un modello generativo iterativo. L’idea è quella di affrontare il problema della generazione automatica di un'immagine come lo farebbe una persona a cui viene richiesto di disegnare un oggetto. Il primo getto rappresenterebbe lo scheletro dell’oggetto, nel caso di un viso ad esempio la forma del naso, della bocca, degli occhi e cosı̀ via. La seconda passata andrebbe invece a raffinare le forme, rendendole più uniformi e coerenti tra loro. Alla terza rifinitura, le ombre, la profondità ecc. Cosı̀ via fino a una soddisfacente qualità del disegno prodotto.

A partire dagli anni '70, con la diffusione dei primi dispositivi per la tomografia assiale computerizzata (TAC), si è assistito ad un'evoluzione sempre più rapida delle modalità con cui si acquisiscono, si conservano e si analizzano le immagini per la diagnosi medica. L’elemento che ha segnato il maggior cambiamento è stato il passaggio da informazioni analogiche, statiche e prettamente bidimensionali come quelle che derivano dalle immagini radiografiche (raggi X), ad informazioni digitali, eventualmente dinamiche e contenenti informazioni tridimensionali. Tutto ciò è stato reso possibile attraverso la transizione da sistemi basati su pellicola a sistemi basati su calcolatori. L’immediata conseguenza di questo sviluppo è stata la necessità di generare algoritmi e metodologie di interpretazione dei dati acquisiti, che simulino al meglio la conoscenza dell’esperto umano, che resta, a tutt'oggi, il più efficiente sistema di elaborazione dei dati medicali conosciuti. Automatizzare il processo di diagnostica, utilizzando un moderno sistema di visione artificiale in grado di segnalare, a partire ad esempio da una radiografia o una risonanza magnetica, quali siano le zone affette da patologia, permetterebbe di velocizzare e rendere più affidabile la diagnosi oltre ad offrire un notevole ausilio a colui che deve redigere un referto medico. Da questo punto di vista gli algoritmi di segmentazione semantica sono in grado di associare un’etichetta o una categoria a ogni pixel dell’immagine e quindi ben si prestano ad identificare in un’immagine medica quali siano le zone che necessitano di un’ulteriore approfondimento. Ma non solo, oggi tali tecniche hanno raggiunto performance tali da essere considerate confrontabili con quelle degli esperti. In questo lavoro di tesi si vogliono identificare e valutare alcune architetture e tecniche in ambito di semantic segmentation per l’individuazione di patologie a partire da immagini radiografiche.

Il presente elaborato illustra l'applicazione delle reti neurali artificiali nel rilevamento, a fini di screening, di malattie oculari. Di particolare interesse in questo ambito sono le reti neurali convoluzionali, generalmente usate nel riconoscimento delle immagini, che vengono impiegate per rilevare i sintomi delle malattie oculari fornendo loro foto di occhi. Nell'elaborato verranno analizzate le applicazioni delle reti neurali artificiali nel rilevamento di malattie oculari nell'infanzia, nel rilevamento del glaucoma e nel rilevamento della retinopatia diabetica. La tesi sarà suddivisa in capitoli: nel primo capitolo, saranno analizzati i concetti base dietro al funzionamento di una rete neurale artificiale, partendo dal machine learning, branca dell'intelligenza artificiale a cui appartengono le reti neurali artificiali; nel secondo capitolo saranno esposte le malattie trattate nell'elaborato, spiegando i sintomi che dovranno essere rilevati dalle reti neurali; nel terzo capitolo saranno esposti alcuni esempi di applicazioni delle reti neurali artificiali nel rilevamento delle malattie oculari esposte, di cui saranno analizzate sensibilità e specificità, parametri importanti nello screening.

Il lavoro di questa tesi verte sulla progettazione e sulla realizzazione di un software di machine-learning che svolga un compito di Sentiment Analysis, in particolar modo è stato svolto nell'ambito di un progetto commissionato all'azienda presso la quale ho svolto il mio tirocinio. Come fonte di dati da cui iniziare e su cui basare il progetto ho scelto alcuni social networks, per via della grande quantità di dati che offrono. Prima e durante il lavoro di tesi ho studiato i principi del machine-learning ed in particolare delle reti neurali, concetti che furono in seguito applicati nella realizzazione delle reti per lo svolgimento del compito di Sentiment Analysis.

Machine Learning e Deep Learning nell'ambito medico. Focus sull'imaging medico. Analisi di un DataSet con 188 radiografie di toraci tramite addestramento con Reti Neurali Convoluzionali, mostrando andamento del Misclassification Rate al variare dei parametri della Rete.

Il presente elaborato ha studiato i sistemi di assistenza avanzata al conducente (ADAS), focalizzandosi sull’Adaptive Cruise Control (ACC). Si sono studiati diversi aspetti comportamentali dei conducenti in funzione del sistema ACC come il visual behaviour dei conducenti, i dati cinematici del veicolo (driving behaviour) e il tempo di percezione-reazione in situazioni critiche. Si è descritta la sperimentazione svolta in sito e le strumentazioni innovative, tra le quali il Mobile eye tracker, utilizzate per la raccolta dati. Per eseguire l’elaborazione dei dati sono state applicate tecniche di machine learning, mediante l’applicazione di una rete neurale artificiale realizzata appositamente per questo studio, risultando uno dei primi nel settore ad utilizzare tale metodologia. Si è descritto il codice della rete e valutate le prestazioni della stessa. Infine sono state eseguite analisi sul comportamento dei conducenti in funzione dello stato (on/off) del sistema.

Nel primo capitolo di questo elaborato vengono esposte le basi di un algoritmo di classificazione Machine Learning. In particolare ci si concentra sull’obiettivo dello stesso, ovvero generare una funzione ipotesi in grado di svolgere il compito richiesto. Per controllare il successo di questa operazione viene introdotto il concetto di errore, ovvero quanto la soluzione trovata è vicina a quella cercata. Essendo quest’ultima sconosciuta, è impossibile calcolare effettivamente l’errore reale, per questo viene utilizzato l’errore empirico, che riflette quanto é efficace la funzione ipotesi su un insieme di allenamento. Questo processo, per funzionare, necessita che l’errore empirico sia effettivamente una buona approssimazione dell’errore reale, proprietà verificata dagli algoritmi dotati della proprietà di Uniform Convergence. Verrà quindi esposto cosa significa, quali sono le condizioni per ottenerla e una classe di problemi per cui è particolarmente efficiente seguire questo processo (Convex Optimization). Nel secondo capitolo viene analizzato un particolare tipo di algoritmi, le reti neurali. Verrà esposto come i principi precedentemente visti per il Machine Learning non valgono nel caso delle reti neurali, problema che rende necessari nuovi risultati per garantire il successo dell’algoritmo. In particolare si affronta lo studio delle reti a due livelli, con qualche risultato sulla convergenza delle ipotesi così prodotte. Riguardo questo argomento l'elaborato descrive due teoremi che permettono di dimostrare come sia possibile approssimare, tramite una rete neurale a due livelli, una classe di funzioni abbastanza ampia e come l’errore raggiunto sia inversamente proporzionale al numero di neuroni. Il primo risultato ci assicura la convergenza dell’errore di approssimazione mentre il secondo ci indica il numero di neuroni necessari per raggiungere quel grado di approssimazione.

E' stato affrontato lo studio di un'algoritmo per l'addestramento di reti neurali sul riconoscimento di genere sul supercalcolatore ENEA-CRESCO, al fine di poter essere sfruttato per il progetto Share Art, un programma ENEA. Share Art consiste in un dispositivo che permette, attraverso una telecamera ad infrarossi, di rilevare automaticamente i volti che guardano in direzione della telecamera, acquisendo contestualmente una serie di informazioni relative all’osservazione delle opere d’arte, come ad esempio il tempo di permanenza, la distanza, il percorso compiuto. L'addestramento di una rete neurale su un'architettura diversa dalla nostra, quale è CRESCO, ha previsto una mirata predisposizione dell'ambiente di sviluppo, così da isolare le componenti necessarie utilizzate dall'algoritmo. Procedura fondamentale è stata quindi quella di pacchettizzare in un container il tutto, renderlo accessibile all'applicazione, e poter utilizzare ciò che l'applicazione necessitava per essere eseguita senza i permessi di amministratore di sistema. Verranno mostrati i passi che sono stati seguiti per la creazione dell'ambiente di sviluppo, del container Docker e della predisposizione delle dipendenze necessarie, come ad esempio le librerie Tensorflow e Keras. Alla base del sistema Share Art le telecamere generano un flusso di dati che è l'input dell'analisi che viene eseguita direttamente sul Raspberry per verificare ad esempio il corretto utilizzo della mascherina e il rispetto del distanziamento sociale. I dispositivi Share Art installati presso il museo, generano quindi dati importanti della ricerca in ambito museale. Sarà quindi affrontato il tema della gestione dei dati e del loro trasferimento riformulando un programma che apporti scalabilità ad un sistema già esistente. Si è scelto di utilizzare un protocollo standard dell'IoT, MQTT, il tutto supportato da un linguaggio sviluppato presso l'Università di Bologna, Jolie.

Il presente elaborato ha per oggetto la tematica del Sé, in particolar modo il Sé corporeo. Il primo capitolo illustrerà la cornice teorica degli studi sul riconoscimento del Sé corporeo, affrontando come avviene l’elaborazione del proprio corpo e del proprio volto rispetto alle parti corporee delle altre persone. Il secondo capitolo descriverà uno studio su soggetti sani che indaga l’eccitabilità della corteccia motoria nei processi di riconoscimento sé/altro. I risultati mostrano un incremento dell’eccitabilità corticospinale dell’emisfero destro in seguito alla presentazione di stimoli propri (mano e cellulare), a 600 e 900 ms dopo la presentazione dello stimolo, fornendo informazioni sulla specializzazione emisferica substrati neurali e sulla temporalità dei processi che sottendono all’elaborazione del sé. Il terzo capitolo indagherà il contributo del movimento nel riconoscimento del Sé corporeo in soggetti sani ed in pazienti con lesione cerebrale destra. Le evidenze mostrano come i pazienti, che avevano perso la facilitazione nell’elaborare le parti del proprio corpo statiche, presentano tale facilitazione in seguito alla presentazione di parti del proprio corpo in movimento. Il quarto capitolo si occuperà dello sviluppo del sé corporeo in bambini con sviluppo atipico, affetti da autismo, con riferimento al riconoscimento di posture emotive proprie ed altrui. Questo studio mostra come alcuni processi legati al sé possono essere preservati anche in bambini affetti da autismo. Inoltre i dati mostrano che il riconoscimento del sé corporeo è modulato dalle emozioni espresse dalle posture corporee sia in bambini con sviluppo tipico che in bambini affetti da autismo. Il quinto capitolo sarà dedicato al ruolo dei gesti nel riconoscimento del corpo proprio ed altrui. I dati di questo studio evidenziano come il contenuto comunicativo dei gesti possa facilitare l’elaborazione di parti del corpo altrui. Nella discussione generale i risultati dei diversi studi verranno considerati all’interno della loro cornice teorica.
The present study concerns the theme of the self, especially the bodily self. The first chapter will describe the theoretical framework of self-body recognition and the processing that allow us to distinguish one’s own body and face from body and face of someone else. The second chapter will investigate motor cortex excitability during self/other recognition processing in healthy subjects. The results show an increment of motor corticospinal excitability in the right hemisphere following the presentation of self stimuli (hand and phone), at 600 and 900 ms after stimulus presentation, providing evidences about neural substrates and temporal processes underlying self-body recognition. The third chapter will describe the role of the movement in self bodily recognition in healthy subjects and in patients with right brain damage. The evidences show that patients, who did not show the advantage in the implicit recognition of self static body parts , present this advantage in the implicit recognition of self dynamic body parts. The fourth chapter will focus on the development of the bodily self in children with typical development and in children with autism, with respect to the recognition of self/other emotional body postures. First, this study shows that the advantage in bodily self processing is preserved in children with autism. Second, emotional body postures modulate self and others body processing in typically developmental children as well as in children with autism. The fifth chapter will study the role of gesture in self/other bodily recognition processing, showing that the meaning of the gesture modulates the self/other processing. The processing of others’ hand is facilitated with meaningful compared to meaningless gestures. The overall significance of the results will be argued in the general discussion.

Il presente elaborato ha per oggetto la tematica del Sé, in particolar modo il Sé corporeo. Il primo capitolo illustrerà la cornice teorica degli studi sul riconoscimento del Sé corporeo, affrontando come avviene l’elaborazione del proprio corpo e del proprio volto rispetto alle parti corporee delle altre persone. Il secondo capitolo descriverà uno studio su soggetti sani che indaga l’eccitabilità della corteccia motoria nei processi di riconoscimento sé/altro. I risultati mostrano un incremento dell’eccitabilità corticospinale dell’emisfero destro in seguito alla presentazione di stimoli propri (mano e cellulare), a 600 e 900 ms dopo la presentazione dello stimolo, fornendo informazioni sulla specializzazione emisferica substrati neurali e sulla temporalità dei processi che sottendono all’elaborazione del sé. Il terzo capitolo indagherà il contributo del movimento nel riconoscimento del Sé corporeo in soggetti sani ed in pazienti con lesione cerebrale destra. Le evidenze mostrano come i pazienti, che avevano perso la facilitazione nell’elaborare le parti del proprio corpo statiche, presentano tale facilitazione in seguito alla presentazione di parti del proprio corpo in movimento. Il quarto capitolo si occuperà dello sviluppo del sé corporeo in bambini con sviluppo atipico, affetti da autismo, con riferimento al riconoscimento di posture emotive proprie ed altrui. Questo studio mostra come alcuni processi legati al sé possono essere preservati anche in bambini affetti da autismo. Inoltre i dati mostrano che il riconoscimento del sé corporeo è modulato dalle emozioni espresse dalle posture corporee sia in bambini con sviluppo tipico che in bambini affetti da autismo. Il quinto capitolo sarà dedicato al ruolo dei gesti nel riconoscimento del corpo proprio ed altrui. I dati di questo studio evidenziano come il contenuto comunicativo dei gesti possa facilitare l’elaborazione di parti del corpo altrui. Nella discussione generale i risultati dei diversi studi verranno considerati all’interno della loro cornice teorica.
The present study concerns the theme of the self, especially the bodily self. The first chapter will describe the theoretical framework of self-body recognition and the processing that allow us to distinguish one’s own body and face from body and face of someone else. The second chapter will investigate motor cortex excitability during self/other recognition processing in healthy subjects. The results show an increment of motor corticospinal excitability in the right hemisphere following the presentation of self stimuli (hand and phone), at 600 and 900 ms after stimulus presentation, providing evidences about neural substrates and temporal processes underlying self-body recognition. The third chapter will describe the role of the movement in self bodily recognition in healthy subjects and in patients with right brain damage. The evidences show that patients, who did not show the advantage in the implicit recognition of self static body parts , present this advantage in the implicit recognition of self dynamic body parts. The fourth chapter will focus on the development of the bodily self in children with typical development and in children with autism, with respect to the recognition of self/other emotional body postures. First, this study shows that the advantage in bodily self processing is preserved in children with autism. Second, emotional body postures modulate self and others body processing in typically developmental children as well as in children with autism. The fifth chapter will study the role of gesture in self/other bodily recognition processing, showing that the meaning of the gesture modulates the self/other processing. The processing of others’ hand is facilitated with meaningful compared to meaningless gestures. The overall significance of the results will be argued in the general discussion.

L'obiettivo della tesi risiede innanzitutto nel presentare il fenomeno dei prezzi predatori ponendo l'accento sulle teorie più rilevanti elaborate dapprima in America e in seguito in Europa, e in secondo luogo nella costruzione di un modello basato su di una rete neurale che sia in grado di riconoscere, sulla base di input predefiniti, l'eventuale comportamento predatorio messo in atto da una specifica impresa.

Nella parte iniziale viene fornita una panoramica circa la misurazione del rischio di credito e il contesto normativo di riferimento (Accordi di Basilea). Dopo un'analisi delle tecniche statistiche tradizionali per la stima dell'insolvenza aziendale più note in letteratura, vengono introdotte tecniche alternative basate sul machine learning. L'obiettivo principale dell'elaborato consiste nel valutare la capacità di quest'ultime e, in particolar modo delle Reti neurali artificiali, di sovraperformare rispetto agli strumenti statistici tradizionali. A tale scopo vengono comparate le performance previsive del modello Logit con un Multilayer Perceptron in un dataset contenente circa 400 imprese italiane.

Uno dei problemi di Computer Vision più studiati è quello dell’individuazione di facce in un’immagine (face detection). Negli ultimi anni sono stati proposti algoritmi discriminativi basati su tecniche di Deep Learning in grado di raggiungere prestazioni allo stato dell'arte. In questo lavoro viene esplorata la possibilità di costruire un algoritmo di face detection usando solo esempi positivi (facce) con reti neurali convoluzionali pre-addestrate; le prestazioni dell'algoritmo proposto vengono valutate su un noto benchmark di face detection.

L’obiettivo di questa tesi è stato quello di sperimentare nuove metodologie di training per le reti neurali di tipo autoencoder, delle reti addestrate per ricostruire in output gli stessi dati di input. Una nuova metodologia è stata introdotta modificando gli autoencoder inclusi in una baseline realizzata ad-hoc per questo lavoro di tesi. Essa consiste nel voler addestrare la rete a ricostruire un'immagine diversa da quella di input ma appartenente alla medesima classe. I risultati ottenuti, a discapito di una minore precisione della classificazione, presentano un comportamento “anomalo” nella ricostruzione degli output. Questi interessanti risultati hanno dato spazio ad ulteriori sperimentazioni che, come nel caso del classificatore di Mahalanobis, hanno dimostrato una maggiore efficienza nell’apprendere delle caratteristiche proprie di ogni classe del dataset MNIST. Infine è stata realizzata una sorta di rete di “merging” delle classificazioni effettuate dalle due tipologie di reti. La nuova classificazione ottenuta è risultata più precisa rispetto ad entrambe le precedenti. In generale i risultati ottenuti sono stati molto interessanti ed hanno dimostrato che la nuova metodologia adottata apre le porte a diverse sperimentazioni atte alla valorizzazione delle caratteristiche così apprese.

Un’alterazione del sistema dopaminergico induce il malfunzionamento del circuito neuronale dei gangli della base (BG), determinando malattie cognitive quali il Parkinson (PD). Uno dei principali deficit indotti dal Parkinson è la bradicinesia, ovvero il progressivo rallentamento delle funzioni motorie. Attraverso l’utilizzo di un modello neurocomputazionale si è cercato di riprodurre il circuito neuronale dei gangli della base e il ruolo della dopamina (DA) al suo interno. Il modello comprende tre vie principali (diretta, indiretta e iperdiretta) e l’uso della regola di Hebb per simulare l’attività sinaptica nello striato. Il peso sinaptico nel modello dipende dall’apprendimento, caratterizzato da punizioni e ricompense. Si mostrerà l’effetto benefico della levodopa basandoci, soprattutto, sulle performance del ‘finger tapping task’. Infatti i pazienti addestrati sotto questo trattamento, mostrano la capacità di migliorare le prestazioni motorie; viceversa, in condizioni in cui viene attenuata la somministrazione di levodopa, i soggetti in esame sono inclini ad una plasticità sinaptica corticostriatale disfunzionale che causa un peggioramento delle prestazioni motorie. Tutti questi fattori, suggeriscono che la bradicinesia dipenda non soltanto da bassi valori di dopamina ma anche da una disfunzione della plasticità sinaptica, e che è possibile sfruttare l’apprendimento sinaptico dei soggetti sotto cura per migliorare il trattamento attraverso la levodopa.

In questo documento cerco un metodo per migliorare le prestazioni del MRF (Magnetic Resonance Fingerprinting), una tecnica di risonanza magnetica quantitativa. Il problema è quello di diminuire il tempo di calcolo necessario per determinare i parametri tissutali relativi alla risonanza magnetica effettuata. Il metodo proposto è quello dell'utilizzo di reti neurali a valori complessi con input il segnale di risonanza magnetica e con output i valori relativi ai parametri che si vogliono studiare. Dopo aver chiarito il concetto di risonanza magnetica, di MRF ed i problemi ad essi associati, introduco le reti neurali: l'architettura, la dinamica e l'apprendimento relativi ad esse. Discuto a seguire i problemi relativi all'introduzione dei numeri complessi nel modello di rete neurale e anche i vantaggi che le reti neurali a valori complessi possono portare, non solo rispetto ai metodi tradizionali, ma anche rispetto a reti neurali a valori reali. Analizzo inoltre delle tecniche utili a migliorare la generalizzazione e rendere le reti neurali a valori complessi una soluzione ancora più concreta. Studio quindi i miglioramenti introdotti dagli ensemble di reti neurali e dall'applicazione di funzioni d'attivazione stocastiche, che introducono del rumore gaussiano all'interno del modello.

Il lavoro verte sullo studio di alcune metodologie supervisionate finalizzate alla previsione dell'andamento finanziario. In particolar modo sono stati analizzati alcuni metodi considerati lo stato dell'arte e confrontati con modelli neurali sviluppati appositamente. Viene inoltre descritto come le informazioni acquisite tramite social media (twitter) possano influenzare l'andamento finanziare e possano quindi essere usate per fini previsionali.

Detta arbete undersöker två tekniker för att evaluera spelplanen i minimaxalgoritmen. Den tekniken som fokuseras mest på i arbetet är ett artificiellt neuralt nätverk som evolveras med hjälp av samevolution. Tekniken är utformad för att inte behöva någon tidigare mänsklig expertis. Den andra tekniken använder heuristiker och mänsklig expertis för att få fram evalueringsfunktionen. Spelet som används för att testa teknikerna är Kinaschack. Resultaten antyder att tekniken i fokus inte fungerar till spelet Kinaschack. En undersökning där tekniken modifierades så att samevolution byttes ut gav ett bättre resultat. Detta behöver inte betyda att problemet är samevolution Men det tyder på att det är en faktor. Tekniken som arbetet fokuserar på är baserad på ett tidigare arbete där spelet Dam användes. Eftersom tekniken har visats fungera tidigare skulle det vara intressant att testa den med fler spel. I slutet av arbetet diskuteras en variant av tekniken för spelet Schack.

La seguente tesi pone l'interesse sul problema di classificazione di immagini nel mondo del fashion. L'approccio utilizzato è quello del Deep Learning, in particolare sono stati implementati due modelli di reti neurali convolutive, LeNet e una più recente, ResNet. In primo luogo, sono stati approfonditi alcuni concetti teorici inerenti all'intelligenza artificiale, alle reti neurali e alla classificazione di immagini. In secondo luogo, sono state implementate due architetture di rete tramite la piattaforma di Kaggle e il dataset di immagini pubblico caricato sul sito. Sono state utilizzate le librerie TensorFlow e Keras, e il linguaggio Python. Ultimo punto che è stato affrontato è la valutazione delle prestazioni. Con i dati dell'addestramento è stato possibile realizzare un grafico che segna le curve di apprendimento del modello nel corso dell'esperienza o del tempo. Dunque, l'analisi finale valuta le prestazioni delle due differenti reti. Per questa tesi sono state scelte le reti neurali, siccome il Machine Learning fallisce nella classificazione di immagini. Inoltre, è stato scelto un dataset con immagini di risoluzione bassa per problemi di efficienza. L'obiettivo è stato quello di confrontare le due reti neurali per analizzare l’addestramento.

Tidig läckagedetektion är ett sätt att göra vattendistributionsnät effektivare och hållbart. Målet med detta projekt är att undersöka möjligheten att upptäcka läckage i vattenfördelningsnät med hjälp av artificiellt neuralt nätverk. Projektet bygger på reala data som samlats in från Vattendistributionsnätet i Stockholm och fokuserar på hur man presenterar förutsägelsen från neuralt nätverk på ett intellektuellt sätt genom att implementera och analysera behovet av ett tidsfilter. Studien visar att det kan vara möjligt att upptäcka läckage i ett vattendistributionsnät med en binär noggrannhet på 87%. En förbättring till 98% uppnåddes genom att implementera ett tidsfilter.
Early leakage detection is one way to make water distribution networks more efficient and sustainable. The goal of this project is to investigate the possibility to detect leakages in water distribution networks with the help of artificial neural networks. The project is based on real data collected from Stockholm water distribution network and is focusing on how to present the prediction from neural networks in an intellectual manner, by implementing and analyzing the need of a time filter. The study shows that it might be possible to detect leakages in a water distribution network with a binary accuracy of 87\%. An improvement to 98\% was achieved by implementing a time filter.

A partite dallo studio dell’attuale sistema di riconoscimento facciale presente sul robot NAO, questo lavoro di tesi si propone di ricercare una soluzione alternativa, basata sul riconoscimento delle caratteristiche facciali che possa essere utilizzata per estendere l’attuale sistema di riconoscimento in uso dal robot. Le soluzioni proposte per il rilevamento e successivo riconoscimento dei volti, nel robot NAO, si basano su delle librerie software pronte all’uso. In particolare il modulo di visione AlFacedetect consente di rilevare un volto ed in seguito riconoscerlo, mentre La fase di apprendimento avviene grazie al modulo Learn Face presente nel software Choregraphe, sviluppato dalla Aldebaran Robotics. Al fine di ricercare soluzioni alternative ai problemi esposti, sarà illustrato il software sviluppato e gli strumenti utilizzati in ciascuna delle fasi sopra indicate, nessuna delle quali utilizza i moduli built-in presenti nel NAO. La fase iniziale è consistita nella realizzazione dei datasets, uno per ogni caratteristica facciale considerata, dai quali si sono ricavati i diversi training set necessari per addestrare le reti neurali convoluzionali a classificare le caratteristiche facciali prese in esame. Per la fase di detection dei volti si sono utilizzati algoritmi noti in letteratura e opportunamente implementati nella libreria di Computer Vision OpenCV, adattati dinamicamente al compito da svolgere, ovvero alla caratteristica facciale da individuare. In questo modo si sono potute sfruttare appieno le potenzialità e l’efficienza delle reti neurali convoluzionali nello svolgere compiti di classificazione, riuscendo a garantire, nella fase di riconoscimento un’elevata precisione, in termini di accuratezza. La fase finale è consistita nel porting di quanto fatto sul robot NAO, in modo da effettuare la predizione di una determinata caratteristica facciale a partire da un’immagine acquisita attraverso la sua videocamera.

Gli studi sulla decodifica dell'attività neuronale permettono di mappare gli impulsi elettrici della corteccia cerebrale in segnali da inviare a determinati dispositivi per poterli monitorare. È su questo tema che la ricerca scientifica si sta concentrando, al fine di aiutare le persone affette da gravi lesioni fisiche ad ottenere un maggiore grado di autonomia nelle piccole azioni di tutti i giorni. In questo elaborato, sono stati analizzati dati derivanti da attività neuronali raccolti da esperimenti effettuati su primati non umani, eseguiti dal gruppo di ricerca della professoressa Patrizia Fattori nel Dipartimento di Farmacia e Biotecnologie dell'Università di Bologna. Per lo svolgimento di questo esperimento, la cavia, è stata addestrata a svolgere un compito che consiste nell'afferrare gli oggetti proposti, uno alla volta, in ordine casuale. Durante l'esercizio, l'attività neuronale della cavia è stata registrata in vettori contenenti l'attività di spiking. Ciò che si cerca di fare in questa tesi è ricostruire l'informazione relativa all'attività di una popolazione di neuroni, dato il suo spike vector. Sono stati testati diversi algoritmi di classificazione e feature al fine di stabilire quale configurazione sia più affidabile per il riconoscimento dell'attività motoria svolta dalla cavia durante l'esperimento. A tal proposito, è stato implementato un processo di data mining attraverso l'utilizzo del linguaggio python e del framework Scikit-learn che permette di effettuare più classificazioni e stabilire quale fornisce una migliore performance. I risultati dell'analisi dimostrano che alcune feature forniscono alti tassi di riconoscimento e che, a seconda del dominio del problema, è più indicato un determinato tipo di preprocessing rispetto ad un altro.

Negli ultimi anni il Machine Learning e svariate sue applicazioni si sono prepotentemente affermati in molte aree, sia dell'informatica che della vita quotidiana, a partire dalle semplici operazioni svolte con uno smartphone. Un campo in cui si sono avuti notevoli risultati è quello della Visione Artificiale, ovvero dare la possibilità ad una macchina di "vedere" ed apprendere informazioni da immagini e fotografie. In questa tesi si affronta il problema di riconoscere un medicinale partendo dalla foto di una pillola, attraverso la creazione di una rete neurale convoluzionale (o ConvNet) e soprattutto, della sua implementazione all'interno di un'applicazione iOS che possa permettere la classificazione in mobilità. Si partirà dal considerare gli aspetti teorici alla base delle reti neurali, per poi illustrare lo stato dell'arte e le caratteristiche specifiche del modello convoluzionale. In seguito, si illustrerà PillRecogNet, la ConvNet realizzata e specializzata nel riconoscimento di 12 medicinali, insieme ad alcune delle tecniche utilizzare per l'allenamento, quali il transfer learning ed il fine tuning, e le relative statistiche sull'accuratezza. Sebbene una rete neurale convoluzionale sia un modello computazionalmente oneroso, si mostrerà com'è stato possibile implementare PillRecogNet in un'applicazione per smartphone, descrivendo prima alcune delle possibile tecnologie utilizzabili e, in seguito, le scelte implementative effettuate al fine di poter sfruttare la capacità di calcolo delle GPU dei dispositivi mobili. Infine, si mostreranno i risultati promettenti ottenuti, sia riguardo l'esecuzione di un modello da circa 28 milioni di parametri in uno smartphone, sia riguardo possibili sviluppi futuri quali l'utilizzo dell'applicazione in campo medico per la supervisione di una terapia farmacologica da parte del personale sanitario.

PreventIT è un progetto europeo nato con il fine di prevenire il declino funzionale e l'insorgere di disabilità in persone prossime all'anzianità. Questo viene fatto da una parte promuovendo un invecchiamento salutare attraverso l'uso di dispositivi tecnologici come smartphone e smartwatch che incoraggino l'attività fisica, dall'altra parte effettuando degli screening continui, osservazioni o controlli periodici per analizzare i rischi del declino ed individuare le persone più in pericolo al fine di intervenire il prima possibile. A partire dagli stessi dati utilizzati all'interno del progetto europeo sopra citato, lo scopo della tesi è stato quello di sviluppare un tool parallelo basato su Reti Neurali Artificiali in grado di automatizzare tale analisi del rischio, offrendo una buona previsione del possibile declino funzionale futuro a partire da una serie di osservazioni sulle persone. In particolare, l'interesse scientifico del progetto è stato nel constatare quale fosse il modello di rete neurale che meglio riuscisse a predire una classe di rischio partendo da uno scenario complesso in cui le osservazioni risultano eterogenee poiché estrapolate da multipli dataset differenti. I risultati sperimentali dimostrano che l’utilizzo di Long Short-Term Memory e di Deep Feedforward garantiscono ottime previsioni di declino funzionale, con un AUCROC pari a 0.881 e 0.883 rispettivamente. Ciò indica che un approccio ricorrente ed un’analisi temporale di intere sequenze di osservazioni potrebbero non risultare necessari per la predizione del declino funzionale.

L'enorme quantità di dati sviluppata tramite le infrastrutture moderne richiede strumentazioni di analisi sempre più precise, rapide e performanti. Per questo negli ultimi anni i metodi del machine learning hanno visto un'esplosione nella ricerca e nell'utilizzo di algoritmi mano a mano più efficienti per ogni disciplina. Due tra le numerose famiglie di tecniche appartenenti alla sfera del machine learning sono reti neurali e algoritmi genetici. Il progetto di tesi presentato ha come obiettivo quello di verificare la possibilità di evolvere la struttura di una rete neurale attraverso un algoritmo genetico in modo da automatizzarne il processo di costruzione, che ad oggi consiste in un procedimento di trial and error. La simulazione programmata consiste nell'evoluzione di una popolazione iniziale randomica di neural network tramite le tipiche metodologie di un algoritmo genetico, adattate al caso particolare di una funzione senza un predeterminato numero di variabili, il quale diventa un parametro della ricerca. Le reti verranno addestrate e valutate nella separazione di due classi di punti in dataset artificiali per verificare la bontà dell'algoritmo. Dopodiché lo studio si concentrerà sull'analisi del come e quando la rumorosità dei dati influenzi la complessità della rete ottenuta dall'algoritmo genetico, la quale viene misurata attraverso specifiche caratteristiche. La classificazione nei dataset testati è buona utilizzando un classico controllo binario del successo nella risposta della rete (giusto/sbagliato) tuttavia è migliore utilizzando un particolare metro di valutazione chiamato logarithmic loss. Lo studio sulla complessità della rete mostra una rilevante dipendenza di questa dalla rumorosità del dataset; inoltre, risulta che la separazione tra train test e test set nell'addestramento è sufficiente a regolarizzare la complessità della rete senza altri tipi di penalizzazione.

Negli ultimi dieci anni le reti neurali sono state implementate in moltissimi processi produttivi alimentari andando a semplificare quelle che sono le complesse procedure di controllo ed analisi degli alimenti, sia on-line che off-line. Nel corso di questa tesi verranno analizzare le applicazioni di reti neurali artificiali in tale settore. Una discussione più approfondita riguarderà l’applicazione delle reti accoppiate all’utilizzo del naso elettronico e dei sistemi di computer vision.

Con il presente elaborato si è esplorato il campo della data analytics. È stato analizzato un dataset relativo all' andamento storico del titolo di borsa di una società, i cui dati sono stati manipolati in modo tale da renderli compatibili per un loro utilizzo in una applicazione di Machine Learning. Si sono approfondite le reti neurali artificiali LSTM e con esse si è creato un modello che permettesse di effettuare delle predizioni sui valori futuri del titolo. Infine sono state valutate le differenze tra i valori predetti e quelli reali assunti dal titolo di borsa.

ALICE (A Large Ion Collider Experiment) è l'esperimento sullo studio delle collisioni tra ioni pesanti condotto al Large Hadron Collider del CERN ed è finalizzato allo studio dello stato della materia fortemente interagente in condizioni di alta temperatura e densità di energia, quando si verifica una transizione ad una fase della materia conosciuta come Quark-Gluon Plasma (QGP) in cui quark e gluoni non sono confinati all'interno di barioni e mesoni. Il QGP è oltretutto di difficile osservazione e, a causa della sua breve vita media, le sue proprietà vengono investigate tramite misure indirette cui si occupa ALICE nonché del sistema creato in collisioni a ioni pesanti ultrarelativistici durante tutte le fasi della sua evoluzione, dalla formazione iniziale alla successiva espansione (e raffreddamento). In questo contesto, particelle contenenti quark pesanti, come il charm e il beauty, ricoprono un ruolo essenziale: i quark pesanti vengono creati nelle primissime fasi della collisione da urti fortemente inelastici tra partoni ed attraversano tutto il sistema in espansione. Tali particelle perdono una frazione significativa della loro energia attraversando la materia e, interagendo con essa, ne forniscono le proprietà. In questa tesi è stata considerata la ricostruzione del barione charmato Lambda_c non prompt, ovvero proveniente dal decadimento di adroni beauty, mediante l'utilizzo di reti neurali. La difficoltà di tale analisi rende indispensabile l'approccio multivariato che consente di considerare, contemporaneamente e indipendentemente, proprietà multiple di eventi usufruendo della maggior parte delle informazioni disponibili a mezzo tecniche di machine learning.

Frank Rosenblatt, padre del percettrone, nel 1962 sottolineò che l’ obiettivo ultimo della ricerca nel campo delle reti neurali artificiali doveva essere “indagare le strutture fisiche ed i principi neurodinamici che stanno alla base dell’intelligenza naturale”. A differenza di quel che desiderava Rosenblatt, i metodi maggiormente utilizzati e di conseguenza studiati sono quelli supervisionati, non biologicamente plausibili, ritenuti maggiormente efficaci rispetto alle reti che sfruttano metodi di apprendimento ispirati dalla biofisica dei neuroni. L’ obiettivo della tesi è quello di analizzare due metodi di apprendimento non supervisionati basati su sistemi neuronali biologici: il modello di L.Bienenstock, N.Cooper e W. Mundro del 1982 (BCM) ed il modello di D.Krotov e J.Hopfield del 2019, e comprenderne le reali capacità. La prima parte della tesi rappresenta un’ introduzione al concetto di rete neurale artificiale, al significato di rete multistrato e all’ algoritmo di apprendimento della retro propagazione dell’ errore, tipico delle reti supervisionate. La seconda parte della tesi illustra il funzionamento della BCM e della rete di Hopfield e Krotov. Nei risultati riguardanti la rete del 2019, viene riportato un confronto tra questo modello ed un modello addestrato tramite retro propagazione dell’ errore, con cui riesce a competere nel riconoscimento delle immagini appartenenti a due data set: il MNIST ed il CIFAR-10. Per quanto riguarda la BCM, vengono riportati e discussi i risultati di alcune simulazioni effettuate con la rete modello BCM della libreria Plasticity. Lo scopo delle simulazioni era quello di portare i pesi della rete a memorizzare il maggior numero di pattern differenti possibili, appartenenti al data set MNIST.

Il qui presente elaborato è stato pensato e suddiviso in modo tale da renderlo fruibile a chiunque, cercando innanzitutto di comprendere al meglio quali siano i concetti chiave dal punto di vista tecnico, economico e sociale che orbitano attorno al mondo delle crypto. La 1a parte incentrata su quali aspetti tecnici si devono considerare per analizzare un progetto nell’ambito crypto, analizzando l’ambiente in contrapposizione con le valute tradizionali e cercando di fare chiarezza su diversi progetti, carpendo differenze sostanziali fra le differenti tipologie con differenti scopi, sottolineando cosa realmente significhi coin e cosa token, ma non solo. Si andranno ad analizzare i concetti più importanti insiti nella tokenomics di una crypto e come l’impatto dei social network possa realmente influire in questo mercato in via di sviluppo. Nel 2° capitolo sono stati selezionati e spiegati i differenti algoritmi utilizzati nell’analisi, la quale è stata effettuata principalmente utilizzando Prophet e le reti neurali LSTM. Algoritmi che sono stati eseguiti solo dopo lo studio delle risorse disponibili, al fine di cercare di trarre un’analisi quanto più interessante possibile. Risorse prettamente finanziarie, quindi dati giornalieri borsistici del prezzo ma non solo e la ricerca di fonti le quali coadiuvassero l’aspetto della comunità sottolineato in precedenza ritrovate nel Fear and Greed Index. Ed infine l’analisi vera e propria, la quale è stata effettuata completamente a scopo didattico, non avendo io di certo la presunzione di riuscire ad effettuare una previsione puntuale sul prezzo, quanto più l’idea era di cercare di prevedere un trend, specialmente essendo ad un mio primo tentativo di approccio alle reti neurali. Approccio il quale è stato fatto passo dopo passo, inizialmente con un’analisi univariata sul prezzo di BTC passando poi per diversi tentativi con Prophet per un modello multivariato, concludendo con le LSTM essendo uno strumento più avanzato da gestire.

L'elaborazione del linguaggio naturale (NLP) è il processo per il quale la macchina tenta di imparare le informazioni del parlato o dello scritto tipico dell'essere umano. La procedura è resa particolarmente complessa dalle numerose ambiguità tipiche della lingua o del testo: ironia, metafore, errori ortografici e così via. Grazie all'apprendimento profondo, il Deep Learning, che ha permesso lo sviluppo delle reti neurali, si è raggiunto lo stato dell'arte nell'ambito NLP, tramite l'introduzione di architetture quali Encoder-Decoder, Transformers o meccanismi di attenzione. Le reti neurali, in particolare quelle con memoria o ricorrenti, si prestano molto bene ai task di NLP, per via della loro capacità di apprendere da una grande mole di dati a disposizione, ma anche perché riescono a concentrarsi particolarmente bene sul contesto di ciascuna parola in input o sulla sentiment analysis di una frase. In questo elaborato vengono analizzate le principali tecniche per fare apprendere il linguaggio naturale al calcolatore elettronico; il tutto viene descritto con esempi e parti di codice Python. Per avere una visione completa sull'ambito, si prende come riferimento il libro di testo "Hands-On Machine Learning with Scikit-Learn, Keras and Tensorflow" di Aurélien Géron, oltre che alla bibliografia correlata.

La Brain Computer Interface, con l’acronimo BCI, è un mezzo per la comunicazione tra cervello e macchina. La comunicazione si basa sulla emanazione di segnali elettrici del cervello che vengono rilevati da un dispositivo, il quale invia i segnali digitalizzati ad un elaboratore. I segnali elettrici, chiamati EEG, permettono al cervello di regolare la comunicazione tra le diverse cellule neurali. La BCI intercetta questi segnali e, previa elaborazione, permette di ottenere diversi diagrammi, detti metriche, per poter misurare, sotto svariati aspetti, il funzionamento del cervello. Le ricerche scientifiche sulle EEG hanno rilevato una correlazione tra i segnali elettrici nel cervello di un soggetto con il suo livello di performance e stato emotivo. È quindi possibile comprendere, tramite una serie di parametri, come la mente dei soggetti reagisce a stimoli esterni di svariata tipologia durante lo svolgimento di un’attività. L’elaboratore, che riceve il segnale dalla BCI, è il componente che si occupa di trasformare i segnali elettrici, generati dal cervello e digitalizzati, in risultati facilmente interpretabili dall’utente. Elaborare i segnali EEG in tempo reale porta a dover utilizzare algoritmi creati appositamente per questo scopo e specifici perle metriche preposte. Lo scopo di questa tesi è quello di presentare un progetto sullo sviluppo della fase di smistamento dei dati ricevuti dall’elaboratore. Nel contempo si fornirà una conoscenza scientifica minima per comprendere le scelte fatte. Tale progetto è stato reso possibile dalla collaborazione con l’azienda Vibre, che si dedica allo sviluppo di un sistema comprendente BCI ed elaboratore.

Ogni anno si registra un crescente aumento delle persone affette da patologie neurodegenerative come la sclerosi laterale amiotrofica, la sclerosi multipla, la malattia di Parkinson e persone soggette a gravi disabilità motorie dovute ad ictus, paralisi cerebrale o lesioni al midollo spinale. Spesso tali condizioni comportano menomazioni molto invalidanti e permanenti delle vie nervose, deputate al controllo dei muscoli coinvolti nell’esecuzione volontaria delle azioni. Negli ultimi anni, molti gruppi di ricerca si sono interessati allo sviluppo di sistemi in grado di soddisfare le volontà dell’utente. Tali sistemi sono generalmente definiti interfacce neurali e non sono pensati per funzionare autonomamente ma per interagire con il soggetto. Tali tecnologie, note anche come Brain Computer Interface (BCI), consentono una comunicazione diretta tra il cervello ed un’apparecchiatura esterna, basata generalmente sull’elettroencefalografia (EEG), in grado di far comunicare il sistema nervoso centrale con una periferica esterna. Tali strumenti non impiegano le usuali vie efferenti coinvolte nella produzione di azioni quali nervi e muscoli, ma collegano l'attività cerebrale ad un computer che ne registra ed interpreta le variazioni, permettendo quindi di ripristinare in modo alternativo i collegamenti danneggiati e recuperare, almeno in parte, le funzioni perse. I risultati di numerosi studi dimostrano che i sistemi BCI possono consentire alle persone con gravi disabilità motorie di condividere le loro intenzioni con il mondo circostante e provano perciò il ruolo importante che esse sono in grado di svolgere in alcune fasi della loro vita.

The present dissertation show the fundamental concepts of the integration between psychotherapy and neuroscience, as well the results of four empirical studies about psychotherapy research. The first part describe the evolution of the psychotherapy research, the drive to the proliferation of psychotherapy models, the need for integration among different models of therapy and between them and the neuroscience, and an epistemic reflection on the ways to pursuit integration among different field of research. Then, the technique used in the fourth study (i.e.: functional magnetic resonance imaging, fMRI) is described, together with some of its own criticism and a short review of the first evidences achieved by fMRI on the neural correlate of psychopathology and the effects of psychotherapy. In the second part two theories on which our studies are based are described: The Multiple Code Theory (MCT) and the Resonating Mind Theory (RMT). The different conceptualizations about psychopathology and psychotherapy proposed by the two theories are discussed, as well as the specific contributions of the present studies. The first study show how much is important to investigate together both the intrapsychic and interpersonal dimension of the therapeutic process, and characterize a correlation between positive intervention of therapist and the measure of the referential activity (RA) that catch in the language the dimension of sensory and emotion, considered to be expression of non verbal symbolic processes (subscale CONIM). Clinically, this data suggest a connection between the relational clime present between the therapist and the client, and the access to memoirs and emotion. The second study is the first application of the RA to a brief psychodynamic psychotherapy (conduced according to the model of Fosha and Davanloo) characterized by a dense verbal interaction between therapist and client. The multi instrument evaluation of the therapy showed that index of RA are convergent with index of other instruments for evaluating outcome and process. Moreover, the second study confront the problem present in the literature concerning the difficulty with which the RA discriminate between the first and the last phase of the referential cycle, i.e. the phase of activation and that of reflection. Actually, both are characterized by low levels of RA compared to the central phase, i.e. symbolization. Results show that the phase of activation is associated with relatively high value of CONIM, whereas the phase of reflection is associated with relatively high levels of CLASP (that grasp the logical and formal dimension of the language, expression of symbolic verbal processes), suggesting that the absolute value and the wideness of dissociation between CONIM and CLASP, together with a low level of RA, allow to discriminate which phase of the referential cycle the patient is going through. Clinically, these data suggest that psychotherapists implicitly or explicitly develop a sensibility to catch the most emotive (CONIM) and the most cognitive (CLASP) dimensions of the language, and use this information both to evaluate the phase of the referential cycle in which the client is, and the level of dissociation between symbolic and subsymbolic components of emotive schema. The third study is a broadening of the first, to the extent of eighteen sessions. It single out a correlation among positive, neutral and negative interventions of the therapist and the scale of the RA able to grasp the dimension of the mental images (called Imagery), suggesting a connection between the quality of the patient-therapist relationship and the access to both symbolic non verbal components of emotive schema and prototypic image that organize the experience of self in relationship with other. Clinically, this data suggest that the referential process, that allow the connection between symbolic and non symbolic components of emotional schema, take effect through the recall (related to the relationship) of mental and prototypic images from memory and then their selection and reprocessing. This result in particular aroused the curiosity to take in account not only psychological concepts analyzed into the transcripts (i.e.: fluctuation in Imagery), but also neural processes hypothetically involved (i.e.: neural mechanisms related to recall, selection, reorganization of mental and prototypic images). The fourth study, inspired by such curiosity, explores by fMRI the neural correlates of the four phases of the Therapeutic Cycle Model (TCM), derived from the RMT for empirically evaluate assumptions through the analysis of the two dimension: Emotional Tone (ET) and Abstraction (AB) into the transcriptions of therapeutic sessions. The four phases of TCM are: relaxing (low ET and AB), experiencing (high ET, low AB), reflecting (low ET, high AB) and connecting (high ET and AB). The presence of the connecting is associated to good outcome in several model of psychotherapy. The study characterizes cerebral areas positively modulated by both dimensions ET and AB, and their interaction. Interaction, representative of connecting phase, is correlated with a greater activation of areas associated with the selection mechanism of among competing memories recalled. Clinically, a possible correlate could be that therapist interventions able to elicit both emotive and abstract processing may enhance the recall and the selection of memories, that may be subsequently reprocessed and recoded. Moreover, the study unexpectedly revealed that individual differences in the use of emotional words, measured while subjects were telling narratives, are correlated with the modulation of the deactivation in areas related to the control of emotions during subjects’ exposure to narratives with emotional content. This data suggest that persons who use less emotional words are those that does not deactivate areas of emotional control when exposed to narratives with emotive content. A possible and surprising implication could be that we are in front of possible neural correlates of some very important clinical process, named in different way according to the cognitive tradition (i.e.: emotion regulation, such as suppression or avoidance) or the psychodynamic tradition (i.e.: defence mechanism, such as isolation or repression). In conclusion, approaching the psychotherapy research considering both psychological processes as they are described in different models of psychotherapy and related neural processes seems to enhance a better understanding of clinical interaction in terms of neural dynamics, stimulating a reconceptualization of investigated concepts that promote the integration among models. We call this approach psychoneurodynamics.
Il presente lavoro illustra i concetti fondamentali dell’integrazione tra la psicoterapia e le neuroscienze ed i risultati di quattro studi empirici inerenti la ricerca in psicoterapia. Nella prima parte è descritta l’evoluzione della ricerca in psicoterapia, la spinta alla proliferazione dei modelli di psicoterapia, la necessità di integrazione tra i diversi modelli di terapia e tra loro e le neuroscienze, ed una riflessione epistemologica sui modelli di integrazione tra differenti ambiti di ricerca. Successivamente è descritta la tecnica impiegata nel IV studio, ossia la risonanza magnetica funzionale (fMRI), alcune sue criticità, ed una breve rassegna delle prime evidenze ottenute attraverso la fMRI sui correlati neurali della psicopatologia e degli effetti della psicoterapia. Nella seconda parte sono descritte le due teorie a cui fanno riferimento gli studi: la Teoria dei Codici Multipli (MCT) e la Teoria delle Menti Risonanti (RMT). Sono inoltre illustrate le diverse concettualizzazioni della psicopatologia e della psicoterapia postulate dalle due teorie, ed i contributi introdotti dalle presenti ricerche. Lo studio I mostra l’importanza di indagare insieme sia la dimensione intrapsichica sia quella interpersonale del processo psicoterapeutico, ed individua una correlazione tra gli interventi positivi del terapeuta e la misura dell’attività referenziale (RA) che coglie la dimensione emotiva-sensoriale del linguaggio, espressione dei processi simbolici non verbali (sottoscala CONIM). Clinicamente, questo dato suggerisce una connessione tra il clima relazionale instaurato tra paziente e terapeuta e l’accesso a ricordi ed emozioni. Lo studio II è la prima applicazione della RA ad una psicoterapia psicodinamica breve (condotta secondo il modello di intervento di Fosha e Davanloo), caratterizzata da una fitta interazione verbale tra paziente e terapeuta. La valutazione multi strumentale della terapia ha mostrato che gli indici della RA sono convergenti con gli indici di altri strumenti di valutazione dell’esito e del processo. Lo studio II inoltre affronta il problema presente in letteratura inerente la difficoltà con cui la RA discrimina tra la prima e l’ultima fase del ciclo referenziale, ossia la fase di attivazione e quella di riflessione/riorganizzazione, in quanto entrambe sono caratterizzate da bassi livelli di RA rispetto alla fase centrale, detta di simbolizzazione. I risultati hanno evidenziato che la fase di attivazione si associa a valori relativamente elevati di CONIM, mentre la fase di riflessione si associa a valori relativamente elevati di CLASP (che coglie la dimensione logica e formale del linguaggio, espressione dei processi simbolici verbali), suggerendo che il valore assoluto e l’ampiezza della dissociazione tra i due indici CONIM e CLASP, oltre al basso valore di RA, possono fornire indicazioni sulla fase del ciclo referenziale che il paziente sta attraversando. Clinicamente, questi dati suggeriscono che gli psicoterapeuti implicitamente o esplicitamente sviluppano una sensibilità a cogliere le dimensioni più emotive (CONIM) e più cognitive (CLASP) del linguaggio, e utilizzino questa informazione sia per valutare in quale fase del ciclo referenziale si trovi il paziente, sia il livello di dissociazione tra le componenti simboliche e subsimboliche degli schemi emotivi. Lo studio III è una estensione ad un campione di diciotto sedute dello studio I ed individua una forte correlazione tra gli interventi positivi, neutri e negativi del terapeuta e la scala della RA che coglie la dimensione delle immagini mentali (detta Immaginazione), suggerendo una connessione tra la qualità della relazione tra terapeuta e paziente e l’accesso sia alle componenti simboliche non verbali degli schemi emotivi sia alle immagini prototipiche che organizzano l’esperienza di se in relazione agli altri. Clinicamente questo dato suggerisce che il processo referenziale, che consente la connessione tra le componenti simboliche e non simboliche degli schemi dell’emozione, agisce attraverso il recupero (correlato alla relazione) di immagini mentali e prototipiche dalle proprie memorie, e la loro successiva selezione e rielaborazione. Questo risultato in particolare ha suscitato la curiosità di considerare non solo i concetti psicologici indagati nelle trascrizioni (ad esempio, le fluttuazioni della scala Immaginazione) ma anche gli ipotetici processi neurali sottostanti (ad esempio, i meccanismi neurali coinvolti nel recupero, nella selezione e nella riorganizzazione delle immagini mentali e prototipiche). Lo studio IV, ispirato da tale curiosità, indaga mediante la fMRI i correlati neurali delle quattro fasi del Modello del Ciclo Terapeutico (TCM), derivato dalla RMT per validarne empiricamente gli assunti attraverso l’analisi delle due dimensioni “Tono Emotivo” (ET) ed “Astrazione” (AB) nei trascritti delle terapie. Le quattro fasi del TCM sono relaxing (basso ET, bassa AB ), experiencing (alto ET, bassa AB), reflecting (basso ET, alta AB) e connecting (alto ET, alta AB); la presenza di quest’ultima fase è nota in letteratura per essere associata all’esito positivo del trattamento in numerosi modelli di psicoterapia. Il IV studio individua le aree cerebrali modulate positivamente dalle due dimensioni ET ed AB e dalla loro interazione, ed evidenzia che l’interazione, rappresentativa della fase connecting, è correlata ad una maggior attivazione delle aree associate al meccanismo che seleziona tra memorie recuperate ed in competizione tra loro. Clinicamente, un possibile correlato potrebbe essere che interventi del terapeuta che stimolano contemporaneamente aspetti emotivi ed astratti possono facilitare il recupero e la selezione di memorie che successivamente possono essere rielaborate e ricodificate. Inoltre, lo studio ha inaspettatamente evidenziato che le differenze individuali nell’uso di vocaboli emotivi, rilevate durante la narrazione di storie da parte dei soggetti, sono fortemente correlate alla modulazione delle deattivazioni nelle aree preposte al controllo delle emozioni durante l’esposizione dei soggetti a narrative con contenuto emotivo. Questo dato suggerisce che le persone che usano meno il linguaggio emotivo sono anche quelle che non deattivano le aree del controllo emotivo quando sono esposte a narrative con contenuto emotivo. Un possibile e sorprendente risvolto clinico di questo risultato potrebbe essere che sono stati individuati i possibili correlati neurali di alcuni processi di estremo interesse clinico, variamenti nominati nella tradizione cognitiva (processi di regolazione emotiva, quali la soppressione o l’evitamento) e nella tradizione psicodinamica (meccanismi di difesa, quali l’isolamento o la repressione). In conclusione, l’approccio alla ricerca in psicoterapia che considera contemporaneamente i processi psicologici descritti da diversi modelli di psicoterapia ed i relativi processi neurali sembra favorire una maggiore comprensione delle interazioni cliniche anche in termini di dinamiche neurali, stimolando una riconcettualizzazione dei concetti indagati che favorisce l’integrazione tra modelli. Definiamo questo approccio psiconeurodinamica.

Il presente lavoro di tesi riguarda lo studio e l'impiego di architetture neurali profonde (nello specifico stacked denoising auto-encoder) per la definizione di un modello previsionale di serie temporali. Il modello implementato è stato applicato a dati industriali riguardanti un impianto fotovoltaico reale, per effettuare una predizione della produzione di energia elettrica sulla base della serie temporale che lo caratterizza. I risultati ottenuti hanno evidenziato come la struttura neurale profonda contribuisca a migliorare le prestazioni di previsione di strumenti statistici classici come la regressione lineare multipla.