Active Learning with Dynamical Systems

Abstract

Oggigiorno le reti neurali rappresentano uno dei pilastri principali dell’intelligenza artificiale. Tuttavia, sono affamati di dati, il che significa che per ottenere buoni risultati su problemi come la classificazione delle immagini o il rilevamento di oggetti è necessaria una grande quantità di informazioni. Ciò si traduce in un aumento dei tempi e dei costi di formazione. L'apprendimento attivo vuole superare questo problema trovando le osservazioni e le caratteristiche più importanti che riassumono il set di dati. Avendoli trovati possiamo ottenere risultati molto vicini a quelli ottenuti analizzando l'intero set di dati. Il nostro lavoro vuole esplorare questo campo applicando il Graph Trasduction Game che formula il compito di classificazione come un gioco evolutivo non cooperativo tra N giocatori (campioni) con M strategie (etichette). Raggiungere un equilibrio di Nash corrisponde a trovare un punto stabile di un sistema dinamico, raggiunto il quale tutti i campioni vengono etichettati in modo coerente. A tal fine, la selezione dei campioni da etichettare nel modello AL, si basa i) sul monitoraggio dell'evoluzione dell'entropia lungo l'iterazione del suddetto sistema dinamico e ii) sulla creazione di una funzione di payoff ad hoc tale che campioni simili ( già visti) si sconsiglia di emergere nelle iterazioni successive. Sfruttiamo le prestazioni del nostro approccio su cinque benchmark di classificazione delle immagini disponibili pubblicamente: CIFAR10/100, SVHN, Fashion-MNIST e Tiny-ImageNET. Il codice del è disponibile al seguente link: https://github.com/zuliani99/Active_Learning_GTG