Data augmentation and deep classification with generative adversarial networks

Abstract

Machine learning has seen many advances in recent years. One type of model that has evolved a lot recently is Generative Adversarial Networks (GANs). These models have the ability to create fake data that resembles the data on which they were trained on. The interest for these models has been ever growing since their creation, in 2014. The ability to create fake data has also been found to be quite useful, especially, in data starved areas, like medical imaging. GANs have been used, with positive results, in areas like these to increase the size of the datasets available, as a way to improve the quality of classifiers. This dissertation makes a study with a specific type of GAN, the Auxiliary Classification GAN (AC-GAN), to understand if there may be new ways in which GANs can improve classification tasks. For this, a three parted experimented was designed, with each part being denominated as a Scenario. In Scenario 1 a standalone classifier was trained, in Scenario 2 that same classifier was trained after data augmentation was done with a GAN and, finally, in Scenario 3 an AC-GAN was used instead of the classifier. Two distinct problems were considered here. The first was the CIFAR-10 problem, which is a well known and structured problem, quite often used as a benchmark in GAN related works. The second problem used here was a skin lesion one. This served two purposes: significantly increasing the difficulty of the problem at hand and approximating the work done here to, possibly, the biggest practical usage of GANs, which has been data augmentation for medical imaging problems. The models developed were based on the original version of the AC-GAN and on the BigGAN, which, when presented, was the best performing GAN known, able to produce high quality images of resolutions of up to 512x512. Adapting the BigGAN into an AC-GAN resulted in the best known performing AC-GAN on the CIFAR-10 dataset. The study made in this dissertation can serve as a solid backbone for further studies on this matter to be made, since the results obtained here strongly suggest that the use of AC-GANs can be an effective way to achieve superior classifiers.

Aprendizagem automática tem visto bastantes melhorias em anos recentes. Um tipo de modelo que tem evoluído bastante são as Generative Adversarial Networks (GANs). Estes modelos têm a capacidade de criar dados falsos que se assemelham aos dados em que foram treinados. O interesse por estes modelos tem vindo a crescer desde a sua criação, em 2014. Tem-se vindo a provar que a possibilidade de criar dados falsos pode ser bastante útil, especialmente, em áreas com pouca abundância de dados, como é o caso da imagem médica. As GANs têm sido usadas, com bastante sucesso, nesse tipo de áreas para aumentar o tamanho dos datasets existentes de modo a melhorar a qualidade dos classificadores usados. Esta dissertação faz um estudo com um tipo específico de GAN, a Auxiliary Classification GAN (AC-GAN), para perceber se existem novas formas para as GANs melhorarem a qualidade de classificadores. Para isso, uma experiência de três partes foi desenhada, sendo cada parte designada como um Cenário. No Cenário 1 um classificador isolado foi treinado, no Cenário 2 foi treinado um classificador igual após uma GAN ter sido usada para fazer aumento de dados e, finalmente, no Cenário 3 usou-se uma AC-GAN em vez de um classificador. Foram considerados dois problemas distintos. O primeiro foi o CIFAR-10, que é um problema bastante conhecido e bem estruturado, usado com muita frequência em problemas relacionados com GANs. O segundo problema usado foi um de lesões de pele. Isto serviu dois propósitos: aumentar significativamente a dificuldade do problema em mão e aproximar o trabalho feito aqui com um dos maiores usos práticos das GANs, que tem sido o uso de GANs para fazer o aumento de datasets em problemas de imagem médica. Os modelos desenvolvidos foram baseados na AC-GAN original e na BigGAN, que, quando foi apresentada, era a melhor GAN conhecida e era capaz de produzir imagens de alta qualidade com resoluções de até 512x512. Adaptar a BigGAN para uma AC-GAN resultou na melhor AC-GAN conhecida treinada no dataset CIFAR-10. O estudo feito nesta dissertação pode servir como uma base sólida para que mais estudos sejam feitos neste âmbito, visto que os resultados obtidos aqui sugerem firmemente que o uso de AC-GANs pode ser uma forma efetiva de atingir classificadores melhores.