Learning Deep Architectures for AI

Abstract

Os resultados teóricos sugerem que, para aprender o tipo de funções complicadas que podem representar abstrações de alto nível (por exemplo, em visão, linguagem e outras tarefas de nível de IA), pode-se precisar de arquiteturas profundas. As arquiteturas profundas são compostas por vários níveis de operações não lineares, como em redes neurais com muitas camadas ocultas ou em fórmulas proposicionais complicadas que reutilizam muitas subfórmulas. Pesquisar o espaço de parâmetros de arquiteturas profundas é uma tarefa difícil, mas algoritmos de aprendizado como os de Deep Belief Networks foram propostos recentemente para resolver esse problema com notável sucesso, superando o estado da arte em certas áreas. Esta monografia discute as motivações e princípios sobre algoritmos de aprendizado para arquiteturas profundas, em particular aqueles que exploram como blocos de construção o aprendizado não supervisionado de modelos de camada única, como Máquinas de Boltzmann Restritas, usadas para construir modelos mais profundos, como Redes de Crenças Profundas.