• JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
  • JoomlaWorks Simple Image Rotator
 
  Bookmark and Share
 
 
Disertación de Maestría
DOI
https://doi.org/10.11606/D.43.2024.tde-17062024-144329
Documento
Autor
Nombre completo
João Henrique de Sant' Ana
Dirección Electrónica
Instituto/Escuela/Facultad
Área de Conocimiento
Fecha de Defensa
Publicación
São Paulo, 2024
Director
Tribunal
Alfonso, Nestor Felipe Caticha (Presidente)
Silva Filho, Antonio Carlos Roque da
Silva, Mauro Copelli Lopes da
Título en inglés
Internal representations analysis in spiking neural networks
Palabras clave en inglés
Complex index.
Neural Networks; Internal Representations; Critical Brain
Resumen en inglés
Optimal information processing in peripheral sensory systems has been associated in several examples to the signature of a critical or near critical state. Furthermore, cortical systems have also been described to be in a critical state in both wake and anesthetized experimental models, both in vitro and in vivo. Using a methodology inspired in the biological setup, we investigate whether a similar signature characterizes the internal representations (IR) of a multilayer (deep) spiking artificial neural network performing a recognition task. The increase of the characteristic time of the decay of the correlation of fluctuations of the IR, found when the network input changes are indications of a broad-tailed distribution of IR fluctuations. The broad tails are present even when the network is not yet capable of performing the classification tasks, either due to partial training or to the effect of a low dose of anesthesia in a simple model. This is a signature only for significant changes involving labeled inputs. However, we don't find enough evidence of power law distributions of avalanche size and duration. Finally, the perturbational complexity index (PCI) of IR was measured. The PCI distinguished levels of training time and also effect of anesthesia leading to a characterization of the spatio-temporal pattern of activity in the internal layers.
Título en portugués
Análise das representações internas em redes neurais de spike
Palabras clave en portugués
Redes Neurais; Representações Internas; Cérebro Crítico; Índices de Complexidade.
Resumen en portugués
O processamento de informações ótimo nos sistemas sensoriais periféricos tem sido associado em diversos exemplos à assinatura de um estado crítico ou próximo ao crítico. Além disso, sistemas corticais também foram descritos como estando em um estado crítico tanto em modelos experimentais em estados de vigília ou anestesiados, tanto in vitro quanto in vivo. Utilizando uma metodologia inspirada nos sistemas biológicos, nós investigamos se assinaturas similares caracterizam as representações internas (IR) de uma rede neural artificial de spike multi-camada (profunda) realizando uma tarefa de reconhecimento. O aumento do tempo característico do decaimento da correlação das flutuações da IR, encontrado quando o input da rede muda, são indicações de distribuições de caudas longas nas flutuações da IR. As flutuações estão presentes mesmo quando a rede não é ainda capaz de realizar uma tarefa de classificação, seja devido ao treinamento parcial ou ao efeito de uma baixa dose de anestesia em um modelo simples. Esta é uma assinatura apenas para mudanças significativas envolvendo inputs rotulados. Porém, nós não encontramos evidências suficientes de distribuições de lei de potência do tamanho e duração das avalanches. Por último, o índice de complexidade perturbacional (PCI) da IR foi medido. O PCI distinguiu níveis de tempo de treinamento e também efeito de anestesia resultando em uma caracterização do padrão espaço-temporal da atividade nas camadas internas.
 
ADVERTENCIA - La consulta de este documento queda condicionada a la aceptación de las siguientes condiciones de uso:
Este documento es únicamente para usos privados enmarcados en actividades de investigación y docencia. No se autoriza su reproducción con finalidades de lucro. Esta reserva de derechos afecta tanto los datos del documento como a sus contenidos. En la utilización o cita de partes del documento es obligado indicar el nombre de la persona autora.
main.pdf (17.07 Mbytes)
Fecha de Publicación
2024-06-27
 
ADVERTENCIA: Aprenda que son los trabajos derivados haciendo clic aquí.
Todos los derechos de la tesis/disertación pertenecen a los autores
CeTI-SC/STI
Biblioteca Digital de Tesis y Disertaciones de la USP. Copyright © 2001-2024. Todos los derechos reservados.