Memória de curto prazo: explicação simples do modelo LSTM

Na aprendizagem de máquinas, o modelo de Memória de Curto Prazo Longo (LSTM) é usado principalmente no processamento de dados sequenciais.

Compreender a ideia básica da Memória de Curto Prazo Longo (LSTM)

Hoje em dia, o processamento de dados sequenciais é de grande importância. Quer se trate de reconhecimento de voz, análise de texto ou mesmo previsão de preços de acções, as sequências constituem a base para muitas coisas. É aqui que entra o modelo Long Short-Term Memory (LSTM), um tipo especial de rede neural que é perfeitamente adequado para essas tarefas.

• Um modelo LSTM consiste em várias “portas” que regulam o fluxo de informação. Estas portas determinam quando a informação é esquecida, armazenada ou recuperada.
• O estado da célula é o coração de um LSTM. Actua como uma espécie de memória, armazenando informações sobre longas sequências.
• A porta de esquecimento decide que informação deve ser removida do estado da célula. Ela usa a função sigmoide para determinar quais valores são descartados e quais permanecem na memória.
• Decide que novas informações sobre o estado da célula devem ser adicionadas. É constituída por duas partes: A função de ativação sigmoide, que decide quais os valores a atualizar, e a função tanh, que gera novos valores candidatos.

Aplicação e vantagens do LSTM

LSTMs são capazes de capturar dependências de longo prazo em sequências. Isto dá-lhes uma vasta gama de aplicações.

• Os modelos LSTM são excelentes para prever sequências, como dados meteorológicos ou preços de acções. Devido à sua memória e capacidade de usar informações que remontam a um longo período, os LSTMs podem capturar relações complexas nos dados.
• Na PNL, os LSTMs são frequentemente utilizados em tarefas como a classificação de textos, o reconhecimento de entidades nomeadas e a tradução automática. Podem captar melhor o contexto dos textos e, assim, melhorar a qualidade dos resultados.
• LSTM também pode ser utilizado no reconhecimento de voz para converter palavras faladas em texto.
• A capacidade de capturar dependências de longo prazo torna os LSTMs ideais para aplicações em que as relações temporais são importantes, como a composição musical.