Browsing by Author "Almeida, Maria Alexandra Esteves"
Now showing 1 - 1 of 1
Results Per Page
Sort Options
- Avaliação de modelos transformers bert de pergunta/Resposta com ajuste fino num corpus em português europeuPublication . Almeida, Maria Alexandra Esteves; Realinho, Valentim Alberto CorreiaEste trabalho visa a avaliação e comparação de modelos baseados na arquitetura de Transformers para a tarefa de Pergunta/Resposta que foram pré-treinados com dados em língua portuguesa. Foi feito o ajuste fino de três modelos de linguagem baseados no modelo BERTimbau (modelo BERT pré-treinado para português): o bert-base-cased-squad-v1.1-portuguese (SQUAD-PT-BASE); o faquad-bert-base-portuguese-cased (FAQUAD-PT-BASE) e o bert-large-cased-squad-v1.1-portuguese (SQUAD-PT-LARGE). Estes modelos fazem uso da arquitetura Transformer, possuindo respetivamente 108 334 082, 108 334 082 e 333 348 866 parâmetros. Para efetuar o ajuste fino, foi construído um dataset no formato SQuAD (Stanford Question Answering Dataset) com 265 perguntas em português europeu, acerca da Fundação da Nossa Senhora da Esperança. A validação do desempenho dos modelos foi efetuada através das métricas F1 e accuracy, tendo o melhor resultado sido alcançado com o modelo SQUAD-PT-BASE com um F1 de 0,91111 e uma accuracy de 0,96154. Os valores obtidos permitem concluir que o ajuste fino efetuado aos modelos pré-treinados, conduzem a resultados para tarefas de Pergunta/Resposta bastante satisfatórios, tendo atingido uma performance melhor do que os modelos originais e de outros trabalhos semelhantes