닫기
Loading..

Please wait....

학술대회 프로시딩

홈 홈 > 연구문헌 > 학술대회 프로시딩 > 한국정보과학회 학술대회 > 2019년 컴퓨터종합학술대회

2019년 컴퓨터종합학술대회

Current Result Document : 175 / 738 이전건 이전건   다음건 다음건

한글제목(Korean Title) BERT와 ELMo 문맥화 단어 임베딩을 이용한 한국어 의존 파싱
영문제목(English Title) BERT and ELMo for contextualized word embeddings in Korean Dependency Parsing
저자(Author) 홍승연   나승훈   신종훈   김영길   Seung-Yean Hong   Seung-Hoon Na   Jong-Hoon Shin   Young-kil Kim                       
원문수록처(Citation) VOL 46 NO. 01 PP. 0491 ~ 0493 (2019. 06)
한글내용
(Korean Abstract)
Deep Biaffine Attention모델은 단어가 주어졌을 때 어텐션을 통해 단어에 대한 지배소를 찾는 그래프 기반 의존 파싱 모델이다. 최근 문맥을 반영하는 단어 임베딩 방법들이 발표되었고 여러 자연어 처리 문제에 적용되어 state-of-the-art를 기록하고 있다. 본 논문에서는 기존의 입력을 다양한 level로 나누어 여러 수준의 정보를 사용하는 모델인 Multi-level Biaffine Attention 모델을 사용하여 문맥을 반영하는 단어 임베딩 방법인 ELMo, BERT를 적용한 실험을 진행하고 의존 파싱에서 성능 향상을 가져옴을 보인다. 실험 결과 SPMRL ‘14 데이터셋에 서는 ELMo, BERT를 모두 사용한 모델이 UAS 93.46% LAS 92.85%, 세종 데이터셋에서는 ELMo를 사용한 모델이 UAS 93.12% LAS 91.00%의 성능을 보여주어 기존의 최고 성능을 더욱 개선시켰다.
영문내용
(English Abstract)
키워드(Keyword)                              
파일첨부 PDF 다운로드