| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | 5 | 6 | |
| 7 | 8 | 9 | 10 | 11 | 12 | 13 |
| 14 | 15 | 16 | 17 | 18 | 19 | 20 |
| 21 | 22 | 23 | 24 | 25 | 26 | 27 |
| 28 | 29 | 30 |
Tags
- hugging face tokenizer에서 special case 추가하기
- BART 논문리뷰
- A Neural Attention Model for Abstractive Sentence Summarization
- BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding 논문리뷰
- Multi Task Learning Objectives for Natural Language Processing
- Zero-shot Generalization in Dialog State Tracking through GenerativeQuestion Answering
- BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding 리뷰
- BERT란
- CNN 논문리뷰
- BERT 사용방법
- Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer 리뷰
- RuntimeError: DataLoader worker (pid(s) ) exited unexpectedly
- Attention Is All You Need
- 정책기반 agent
- TOD 논문리뷰
- T5 논문 리뷰
- 다양한 모듈에서 log쓰기
- Multi Task Learning Objectives for Natural Language Processing 리뷰
- Attention Is All You Need 리뷰
- Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer
- 바닥부터 배우는 강화 학습
- The Natural Language Decathlon:Multitask Learning as Question Answering
- 길찾기
- 뉴텝스 400
- UBAR: Towards Fully End-to-End Task-Oriented Dialog System with GPT-2
- ImageNet Classification with Deep ConvolutionalNeural Networks 리뷰
- NLP 논문 리뷰
- Evaluate Multiwoz
- MMTOD
- attention 설명
Archives
- Today
- Total
목록UBAR: Towards Fully End-to-End Task-Oriented Dialog System with GPT-2 (1)
one by one ◼◻◼◻
[NLP논문리뷰]UBAR: Towards Fully End-to-End Task-Oriented Dialog System with GPT-2
제목 : UBAR: Towards Fully End-to-End Task-Oriented Dialog System with GPT-2 저자 : Yunyi Yang,Yunhao Li, Xiaojun Quan* 리뷰! 이 논문은 크게 리뷰할게 없어서 짧게 하려고 한다. 이전과 같이 TOD sytem을 end to end로 만든 논문인데 GPT-2에 정보를 마구 넣어준 뒤, 대답해라! 하는 형식의 방법을 사용했다. 아래는 모델 구조이다. 복잡한 구조 없이, 많~은 정보를 넣어주고, 그거에 맞게 결과를 출력하도록 만들었다. 그러나 GPT-2를 TOD에 어떻게 쓸 것인지, 기초를 마련했다는 점에서 의의가 있는듯 하다. 그리고 UBAR구조로 다양한 실험을 했는데, 이 실험들이 실행활에서 모델이 사용될 때 어떤 성능..
논문리뷰
2021. 12. 13. 17:00