--- tags: COTAI Training --- # Long Lê Schedule & Daily Worksheet | Date | Goal | | -------- | -------- | | 06/09/2020 | Spare and overcomplete representation in deep learning | | 07/09/2020 | Làm LM dữ liệu KK cũ, train intent classification dữ liệu mới, đọc thêm về attetion, transformer, bert, gpt2 | | 08/09/2020 | Lên lớp LHP, làm LM dữ liệu KK cũ, train intent classification dữ liệu mới, đọc thêm về attetion, transformer, bert, gpt2. Dự lớp prepractice.| | 09/09/2020 | Lên lớp LHP, làm LM dữ liệu KK cũ, train intent classification dữ liệu mới, đọc thêm về attetion, transformer, bert, gpt2. LM trên dữ liệu cũ train được, nhưng làm trên intent thì lại không tốt bằng PhoBert. Cố gắng fix intent classification trên dữ liệu mới.| | 10/09/2020 | Từ 30%acc trên dữ liệu mới, chạy KFold và kết quả acc khá tốt 90%, nhưng khi test bằng vài câu tự viết thì cho ra kết quả "an toàn", thường là thuộc label = "không có nhãn". Tiếp tục train LM trên KK cũ... và vẫn đang bế tắc khi apply intent vào, acc tệ! | | 11/09/2020 | Done LM dữ liệu KK cũ. Chuẩn bị các bước tiếp theo! Đọc GPT2, GPT3, chatbot | | 12/09/2020 | Đọc active learning, viết note và tìm code, đồng thời train lại NER chưa tốt. | | 14/09/2020 | Vẫn train lại NER do chưa tốt, đọc active learning và note nhiều hơn. Trợ giảng LHP. |