Datasets:
Missing words at the beginning and end of some samples in the test set
Hi, chúc anh 1 ngày tốt lành. Hiện tại em đang có thấy data của mình ở tập test có vài sample bị missing từ ở đầu với cuối audio á. Điều này khiến wer khi benchmark bị đẩy lên khá cao.
Ví dụ:
hiệu thông thường mà thấy bất thường thì bạn phải đi khám ngay liên lạc ngay với bác sĩ để bác sĩ tư vấn
Hiện tại câu này bị thiếu từ dấu ở đầu.
Dạ không biết mình có cách gì khắc phục vấn đề này không ạ?
các real-world dataset vẫn luôn bị tình trạng như thế bởi vì dùng human annotator thay vì automated tool. Thông thường người ta có thể dùng forced alignment để concatenate các timestamp cho nó fit vào đầu câu và cuối câu. Nhưng team mình hiện tại không đủ nhân lực để làm điều đó nữa. Nếu bạn có thể làm được giúp mình thì hay quá, mình sẽ để credit của bạn nhé! Cảm ơn bạn nhiều!
Ngay audio đầu tiên: utt_id_train_000001, đã gặp vấn đề rồi
Label: gì có phải là do cái cơn khó thở hay là còn có chuyện gì khác đôi khi nó có thể là hai ba nguyên nhân cùng một lúc nó
Nội dung audio: như này nó là cái gì có phải là do cái cơn khó thở hay là còn có chuyện gì khác đôi khi nó có thể là hai ba nguyên nhân cùng một lúc (bị nuốt mất nguyên cả một cụm "như này nó là cái" ở đầu câu)
Và lỗi này consistent trong cả dataset, bao gồm cả bộ MultiMed của bạn. Cái này mình đoán là do bạn cắt sai audio, chứ không phải lỗi label. Có thể là timestamp lúc bạn cắt audio để label với timestamp lúc bạn xuất ra dataset này bị lệch rất nhiều. Có lẽ bạn nên xem lại script cắt audio.
Thanks a lot!
I have fixed the problem