Update ESLO.py
Browse files
ESLO.py
CHANGED
@@ -1,5 +1,3 @@
|
|
1 |
-
"""Multilingual Librispeech automatic speech recognition dataset."""
|
2 |
-
|
3 |
import os
|
4 |
import re
|
5 |
from ctypes import Array
|
@@ -26,177 +24,195 @@ _DESCRIPTION = """\
|
|
26 |
ESLO dataset, each utterance are taken out individually
|
27 |
"""
|
28 |
SAMPLING_RATE = 16000
|
29 |
-
AUDIO_FOLDER = "audio"
|
30 |
-
|
31 |
-
|
32 |
-
|
33 |
-
|
34 |
-
|
35 |
-
|
36 |
-
|
37 |
-
|
38 |
-
|
39 |
-
|
40 |
-
|
41 |
-
|
42 |
-
|
43 |
-
|
44 |
-
|
45 |
-
|
46 |
-
|
47 |
-
|
48 |
-
|
49 |
-
|
50 |
-
|
51 |
-
|
52 |
-
|
53 |
-
|
54 |
-
|
55 |
-
|
56 |
-
|
57 |
-
|
58 |
-
|
59 |
-
|
60 |
-
|
61 |
-
|
62 |
-
|
63 |
-
|
64 |
-
|
65 |
-
|
66 |
-
|
67 |
-
|
68 |
-
|
69 |
-
|
70 |
-
|
71 |
-
|
72 |
-
|
73 |
-
|
74 |
-
|
75 |
-
|
76 |
-
|
77 |
-
|
78 |
-
|
79 |
-
|
80 |
-
|
81 |
-
|
82 |
-
|
83 |
-
|
84 |
-
|
85 |
-
|
86 |
-
|
87 |
-
|
88 |
-
|
89 |
-
|
90 |
-
|
91 |
-
|
92 |
-
|
93 |
-
|
94 |
-
|
95 |
-
|
96 |
-
|
97 |
-
|
98 |
-
|
99 |
-
|
100 |
-
|
101 |
-
|
102 |
-
|
103 |
-
|
104 |
-
|
105 |
-
|
106 |
-
|
107 |
-
|
108 |
-
|
109 |
-
|
110 |
-
|
111 |
-
|
112 |
-
|
113 |
-
|
114 |
-
|
115 |
-
|
116 |
-
|
117 |
-
|
118 |
-
|
119 |
-
|
120 |
-
|
121 |
-
|
122 |
-
|
123 |
-
|
124 |
-
|
125 |
-
|
126 |
-
|
127 |
-
|
128 |
-
|
129 |
-
|
130 |
-
|
131 |
-
|
132 |
-
|
133 |
-
|
134 |
-
|
135 |
-
|
136 |
-
|
137 |
-
|
138 |
-
|
139 |
-
|
140 |
-
|
141 |
-
|
142 |
-
|
143 |
-
|
144 |
-
|
145 |
-
|
146 |
-
|
147 |
-
|
148 |
-
|
149 |
-
|
150 |
-
|
151 |
-
|
152 |
-
|
153 |
-
|
154 |
-
|
155 |
-
|
156 |
-
|
157 |
-
|
158 |
-
|
159 |
-
|
160 |
-
|
161 |
-
|
162 |
-
|
163 |
-
|
164 |
-
|
165 |
-
|
166 |
-
|
167 |
-
|
168 |
-
|
169 |
-
|
170 |
-
|
171 |
-
|
172 |
-
|
173 |
-
|
174 |
-
|
175 |
-
|
176 |
-
|
177 |
-
|
178 |
-
|
179 |
-
|
180 |
-
|
181 |
-
|
182 |
-
|
183 |
-
|
184 |
-
|
185 |
-
|
186 |
-
|
187 |
-
|
188 |
-
|
189 |
-
|
190 |
-
|
191 |
-
|
192 |
-
|
193 |
-
|
194 |
-
|
195 |
-
|
196 |
-
|
197 |
-
|
198 |
-
|
199 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
200 |
|
201 |
|
202 |
@dataclass
|
@@ -209,7 +225,7 @@ class Utterance:
|
|
209 |
|
210 |
|
211 |
class ESLOConfig(datasets.BuilderConfig):
|
212 |
-
"""BuilderConfig for
|
213 |
|
214 |
def __init__(self, name, **kwargs):
|
215 |
"""
|
@@ -230,8 +246,8 @@ class ESLOConfig(datasets.BuilderConfig):
|
|
230 |
self.hesitation = True
|
231 |
|
232 |
|
233 |
-
class
|
234 |
-
"""
|
235 |
|
236 |
BUILDER_CONFIGS = [
|
237 |
ESLOConfig(name="no_overlap_no_hesitation", description="ESLO dataset, removed hesitations from samples"
|
@@ -249,7 +265,6 @@ class MultilingualLibrispeech(datasets.GeneratorBasedBuilder):
|
|
249 |
features=datasets.Features(
|
250 |
{
|
251 |
"file": datasets.Value("string"),
|
252 |
-
"sample_id": datasets.Value("string"),
|
253 |
"audio": datasets.features.Audio(sampling_rate=SAMPLING_RATE),
|
254 |
"sentence": datasets.Value("string"),
|
255 |
"speaker": datasets.Value("string"),
|
@@ -262,26 +277,30 @@ class MultilingualLibrispeech(datasets.GeneratorBasedBuilder):
|
|
262 |
)
|
263 |
|
264 |
def _split_generators(self, dl_manager):
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
265 |
|
266 |
-
transcripts = dl_manager.download({
|
267 |
-
"train": "transcripts_deduplicated_train.zip",
|
268 |
-
"test": "transcripts_deduplicated_test.zip",
|
269 |
-
})
|
270 |
-
audio_files = dl_manager.download(
|
271 |
-
{audio_file: os.path.join(AUDIO_FOLDER, audio_file) for audio_file in AUDIO_FILES})
|
272 |
splits = [
|
273 |
datasets.SplitGenerator(
|
274 |
name=datasets.Split.TRAIN,
|
275 |
gen_kwargs={
|
276 |
-
"
|
277 |
-
"audio_files":
|
278 |
}
|
279 |
),
|
280 |
datasets.SplitGenerator(
|
281 |
name=datasets.Split.TEST,
|
282 |
gen_kwargs={
|
283 |
-
"
|
284 |
-
"audio_files":
|
285 |
}
|
286 |
),
|
287 |
|
@@ -293,7 +312,7 @@ class MultilingualLibrispeech(datasets.GeneratorBasedBuilder):
|
|
293 |
def extract_text(elem):
|
294 |
text = elem.text or ''
|
295 |
for child in elem:
|
296 |
-
text +=
|
297 |
if child.tail:
|
298 |
text += child.tail
|
299 |
return text
|
@@ -322,7 +341,7 @@ class MultilingualLibrispeech(datasets.GeneratorBasedBuilder):
|
|
322 |
continue
|
323 |
start_time = float(turn.get('startTime'))
|
324 |
end_time = float(turn.get('endTime'))
|
325 |
-
text = re.sub(r"[\r\n\s]+", " ",
|
326 |
text = self.clean_text(text)
|
327 |
if any(c.isalnum() for c in text):
|
328 |
utts.append(Utterance(
|
@@ -363,23 +382,21 @@ class MultilingualLibrispeech(datasets.GeneratorBasedBuilder):
|
|
363 |
def _cut_audio(audio: Array, start_timestamp: float, end_timestamp: float):
|
364 |
return audio[int(round(start_timestamp * SAMPLING_RATE)): int(round(end_timestamp * SAMPLING_RATE)) + 1]
|
365 |
|
366 |
-
def _generate_examples(self,
|
367 |
"""Generate examples from a Multilingual LibriSpeech data dir."""
|
368 |
-
for path
|
369 |
-
|
370 |
-
|
371 |
-
|
372 |
-
for utterance in self.load_one(file):
|
373 |
if not self.config.overlap and utterance.overlap:
|
374 |
continue
|
375 |
-
yield f"{
|
376 |
-
"file":
|
377 |
-
"sample_id": f"{file_name}_{utterance.start_timestamp}-{utterance.end_timestamp}",
|
378 |
"sentence": utterance.sentence,
|
379 |
"start_timestamp": utterance.start_timestamp,
|
380 |
"end_timestamp": utterance.end_timestamp,
|
381 |
"speaker": utterance.speaker,
|
382 |
"overlap": utterance.overlap,
|
383 |
-
"audio": {"path":
|
384 |
"array": self._cut_audio(audio, utterance.start_timestamp, utterance.end_timestamp),
|
385 |
"sampling_rate": 16000}}
|
|
|
|
|
|
|
1 |
import os
|
2 |
import re
|
3 |
from ctypes import Array
|
|
|
24 |
ESLO dataset, each utterance are taken out individually
|
25 |
"""
|
26 |
SAMPLING_RATE = 16000
|
27 |
+
AUDIO_FOLDER = "/Users/brunohays/datalab/épellations/Scrapping/ortolang_datasets/eslo/downloads/audio"
|
28 |
+
TEST_TRANSCRIPTS = ['ESLO2_ENT_1052_C.trs', 'ESLO1_ENT_026_C.trs', 'ESLO2_ECOLE_1280_C.trs', 'ESLO1_CONSCMPP_727_C.trs',
|
29 |
+
'ESLO1_ENT_002_C.trs', 'ESLO1_TEL_338_C.trs', 'ESLO1_ENTCONT_213_C.trs', 'ESLO1_INTPERS_449_C.trs',
|
30 |
+
'ESLO1_CONSCMPP_740_C.trs', 'ESLO2_ENT_1008_C.trs', 'ESLO2_REPAS_1268_C.trs',
|
31 |
+
'ESLO2_ITI_1121_C.trs', 'ESLO2_LIVRENF_1306_C.trs', 'ESLO1_INTPERS_452_C.trs',
|
32 |
+
'ESLO1_CONSCMPP_742_C.trs', 'ESLO1_ENT_147_C.trs', 'ESLO2_ENT_1030_C.trs', 'ESLO2_CINE_1212_C.trs',
|
33 |
+
'ESLO2_ENT_1014_C.trs', 'ESLO1_INTPERS_409_C.trs', 'ESLO2_CINE_1194_C.trs', 'ESLO2_ENT_1272_C.trs',
|
34 |
+
'ESLO2_ITI_1100_C.trs', 'ESLO1_CONSCMPP_741_C.trs', 'ESLO1_ENT_144_C.trs', 'ESLO2_ENT_1034_C.trs',
|
35 |
+
'ESLO2_ITI_1122_C.trs', 'ESLO2_LIVRENF_1309_C.trs', 'ESLO1_INTPERS_425_C.trs',
|
36 |
+
'ESLO2_DIA_1226_C.trs', 'ESLO2_ITI_1092_C.trs', 'ESLO1_INTPERS_401_C.trs', 'ESLO1_ENT_130_C.trs',
|
37 |
+
'ESLO1_TEL_317_C.trs', 'ESLO1_ENTCONT_205_C.trs', 'ESLO1_TEL_370_C.trs', 'ESLO2_CINE_1207_C.trs',
|
38 |
+
'ESLO2_ITI_1109_C.trs', 'ESLO2_ITI_1088_C.trs', 'ESLO1_VISIT_601_C.trs', 'ESLO1_ENT_115_C.trs',
|
39 |
+
'ESLO2_LIVRENF_1308_B.trs', 'ESLO1_ENT_011_C.trs', 'ESLO2_ITI_1073_B.trs', 'ESLO2_ITI_1132_C.trs',
|
40 |
+
'ESLO1_ENT_050_C.trs', 'ESLO2_ITI_1175_C.trs', 'ESLO2_ENT_1063_C.trs', 'ESLO2_ENT_1026_C.trs',
|
41 |
+
'ESLO1_ENT_092_C.trs']
|
42 |
+
TRAIN_TRANSCRIPTS = ['ESLO1_INTPERS_437_C.trs', 'ESLO2_ENT_1017_C.trs', 'ESLO1_ENTCONT_208_C.trs',
|
43 |
+
'ESLO1_ENT_063_C.trs', 'ESLO2_ECOLE_1299_C.trs', 'ESLO2_ITI_1101_C.trs', 'ESLO2_ITI_1144_C.trs',
|
44 |
+
'ESLO2_LIVRENF_1326_C.trs', 'ESLO1_CONSCMPP_703_C.trs', 'ESLO2_CINE_1211_C.trs',
|
45 |
+
'ESLO2_CINE_1195_C.trs', 'ESLO1_ENTCONT_235_C.trs', 'ESLO1_ENT_106_C.trs', 'ESLO1_ENT_143_C.trs',
|
46 |
+
'ESLO2_ECOLE_1301_C.trs', 'ESLO1_TEL_366_C.trs', 'ESLO2_ITI_1099_C.trs', 'ESLO2_ITI_1118_C.trs',
|
47 |
+
'ESLO1_ENTCONT_211_C.trs', 'ESLO2_CINE_1208_C.trs', 'ESLO1_ENT_087_C.trs',
|
48 |
+
'ESLO1_ENTCLO_264_C.trs', 'ESLO1_TEL_307_C.trs', 'ESLO1_ENT_122_C.trs', 'ESLO1_ENT_167_C.trs',
|
49 |
+
'ESLO1_REU_554_C.trs', 'ESLO2_ENT_1033_C.trs', 'ESLO2_ENT_1076_C.trs', 'ESLO1_ENTCLO_259_C.trs',
|
50 |
+
'ESLO2_LIVRENF_1302_C.trs', 'ESLO1_ENT_047_C.trs', 'ESLO2_ITI_1125_C.trs', 'ESLO2_ITI_1160_C.trs',
|
51 |
+
'ESLO1_CONF_505_C.trs', 'ESLO1_REU_513_C.trs', 'ESLO2_ENT_1031_C.trs', 'ESLO1_ENT_045_C.trs',
|
52 |
+
'ESLO2_ITI_1127_C.trs', 'ESLO2_ITI_1162_C.trs', 'ESLO2_REPAS_1253_C.trs',
|
53 |
+
'ESLO1_CONSCMPP_725_C.trs', 'ESLO1_ENT_085_C.trs', 'ESLO1_CONSCMPP_718_C.trs',
|
54 |
+
'ESLO2_ECOLE_1282_C.trs', 'ESLO1_ENT_078_C.trs', 'ESLO2_ENT_1049_C.trs', 'ESLO1_ENT_120_C.trs',
|
55 |
+
'ESLO1_ENT_165_C.trs', 'ESLO1_ENT_019_C.trs', 'ESLO1_ENTCONT_237_C.trs', 'ESLO2_CINE_1197_C.trs',
|
56 |
+
'ESLO2_LIVRENF_1319_C.trs', 'ESLO1_INTPERS_408_C.trs', 'ESLO2_ENT_1329_C.trs',
|
57 |
+
'ESLO1_TEL_364_C.trs', 'ESLO1_ENT_104_C.trs', 'ESLO2_ENT_1028_C.trs', 'ESLO1_ENT_141_C.trs',
|
58 |
+
'ESLO2_ENT_1015_C.trs', 'ESLO1_ENT_139_C.trs', 'ESLO2_ENT_1050_C.trs', 'ESLO1_INTPERS_435_C.trs',
|
59 |
+
'ESLO1_CONSCMPP_701_C.trs', 'ESLO2_CINE_1213_C.trs', 'ESLO2_LIVRENF_1324_C.trs',
|
60 |
+
'ESLO1_ENT_061_C.trs', 'ESLO1_ENT_024_C.trs', 'ESLO2_ITI_1103_C.trs', 'ESLO2_ITI_1146_C.trs',
|
61 |
+
'ESLO2_ENT_1069_C.trs', 'ESLO1_ENT_100_C.trs', 'ESLO1_ENT_145_C.trs', 'ESLO1_REPAS_278_C.trs',
|
62 |
+
'ESLO1_TEL_360_C.trs', 'ESLO2_CINE_1193_C.trs', 'ESLO1_ENT_058_C.trs', 'ESLO1_ENT_065_C.trs',
|
63 |
+
'ESLO1_ENT_020_C.trs', 'ESLO2_ITI_1107_C.trs', 'ESLO2_ITI_1142_C.trs', 'ESLO1_CONSCMPP_705_C.trs',
|
64 |
+
'ESLO2_CINE_1217_C.trs', 'ESLO1_ENT_098_C.trs', 'ESLO2_LIVRENF_1320_C.trs',
|
65 |
+
'ESLO1_INTPERS_431_C.trs', 'ESLO1_TEL_318_C.trs', 'ESLO2_ENT_1011_C.trs', 'ESLO2_ENT_1054_C.trs',
|
66 |
+
'ESLO2_LIVRENF_1304_C.trs', 'ESLO1_CONSCMPP_721_C.trs', 'ESLO2_REPAS_1257_C.trs',
|
67 |
+
'ESLO1_ENT_041_C.trs', 'ESLO1_ENT_004_C.trs', 'ESLO2_ITI_1123_C.trs', 'ESLO2_CINE_1177_C.trs',
|
68 |
+
'ESLO2_ITI_1166_C.trs', 'ESLO1_REU_517_C.trs', 'ESLO2_ENT_1035_C.trs', 'ESLO1_ENT_119_C.trs',
|
69 |
+
'ESLO2_ENT_1070_C.trs', 'ESLO2_ITI_1086_C.trs', 'ESLO1_INTPERS_450_C.trs',
|
70 |
+
'ESLO1_INTPERS_415_C.trs', 'ESLO1_TEL_301_C.trs', 'ESLO1_MAG_627_C.trs', 'ESLO1_MAG_662_C.trs',
|
71 |
+
'ESLO2_CONF_1243_C.trs', 'ESLO1_ENT_124_C.trs', 'ESLO1_ENT_161_C.trs', 'ESLO1_ENTCONT_217_C.trs',
|
72 |
+
'ESLO2_ECOLE_1286_C.trs', 'ESLO2_RUMEUR_1339_C.trs', 'ESLO1_ENT_081_C.trs',
|
73 |
+
'ESLO2_CONF_1241_C.trs', 'ESLO1_ENT_126_C.trs', 'ESLO1_ENT_163_C.trs', 'ESLO2_REPAS_1330_C.trs',
|
74 |
+
'ESLO1_TEL_346_C.trs', 'ESLO1_MAG_625_C.trs', 'ESLO1_ENT_083_C.trs', 'ESLO2_ECOLE_1279_C.trs',
|
75 |
+
'ESLO2_ECOLE_1284_C.trs', 'ESLO2_ITI_1159_C.trs', 'ESLO1_ENTCONT_215_C.trs', 'ESLO1_ENT_043_C.trs',
|
76 |
+
'ESLO1_ENT_006_C.trs', 'ESLO2_ITI_1164_C.trs', 'ESLO1_ENTCONT_228_C.trs',
|
77 |
+
'ESLO1_CONSCMPP_723_C.trs', 'ESLO2_REPAS_1255_C.trs', 'ESLO2_CINE_1188_C.trs',
|
78 |
+
'ESLO1_CONF_503_C.trs', 'ESLO1_INTPERS_417_C.trs', 'ESLO2_ENT_1037_C.trs',
|
79 |
+
'ESLO2_LIVRENF_1322_C.trs', 'ESLO1_CONSCMPP_707_C.trs', 'ESLO2_REPAS_1271_C.trs',
|
80 |
+
'ESLO2_CINE_1215_C.trs', 'ESLO1_ENT_067_C.trs', 'ESLO1_ENT_022_C.trs', 'ESLO2_ITI_1105_C.trs',
|
81 |
+
'ESLO2_ITI_1140_C.trs', 'ESLO2_ENT_1013_C.trs', 'ESLO2_ENT_1056_C.trs', 'ESLO1_ENTOUV_260_C.trs',
|
82 |
+
'ESLO1_TEL_362_C.trs', 'ESLO2_DISC_1237_C.trs', 'ESLO1_ENT_102_C.trs', 'ESLO2_ITI_1138_C.trs',
|
83 |
+
'ESLO2_CINE_1191_C.trs', 'ESLO1_ENT_164_C.trs', 'ESLO2_ENT_1048_C.trs', 'ESLO1_ENT_121_C.trs',
|
84 |
+
'ESLO1_TEL_341_C.trs', 'ESLO1_ENT_084_C.trs', 'ESLO1_ENTCONT_212_C.trs', 'ESLO1_ENT_079_C.trs',
|
85 |
+
'ESLO2_ECOLE_1283_C.trs', 'ESLO1_ENT_001_C.trs', 'ESLO1_ENT_044_C.trs', 'ESLO2_ITI_1163_C.trs',
|
86 |
+
'ESLO2_ITI_1126_C.trs', 'ESLO1_CONSCMPP_724_C.trs', 'ESLO1_CONF_504_C.trs', 'ESLO2_ENT_1075_C.trs',
|
87 |
+
'ESLO1_ENT_159_C.trs', 'ESLO2_LIVRENF_1325_C.trs', 'ESLO1_ENT_025_C.trs', 'ESLO1_ENT_060_C.trs',
|
88 |
+
'ESLO2_ITI_1147_C.trs', 'ESLO2_ITI_1102_C.trs', 'ESLO1_ENT_138_C.trs', 'ESLO2_ENT_1051_C.trs',
|
89 |
+
'ESLO1_TEL_365_C.trs', 'ESLO2_ENT_1029_C.trs', 'ESLO1_ENT_140_C.trs', 'ESLO1_ENT_105_C.trs',
|
90 |
+
'ESLO1_ENT_018_C.trs', 'ESLO1_ENTCONT_236_C.trs', 'ESLO2_CINE_1196_C.trs',
|
91 |
+
'ESLO2_LIVRENF_1318_C.trs', 'ESLO1_ENT_142_C.trs', 'ESLO1_ENT_107_C.trs', 'ESLO2_ECOLE_1300_C.trs',
|
92 |
+
'ESLO1_TEL_367_C.trs', 'ESLO1_MAG_290_C.trs', 'ESLO2_ITI_1098_C.trs', 'ESLO1_ENTOUV_258_C.trs',
|
93 |
+
'ESLO1_ENT_027_C.trs', 'ESLO2_ECOLE_1298_C.trs', 'ESLO1_ENT_062_C.trs', 'ESLO2_ITI_1145_C.trs',
|
94 |
+
'ESLO2_LIVRENF_1327_C.trs', 'ESLO1_CONSCMPP_702_C.trs', 'ESLO2_CINE_1210_C.trs',
|
95 |
+
'ESLO1_INTPERS_436_C.trs', 'ESLO2_ENT_1053_C.trs', 'ESLO2_ENT_1016_C.trs',
|
96 |
+
'ESLO1_CONSCMPP_726_C.trs', 'ESLO2_LIVRENF_1303_C.trs', 'ESLO1_ENT_003_C.trs',
|
97 |
+
'ESLO1_ENT_046_C.trs', 'ESLO2_ITI_1161_C.trs', 'ESLO2_ITI_1124_C.trs', 'ESLO2_ENT_1077_C.trs',
|
98 |
+
'ESLO2_ENT_1032_C.trs', 'ESLO1_TEL_343_C.trs', 'ESLO1_ENT_166_C.trs', 'ESLO1_ENT_123_C.trs',
|
99 |
+
'ESLO2_CONF_1244_C.trs', 'ESLO2_ECOLE_1281_C.trs', 'ESLO2_ITI_1119_C.trs', 'ESLO2_CINE_1209_C.trs',
|
100 |
+
'ESLO1_ENT_086_C.trs', 'ESLO1_INTPERS_416_C.trs', 'ESLO1_INTPERS_453_C.trs',
|
101 |
+
'ESLO1_CONF_502_C.trs', 'ESLO1_REU_551_C.trs', 'ESLO2_ENT_1036_C.trs', 'ESLO1_ENT_007_C.trs',
|
102 |
+
'ESLO1_ENT_042_C.trs', 'ESLO2_ITI_1165_C.trs', 'ESLO2_ITI_1120_C.trs', 'ESLO1_ENTCONT_229_C.trs',
|
103 |
+
'ESLO2_REPAS_1254_C.trs', 'ESLO1_CONSCMPP_722_C.trs', 'ESLO2_CINE_1189_C.trs',
|
104 |
+
'ESLO2_LIVRENF_1307_C.trs', 'ESLO2_REPAS_1269_C.trs', 'ESLO2_ECOLE_1278_C.trs',
|
105 |
+
'ESLO1_ENT_082_C.trs', 'ESLO2_ECOLE_1285_C.trs', 'ESLO2_ITI_1158_C.trs', 'ESLO1_ENTCONT_214_C.trs',
|
106 |
+
'ESLO1_ENT_127_C.trs', 'ESLO2_CONF_1240_C.trs', 'ESLO1_TEL_302_C.trs', 'ESLO1_TEL_347_C.trs',
|
107 |
+
'ESLO1_ENTCONT_230_C.trs', 'ESLO2_ITI_1139_C.trs', 'ESLO2_CINE_1190_C.trs', 'ESLO1_MAG_645_C.trs',
|
108 |
+
'ESLO1_ENT_146_C.trs', 'ESLO1_ENT_103_C.trs', 'ESLO2_ENT_1057_C.trs', 'ESLO2_ENT_1012_C.trs',
|
109 |
+
'ESLO2_LIVRENF_1323_C.trs', 'ESLO1_CONSCMPP_743_C.trs', 'ESLO2_REPAS_1270_C.trs',
|
110 |
+
'ESLO2_CINE_1214_C.trs', 'ESLO1_ENT_023_C.trs', 'ESLO1_ENT_066_C.trs', 'ESLO2_ITI_1141_C.trs',
|
111 |
+
'ESLO2_ITI_1104_C.trs', 'ESLO1_INTPERS_430_C.trs', 'ESLO1_ENTOUV_263_C.trs', 'ESLO1_TEL_319_C.trs',
|
112 |
+
'ESLO2_ENT_1055_C.trs', 'ESLO2_ENT_1010_C.trs', 'ESLO1_ENT_021_C.trs', 'ESLO1_ENT_064_C.trs',
|
113 |
+
'ESLO2_ITI_1143_C.trs', 'ESLO2_ITI_1106_C.trs', 'ESLO1_CONSCMPP_704_C.trs',
|
114 |
+
'ESLO2_CINE_1216_C.trs', 'ESLO1_ENT_099_C.trs', 'ESLO2_LIVRENF_1321_C.trs',
|
115 |
+
'ESLO2_CINE_1192_C.trs', 'ESLO1_ENT_059_C.trs', 'ESLO2_INTPERS_1245_C.trs', 'ESLO2_ENT_1068_C.trs',
|
116 |
+
'ESLO1_ENT_101_C.trs', 'ESLO1_REPAS_279_C.trs', 'ESLO1_INTPERS_448_C.trs', 'ESLO1_TEL_361_C.trs',
|
117 |
+
'ESLO1_ENTCONT_216_C.trs', 'ESLO2_ECOLE_1287_C.trs', 'ESLO2_RUMEUR_1338_C.trs',
|
118 |
+
'ESLO1_ENT_080_C.trs', 'ESLO1_TEL_345_C.trs', 'ESLO1_MAG_626_C.trs', 'ESLO1_INTPERS_429_C.trs',
|
119 |
+
'ESLO2_ENT_1009_C.trs', 'ESLO1_ENT_160_C.trs', 'ESLO1_ENT_125_C.trs', 'ESLO2_CONF_1242_C.trs',
|
120 |
+
'ESLO1_ENT_118_C.trs', 'ESLO2_ENT_1071_C.trs', 'ESLO2_ITI_1087_C.trs', 'ESLO1_INTPERS_414_C.trs',
|
121 |
+
'ESLO1_INTPERS_451_C.trs', 'ESLO2_LIVRENF_1305_C.trs', 'ESLO2_REPAS_1256_C.trs',
|
122 |
+
'ESLO1_CONSCMPP_720_C.trs', 'ESLO1_ENT_005_C.trs', 'ESLO2_CINE_1176_C.trs', 'ESLO2_ITI_1167_C.trs',
|
123 |
+
'ESLO1_ENT_114_C.trs', 'ESLO2_ENT_1038_C.trs', 'ESLO1_ENT_151_C.trs', 'ESLO2_24H_1249_C.trs',
|
124 |
+
'ESLO1_INTPERS_418_C.trs', 'ESLO2_LIVRENF_1251_C.trs', 'ESLO2_ENT_1080_C.trs',
|
125 |
+
'ESLO2_CINE_1187_C.trs', 'ESLO1_ENT_009_C.trs', 'ESLO2_ITI_1113_C.trs', 'ESLO2_ITI_1156_C.trs',
|
126 |
+
'ESLO2_RUMEUR_1334_C.trs', 'ESLO1_ENT_071_C.trs', 'ESLO2_CINE_1203_C.trs',
|
127 |
+
'ESLO2_REPAS_1267_C.trs', 'ESLO1_CONSCMPP_711_C.trs', 'ESLO2_ECOLE_1276_C.trs',
|
128 |
+
'ESLO1_TEL_349_C.trs', 'ESLO2_ENT_1005_C.trs', 'ESLO1_ENT_129_C.trs', 'ESLO2_ENT_1040_C.trs',
|
129 |
+
'ESLO2_ECOLE_1252_C.trs', 'ESLO2_LIVRENF_1310_C.trs', 'ESLO1_CONSCMPP_735_C.trs',
|
130 |
+
'ESLO2_ITI_1137_C.trs', 'ESLO2_ITI_1172_C.trs', 'ESLO1_ENT_055_C.trs', 'ESLO1_ENT_010_C.trs',
|
131 |
+
'ESLO2_ENTJEUN_1234_C.trs', 'ESLO1_REPAS_275_C.trs', 'ESLO1_ENT_148_C.trs', 'ESLO2_ENT_1021_C.trs',
|
132 |
+
'ESLO2_ENT_1064_C.trs', 'ESLO2_DISC_1238_C.trs', 'ESLO1_MAR_617_C.trs', 'ESLO1_REU_296_C.trs',
|
133 |
+
'ESLO1_ENTOUV_252_C.trs', 'ESLO1_TEL_350_C.trs', 'ESLO2_ENT_1059_C.trs', 'ESLO1_ENTCONT_203_C.trs',
|
134 |
+
'ESLO2_ECOLE_1292_C.trs', 'ESLO1_ENT_068_C.trs', 'ESLO1_ENT_095_C.trs', 'ESLO1_CONSCMPP_708_C.trs',
|
135 |
+
'ESLO1_ENT_132_C.trs', 'ESLO1_MAG_631_C.trs', 'ESLO1_TEL_352_C.trs', 'ESLO2_CINE_1218_C.trs',
|
136 |
+
'ESLO1_ENT_097_C.trs', 'ESLO2_ITI_1108_C.trs', 'ESLO2_ECOLE_1290_C.trs', 'ESLO1_ENTCONT_201_C.trs',
|
137 |
+
'ESLO2_ITI_1135_C.trs', 'ESLO2_ITI_1170_C.trs', 'ESLO1_ENT_057_C.trs', 'ESLO1_ENT_012_C.trs',
|
138 |
+
'ESLO1_CONSCMPP_737_C.trs', 'ESLO2_CONF_1074_C.trs', 'ESLO2_LIVRENF_1312_C.trs',
|
139 |
+
'ESLO1_INTPERS_446_C.trs', 'ESLO1_REU_294_C.trs', 'ESLO2_RUMEUR_1336_B.trs',
|
140 |
+
'ESLO1_INTPERS_403_C.trs', 'ESLO2_BOUL_1332_A.trs', 'ESLO2_ITI_1090_C.trs', 'ESLO2_ENT_1023_C.trs',
|
141 |
+
'ESLO2_ENT_1066_C.trs', 'ESLO1_VISIT_602_B.trs', 'ESLO2_ENTJEUN_1236_C.trs',
|
142 |
+
'ESLO2_ECOLE_1274_C.trs', 'ESLO2_CINE_1201_C.trs', 'ESLO2_REPAS_1265_C.trs',
|
143 |
+
'ESLO1_CONSCMPP_713_C.trs', 'ESLO1_ENTCONT_218_C.trs', 'ESLO2_ITI_1111_C.trs',
|
144 |
+
'ESLO2_ITI_1154_C.trs', 'ESLO1_ENT_073_C.trs', 'ESLO2_ECOLE_1289_C.trs', 'ESLO2_ENT_1007_C.trs',
|
145 |
+
'ESLO2_ENT_1042_C.trs', 'ESLO2_DIA_1224_C.trs', 'ESLO1_INTPERS_462_C.trs',
|
146 |
+
'ESLO1_INTPERS_427_C.trs', 'ESLO1_MAG_650_C.trs', 'ESLO2_ITI_1089_C.trs', 'ESLO2_ENT_1082_C.trs',
|
147 |
+
'ESLO1_ENT_116_C.trs', 'ESLO1_ENT_153_C.trs', 'ESLO1_ENTCONT_225_C.trs', 'ESLO2_CINE_1178_C.trs',
|
148 |
+
'ESLO2_ITI_1169_C.trs', 'ESLO2_CINE_1185_C.trs', 'ESLO2_REPAS_1258_C.trs',
|
149 |
+
'ESLO1_INTPERS_423_C.trs', 'ESLO2_ENT_1003_C.trs', 'ESLO2_ENT_1046_C.trs', 'ESLO2_ITI_1115_C.trs',
|
150 |
+
'ESLO2_ITI_1150_C.trs', 'ESLO1_ENT_077_C.trs', 'ESLO2_CINE_1205_C.trs', 'ESLO1_CONSCMPP_717_C.trs',
|
151 |
+
'ESLO2_REPAS_1261_C.trs', 'ESLO1_CONSCMPP_752_C.trs', 'ESLO2_CINE_1181_C.trs',
|
152 |
+
'ESLO2_ITI_1128_C.trs', 'ESLO1_ENT_112_C.trs', 'ESLO2_ITI_1149_C.trs', 'ESLO2_ECOLE_1294_C.trs',
|
153 |
+
'ESLO1_ENT_093_C.trs', 'ESLO1_ENT_136_C.trs', 'ESLO1_ENT_173_C.trs', 'ESLO2_ENT_1027_C.trs',
|
154 |
+
'ESLO2_ENT_1062_C.trs', 'ESLO2_ENTJEUN_1232_C.trs', 'ESLO1_REPAS_273_C.trs',
|
155 |
+
'ESLO1_INTPERS_407_C.trs', 'ESLO1_ENTOUV_254_C.trs', 'ESLO2_ITI_1094_C.trs',
|
156 |
+
'ESLO1_CONSCMPP_733_C.trs', 'ESLO2_LIVRENF_1316_C.trs', 'ESLO2_CINE_1198_C.trs',
|
157 |
+
'ESLO2_ITI_1131_C.trs', 'ESLO2_ITI_1174_C.trs', 'ESLO1_ENT_053_C.trs', 'ESLO1_ENTCONT_238_C.trs',
|
158 |
+
'ESLO2_ITI_1096_C.trs', 'ESLO1_INTPERS_440_C.trs', 'ESLO2_ENTJEUN_1230_C.trs',
|
159 |
+
'ESLO2_ENT_1025_C.trs', 'ESLO1_ENT_109_C.trs', 'ESLO2_ENT_1060_C.trs', 'ESLO1_REU_542_C.trs',
|
160 |
+
'ESLO2_ITI_1133_C.trs', 'ESLO1_ENT_051_C.trs', 'ESLO1_ENT_014_C.trs', 'ESLO2_LIVRENF_1314_C.trs',
|
161 |
+
'ESLO1_CONSCMPP_731_C.trs', 'ESLO2_REPAS_1247_C.trs', 'ESLO1_ENT_091_C.trs',
|
162 |
+
'ESLO1_ENTCONT_207_C.trs', 'ESLO1_ENT_029_C.trs', 'ESLO2_ECOLE_1296_C.trs', 'ESLO2_ENT_1018_C.trs',
|
163 |
+
'ESLO1_TEL_354_C.trs', 'ESLO1_INTPERS_438_C.trs', 'ESLO1_ENT_048_C.trs', 'ESLO1_ENTCONT_223_C.trs',
|
164 |
+
'ESLO1_CONSCMPP_728_C.trs', 'ESLO2_CINE_1183_C.trs', 'ESLO1_ENTCLO_256_C.trs',
|
165 |
+
'ESLO2_ENT_1084_C.trs', 'ESLO2_ENT_1079_C.trs', 'ESLO1_ENT_110_C.trs', 'ESLO1_ENT_155_C.trs',
|
166 |
+
'ESLO2_ITI_1072_C.trs', 'ESLO2_ENTJEUN_1229_C.trs', 'ESLO2_ENT_1001_C.trs', 'ESLO2_ENT_1044_C.trs',
|
167 |
+
'ESLO1_INTPERS_421_C.trs', 'ESLO1_TEL_308_C.trs', 'ESLO2_DIA_1222_C.trs', 'ESLO2_REPAS_1263_C.trs',
|
168 |
+
'ESLO1_ENT_088_C.trs', 'ESLO2_ITI_1117_C.trs', 'ESLO2_ITI_1152_C.trs', 'ESLO1_ENT_075_C.trs',
|
169 |
+
'ESLO1_ENT_030_C.trs', 'ESLO1_INTPERS_402_C.trs', 'ESLO1_INTPERS_447_C.trs',
|
170 |
+
'ESLO2_ITI_1091_C.trs', 'ESLO2_ENT_1067_C.trs', 'ESLO2_ENT_1022_C.trs', 'ESLO2_ITI_1171_C.trs',
|
171 |
+
'ESLO2_ITI_1134_C.trs', 'ESLO1_ENT_013_C.trs', 'ESLO1_ENT_056_C.trs', 'ESLO2_LIVRENF_1313_C.trs',
|
172 |
+
'ESLO2_CINE_1219_C.trs', 'ESLO1_ENT_096_C.trs', 'ESLO2_ECOLE_1291_C.trs', 'ESLO1_ENT_133_C.trs',
|
173 |
+
'ESLO1_MAG_630_C.trs', 'ESLO1_TEL_316_C.trs', 'ESLO1_TEL_353_C.trs', 'ESLO1_ENTCONT_224_C.trs',
|
174 |
+
'ESLO2_CINE_1179_C.trs', 'ESLO2_ITI_1168_C.trs', 'ESLO2_CINE_1184_C.trs', 'ESLO2_REPAS_1259_C.trs',
|
175 |
+
'ESLO2_ENT_1083_C.trs', 'ESLO1_TEL_332_C.trs', 'ESLO1_ENT_152_C.trs', 'ESLO1_ENT_117_C.trs',
|
176 |
+
'ESLO1_REU_519_C.trs', 'ESLO2_ENT_1043_C.trs', 'ESLO2_ENT_1006_C.trs', 'ESLO1_MAG_629_C.trs',
|
177 |
+
'ESLO2_DIA_1225_C.trs', 'ESLO1_INTPERS_426_C.trs', 'ESLO1_INTPERS_463_C.trs',
|
178 |
+
'ESLO2_ECOLE_1275_C.trs', 'ESLO1_VISIT_603_C.trs', 'ESLO2_CINE_1200_C.trs',
|
179 |
+
'ESLO1_CONSCMPP_712_C.trs', 'ESLO2_REPAS_1264_C.trs', 'ESLO1_ENTCONT_219_C.trs',
|
180 |
+
'ESLO2_ITI_1155_C.trs', 'ESLO2_RUMEUR_1337_C.trs', 'ESLO2_ITI_1110_C.trs',
|
181 |
+
'ESLO2_ECOLE_1288_C.trs', 'ESLO1_ENT_072_C.trs', 'ESLO1_INTPERS_424_C.trs',
|
182 |
+
'ESLO1_INTPERS_461_C.trs', 'ESLO1_TEL_348_C.trs', 'ESLO2_DIA_1227_C.trs', 'ESLO1_ENT_128_C.trs',
|
183 |
+
'ESLO2_ENT_1041_C.trs', 'ESLO2_ENT_1004_C.trs', 'ESLO2_ITI_1157_C.trs', 'ESLO2_RUMEUR_1335_C.trs',
|
184 |
+
'ESLO2_ITI_1112_C.trs', 'ESLO1_ENT_070_C.trs', 'ESLO2_CINE_1202_C.trs', 'ESLO1_CONSCMPP_710_C.trs',
|
185 |
+
'ESLO2_REPAS_1266_C.trs', 'ESLO2_ECOLE_1277_C.trs', 'ESLO2_CINE_1186_C.trs', 'ESLO1_ENT_008_C.trs',
|
186 |
+
'ESLO1_ENTCONT_226_C.trs', 'ESLO1_DIV_292_C.trs', 'ESLO2_ENT_1039_C.trs', 'ESLO1_ENT_150_C.trs',
|
187 |
+
'ESLO1_INTPERS_419_C.trs', 'ESLO2_ENT_1081_C.trs', 'ESLO1_ENTCLO_253_C.trs',
|
188 |
+
'ESLO1_ENTCONT_202_C.trs', 'ESLO1_ENT_069_C.trs', 'ESLO2_ECOLE_1293_C.trs', 'ESLO1_ENT_094_C.trs',
|
189 |
+
'ESLO1_CONSCMPP_709_C.trs', 'ESLO1_TEL_351_C.trs', 'ESLO2_ENT_1058_C.trs', 'ESLO1_ENT_131_C.trs',
|
190 |
+
'ESLO2_ENTJEUN_1235_C.trs', 'ESLO1_REPAS_274_C.trs', 'ESLO2_ENT_1065_C.trs', 'ESLO1_ENT_149_C.trs',
|
191 |
+
'ESLO2_ENT_1020_C.trs', 'ESLO2_DISC_1239_C.trs', 'ESLO2_ITI_1093_C.trs', 'ESLO1_INTPERS_445_C.trs',
|
192 |
+
'ESLO2_LIVRENF_1311_C.trs', 'ESLO1_CONSCMPP_734_C.trs', 'ESLO2_ITI_1173_C.trs',
|
193 |
+
'ESLO2_ITI_1136_C.trs', 'ESLO1_ENT_054_C.trs', 'ESLO2_ENT_1019_C.trs', 'ESLO1_ENT_170_C.trs',
|
194 |
+
'ESLO1_ENT_135_C.trs', 'ESLO1_MAG_673_C.trs', 'ESLO1_TEL_355_C.trs', 'ESLO1_INTPERS_439_C.trs',
|
195 |
+
'ESLO2_LIVRENF_1328_C.trs', 'ESLO1_ENT_090_C.trs', 'ESLO1_ENTCONT_206_C.trs',
|
196 |
+
'ESLO1_ENT_028_C.trs', 'ESLO2_ECOLE_1297_C.trs', 'ESLO1_ENT_015_C.trs', 'ESLO2_LIVRENF_1315_C.trs',
|
197 |
+
'ESLO1_CONSCMPP_730_C.trs', 'ESLO2_ITI_1097_C.trs', 'ESLO2_MEDIA_1248_C.trs',
|
198 |
+
'ESLO1_MAR_612_C.trs', 'ESLO1_ENTOUV_257_C.trs', 'ESLO1_INTPERS_441_C.trs',
|
199 |
+
'ESLO2_ENTJEUN_1231_C.trs', 'ESLO1_REPAS_270_C.trs', 'ESLO1_ENT_108_C.trs', 'ESLO2_ENT_1024_C.trs',
|
200 |
+
'ESLO2_CINE_1206_C.trs', 'ESLO2_ENT_1061_B.trs', 'ESLO1_CONSCMPP_751_C.trs',
|
201 |
+
'ESLO2_REPAS_1262_C.trs', 'ESLO1_ENT_089_C.trs', 'ESLO2_LIVRENF_1331_C.trs',
|
202 |
+
'ESLO2_ECOLE_1273_C.trs', 'ESLO2_ITI_1153_C.trs', 'ESLO2_ITI_1116_C.trs', 'ESLO2_ENT_1045_C.trs',
|
203 |
+
'ESLO1_ENT_169_C.trs', 'ESLO1_INTPERS_420_C.trs', 'ESLO2_DIA_1223_C.trs', 'ESLO1_TEL_334_C.trs',
|
204 |
+
'ESLO2_ENT_1085_C.trs', 'ESLO1_TEL_371_C.trs', 'ESLO2_ENT_1078_C.trs', 'ESLO1_ENT_111_C.trs',
|
205 |
+
'ESLO2_ENTJEUN_1228_C.trs', 'ESLO2_CINE_1182_C.trs', 'ESLO1_ENT_156_C.trs', 'ESLO1_ENT_113_C.trs',
|
206 |
+
'ESLO1_TEL_336_C.trs', 'ESLO1_ENTCLO_255_C.trs', 'ESLO1_TEL_373_C.trs', 'ESLO2_CINE_1180_C.trs',
|
207 |
+
'ESLO2_ITI_1129_C.trs', 'ESLO2_ITI_1151_C.trs', 'ESLO2_ITI_1114_C.trs', 'ESLO1_ENT_076_C.trs',
|
208 |
+
'ESLO2_CINE_1204_C.trs', 'ESLO2_REPAS_1260_C.trs', 'ESLO1_CONSCMPP_716_C.trs',
|
209 |
+
'ESLO2_DIA_1221_C.trs', 'ESLO1_INTPERS_422_C.trs', 'ESLO2_ENT_1047_C.trs', 'ESLO2_ENT_1002_C.trs',
|
210 |
+
'ESLO1_REU_520_C.trs', 'ESLO2_CINE_1220_C.trs', 'ESLO1_CONSCMPP_732_C.trs',
|
211 |
+
'ESLO2_LIVRENF_1317_C.trs', 'ESLO2_CINE_1199_C.trs', 'ESLO2_ITI_1130_C.trs', 'ESLO1_ENT_017_C.trs',
|
212 |
+
'ESLO1_ENT_052_C.trs', 'ESLO1_ENTCONT_239_C.trs', 'ESLO2_ENTJEUN_1233_C.trs',
|
213 |
+
'ESLO1_REPAS_272_C.trs', 'ESLO1_INTPERS_406_C.trs', 'ESLO2_ITI_1095_C.trs', 'ESLO1_MAG_634_C.trs',
|
214 |
+
'ESLO1_TEL_312_C.trs', 'ESLO1_ENT_172_C.trs', 'ESLO2_BOUL_1250_C.trs', 'ESLO1_ENT_137_C.trs',
|
215 |
+
'ESLO2_ITI_1148_C.trs', 'ESLO2_ECOLE_1295_C.trs', 'ESLO1_ENTCONT_204_C.trs']
|
216 |
|
217 |
|
218 |
@dataclass
|
|
|
225 |
|
226 |
|
227 |
class ESLOConfig(datasets.BuilderConfig):
|
228 |
+
"""BuilderConfig for ESLO."""
|
229 |
|
230 |
def __init__(self, name, **kwargs):
|
231 |
"""
|
|
|
246 |
self.hesitation = True
|
247 |
|
248 |
|
249 |
+
class ESLO(datasets.GeneratorBasedBuilder):
|
250 |
+
"""ESLO dataset."""
|
251 |
|
252 |
BUILDER_CONFIGS = [
|
253 |
ESLOConfig(name="no_overlap_no_hesitation", description="ESLO dataset, removed hesitations from samples"
|
|
|
265 |
features=datasets.Features(
|
266 |
{
|
267 |
"file": datasets.Value("string"),
|
|
|
268 |
"audio": datasets.features.Audio(sampling_rate=SAMPLING_RATE),
|
269 |
"sentence": datasets.Value("string"),
|
270 |
"speaker": datasets.Value("string"),
|
|
|
277 |
)
|
278 |
|
279 |
def _split_generators(self, dl_manager):
|
280 |
+
transcripts_train = dl_manager.download(
|
281 |
+
[os.path.join("eslo/downloads/transcripts_deduplicated_train", transcript) for transcript in
|
282 |
+
TRAIN_TRANSCRIPTS])
|
283 |
+
transcripts_test = dl_manager.download(
|
284 |
+
[os.path.join("eslo/downloads/transcripts_deduplicated_train", transcript) for transcript in
|
285 |
+
TRAIN_TRANSCRIPTS])
|
286 |
+
audio_train = dl_manager.download(
|
287 |
+
{transcript: f"audio/{transcript[:-2]}.mp4" for transcript in TRAIN_TRANSCRIPTS})
|
288 |
+
audio_test = dl_manager.download(
|
289 |
+
{transcript: f"audio/{transcript[:-2]}.mp4" for transcript in TEST_TRANSCRIPTS})
|
290 |
|
|
|
|
|
|
|
|
|
|
|
|
|
291 |
splits = [
|
292 |
datasets.SplitGenerator(
|
293 |
name=datasets.Split.TRAIN,
|
294 |
gen_kwargs={
|
295 |
+
"transcripts": transcripts_train,
|
296 |
+
"audio_files": audio_train
|
297 |
}
|
298 |
),
|
299 |
datasets.SplitGenerator(
|
300 |
name=datasets.Split.TEST,
|
301 |
gen_kwargs={
|
302 |
+
"transcripts": transcripts_test,
|
303 |
+
"audio_files": audio_test
|
304 |
}
|
305 |
),
|
306 |
|
|
|
312 |
def extract_text(elem):
|
313 |
text = elem.text or ''
|
314 |
for child in elem:
|
315 |
+
text += ESLO.extract_text(child)
|
316 |
if child.tail:
|
317 |
text += child.tail
|
318 |
return text
|
|
|
341 |
continue
|
342 |
start_time = float(turn.get('startTime'))
|
343 |
end_time = float(turn.get('endTime'))
|
344 |
+
text = re.sub(r"[\r\n\s]+", " ", ESLO.extract_text(turn).strip())
|
345 |
text = self.clean_text(text)
|
346 |
if any(c.isalnum() for c in text):
|
347 |
utts.append(Utterance(
|
|
|
382 |
def _cut_audio(audio: Array, start_timestamp: float, end_timestamp: float):
|
383 |
return audio[int(round(start_timestamp * SAMPLING_RATE)): int(round(end_timestamp * SAMPLING_RATE)) + 1]
|
384 |
|
385 |
+
def _generate_examples(self, transcripts, audio_files):
|
386 |
"""Generate examples from a Multilingual LibriSpeech data dir."""
|
387 |
+
for path in transcripts:
|
388 |
+
transcript_name = os.path.splitext(os.path.basename(path))[0]
|
389 |
+
audio = self.load_audio(audio_files[transcript_name])
|
390 |
+
for utterance in self.load_one(path):
|
|
|
391 |
if not self.config.overlap and utterance.overlap:
|
392 |
continue
|
393 |
+
yield f"{transcript_name}_{utterance.start_timestamp}-{utterance.end_timestamp}", {
|
394 |
+
"file": transcript_name,
|
|
|
395 |
"sentence": utterance.sentence,
|
396 |
"start_timestamp": utterance.start_timestamp,
|
397 |
"end_timestamp": utterance.end_timestamp,
|
398 |
"speaker": utterance.speaker,
|
399 |
"overlap": utterance.overlap,
|
400 |
+
"audio": {"path": transcript_name,
|
401 |
"array": self._cut_audio(audio, utterance.start_timestamp, utterance.end_timestamp),
|
402 |
"sampling_rate": 16000}}
|