Create ESLO.py

ESLO.py

@@ -0,0 +1,380 @@
+import os
+import re
+from ctypes import Array
+from dataclasses import dataclass
+from typing import List
+import xml.etree.ElementTree as ET
+import ffmpeg
+
+import datasets
+import numpy as np
+
+_CITATION = """\
+@misc{11403/eslo/v1,
+    title = {ESLO},
+    author = {LLL},
+    url = {https://hdl.handle.net/11403/eslo/v1},
+    note = {{ORTOLANG} ({Open} {Resources} {and} {TOols} {for} {LANGuage}) \textendash www.ortolang.fr},
+    copyright = {Licence Creative Commons Attribution - Pas d'Utilisation Commerciale - Partage dans les Mêmes Conditions 4.0 International},
+    year = {2023}
+}
+"""
+
+_DESCRIPTION = """\
+ESLO dataset, each utterance are taken out individually
+"""
+SAMPLING_RATE = 16000
+AUDIO_FOLDER = "audio"
+AUDIO_FILES = ['ESLO2_ITI_1073.mp4', 'ESLO1_ENT_117.mp4', 'ESLO1_ENT_103.mp4', 'ESLO2_ITI_1098.mp4',
+               'ESLO1_ENTCONT_237.mp4', 'ESLO1_ENTCONT_223.mp4', 'ESLO2_RUMEUR_1339.mp4', 'ESLO2_INTPERS_1245.mp4',
+               'ESLO1_TEL_364.mp4', 'ESLO2_ITI_1107.mp4', 'ESLO1_CONF_503.mp4', 'ESLO1_MAG_631.mp4',
+               'ESLO1_MAG_625.mp4', 'ESLO1_TEL_370.mp4', 'ESLO2_ITI_1113.mp4', 'ESLO1_ENT_063.mp4',
+               'ESLO2_LIVRENF_1317.mp4', 'ESLO2_LIVRENF_1303.mp4', 'ESLO1_ENT_077.mp4', 'ESLO2_ENT_1022.mp4',
+               'ESLO2_ENT_1036.mp4', 'ESLO1_INTPERS_406.mp4', 'ESLO1_ENT_088.mp4', 'ESLO1_ENT_089.mp4',
+               'ESLO1_INTPERS_407.mp4', 'ESLO2_ENT_1037.mp4', 'ESLO2_ENT_1023.mp4', 'ESLO2_LIVRENF_1302.mp4',
+               'ESLO1_ENT_076.mp4', 'ESLO1_ENT_062.mp4', 'ESLO2_LIVRENF_1316.mp4', 'ESLO2_ITI_1112.mp4',
+               'ESLO1_TEL_371.mp4', 'ESLO1_MAG_630.mp4', 'ESLO1_CONF_502.mp4', 'ESLO2_ITI_1106.mp4',
+               'ESLO1_TEL_365.mp4', 'ESLO2_RUMEUR_1338.mp4', 'ESLO1_ENTCONT_236.mp4', 'ESLO1_VISIT_601.mp4',
+               'ESLO1_REU_542.mp4', 'ESLO2_ITI_1099.mp4', 'ESLO1_ENT_102.mp4', 'ESLO1_ENT_116.mp4',
+               'ESLO2_ITI_1072.mp4', 'ESLO1_ENT_128.mp4', 'ESLO1_ENT_100.mp4', 'ESLO1_ENT_114.mp4', 'ESLO1_REU_554.mp4',
+               'ESLO1_ENTCONT_208.mp4', 'ESLO1_VISIT_603.mp4', 'ESLO1_ENT_048.mp4', 'ESLO1_MAG_626.mp4',
+               'ESLO1_TEL_373.mp4', 'ESLO2_ITI_1110.mp4', 'ESLO2_LIVRENF_1328.mp4', 'ESLO1_TEL_367.mp4',
+               'ESLO2_ITI_1104.mp4', 'ESLO2_LIVRENF_1314.mp4', 'ESLO1_ENT_060.mp4', 'ESLO2_ITI_1138.mp4',
+               'ESLO2_ENT_1035.mp4', 'ESLO2_ENT_1021.mp4', 'ESLO1_INTPERS_439.mp4', 'ESLO2_ENT_1009.mp4',
+               'ESLO2_ENT_1008.mp4', 'ESLO1_INTPERS_438.mp4', 'ESLO2_ENT_1020.mp4', 'ESLO2_ENT_1034.mp4',
+               'ESLO2_LIVRENF_1315.mp4', 'ESLO2_ITI_1139.mp4', 'ESLO1_ENT_061.mp4', 'ESLO1_ENT_075.mp4',
+               'ESLO2_ITI_1105.mp4', 'ESLO1_TEL_366.mp4', 'ESLO2_ITI_1111.mp4', 'ESLO1_MAG_627.mp4',
+               'ESLO1_ENTCONT_235.mp4', 'ESLO1_VISIT_602.mp4', 'ESLO1_ENT_115.mp4', 'ESLO1_ENT_101.mp4',
+               'ESLO1_ENT_129.mp4', 'ESLO1_ENT_105.mp4', 'ESLO1_ENT_111.mp4', 'ESLO1_ENT_139.mp4',
+               'ESLO1_ENTCONT_225.mp4', 'ESLO1_ENTCONT_219.mp4', 'ESLO1_REU_551.mp4', 'ESLO2_ENTJEUN_1228.mp4',
+               'ESLO2_LIVRENF_1305.mp4', 'ESLO2_ITI_1129.mp4', 'ESLO1_ENT_071.mp4', 'ESLO1_ENT_065.mp4',
+               'ESLO2_LIVRENF_1311.mp4', 'ESLO2_ITI_1115.mp4', 'ESLO1_TEL_362.mp4', 'ESLO2_ITI_1101.mp4',
+               'ESLO1_ENT_059.mp4', 'ESLO1_CONF_505.mp4', 'ESLO2_ENT_1018.mp4', 'ESLO2_ENT_1030.mp4',
+               'ESLO1_INTPERS_414.mp4', 'ESLO2_ENT_1024.mp4', 'ESLO2_ENT_1025.mp4', 'ESLO1_INTPERS_415.mp4',
+               'ESLO1_INTPERS_401.mp4', 'ESLO2_ENT_1031.mp4', 'ESLO1_INTPERS_429.mp4', 'ESLO2_ENT_1019.mp4',
+               'ESLO1_CONF_504.mp4', 'ESLO1_ENT_058.mp4', 'ESLO2_ITI_1100.mp4', 'ESLO2_ITI_1114.mp4',
+               'ESLO1_ENT_064.mp4', 'ESLO2_LIVRENF_1310.mp4', 'ESLO2_LIVRENF_1304.mp4', 'ESLO1_ENT_070.mp4',
+               'ESLO2_ITI_1128.mp4', 'ESLO2_ENTJEUN_1229.mp4', 'ESLO1_ENTCONT_218.mp4', 'ESLO1_ENTCONT_230.mp4',
+               'ESLO1_ENTCONT_224.mp4', 'ESLO1_ENT_138.mp4', 'ESLO1_ENT_110.mp4', 'ESLO1_ENT_104.mp4',
+               'ESLO1_ENT_112.mp4', 'ESLO1_ENT_106.mp4', 'ESLO2_ITI_1089.mp4', 'ESLO1_ENTCONT_226.mp4',
+               'ESLO2_DISC_1239.mp4', 'ESLO2_LIVRENF_1312.mp4', 'ESLO1_ENT_066.mp4', 'ESLO1_TEL_349.mp4',
+               'ESLO1_ENT_072.mp4', 'ESLO2_LIVRENF_1306.mp4', 'ESLO1_TEL_361.mp4', 'ESLO2_ITI_1102.mp4',
+               'ESLO1_MAG_634.mp4', 'ESLO2_ITI_1116.mp4', 'ESLO1_INTPERS_417.mp4', 'ESLO1_ENT_099.mp4',
+               'ESLO2_ENT_1027.mp4', 'ESLO2_ENT_1033.mp4', 'ESLO1_INTPERS_403.mp4', 'ESLO1_INTPERS_402.mp4',
+               'ESLO2_ENT_1032.mp4', 'ESLO2_ENT_1026.mp4', 'ESLO1_ENT_098.mp4', 'ESLO1_INTPERS_416.mp4',
+               'ESLO2_ITI_1117.mp4', 'ESLO2_ITI_1103.mp4', 'ESLO1_TEL_360.mp4', 'ESLO1_ENT_073.mp4',
+               'ESLO1_TEL_348.mp4', 'ESLO2_LIVRENF_1307.mp4', 'ESLO2_LIVRENF_1313.mp4', 'ESLO1_ENT_067.mp4',
+               'ESLO2_DISC_1238.mp4', 'ESLO2_ITI_1088.mp4', 'ESLO1_ENT_107.mp4', 'ESLO1_ENT_113.mp4',
+               'ESLO1_ENT_148.mp4', 'ESLO1_ENT_160.mp4', 'ESLO2_ECOLE_1290.mp4', 'ESLO2_ECOLE_1284.mp4',
+               'ESLO1_REU_520.mp4', 'ESLO2_CINE_1207.mp4', 'ESLO2_CINE_1213.mp4', 'ESLO1_CONSCMPP_717.mp4',
+               'ESLO1_CONSCMPP_703.mp4', 'ESLO1_TEL_307.mp4', 'ESLO2_ENT_1082.mp4', 'ESLO2_ITI_1164.mp4',
+               'ESLO2_ITI_1170.mp4', 'ESLO1_ENT_028.mp4', 'ESLO2_REPAS_1260.mp4', 'ESLO2_ITI_1158.mp4',
+               'ESLO1_ENT_014.mp4', 'ESLO2_ENT_1041.mp4', 'ESLO2_ENT_1055.mp4', 'ESLO1_ENTCLO_259.mp4',
+               'ESLO2_ENT_1069.mp4', 'ESLO2_ENT_1068.mp4', 'ESLO2_ENT_1054.mp4', 'ESLO1_ENTCLO_264.mp4',
+               'ESLO2_ENT_1040.mp4', 'ESLO1_ENT_015.mp4', 'ESLO1_ENT_001.mp4', 'ESLO2_ITI_1159.mp4',
+               'ESLO2_REPAS_1261.mp4', 'ESLO1_ENT_029.mp4', 'ESLO2_ITI_1171.mp4', 'ESLO1_TEL_312.mp4',
+               'ESLO2_ITI_1165.mp4', 'ESLO2_ENT_1083.mp4', 'ESLO1_CONSCMPP_702.mp4', 'ESLO1_CONSCMPP_716.mp4',
+               'ESLO2_CINE_1212.mp4', 'ESLO2_CINE_1206.mp4', 'ESLO2_ECOLE_1285.mp4', 'ESLO1_ENTOUV_257.mp4',
+               'ESLO2_ECOLE_1291.mp4', 'ESLO1_ENT_161.mp4', 'ESLO2_CONF_1074.mp4', 'ESLO2_ECOLE_1252.mp4',
+               'ESLO1_ENT_149.mp4', 'ESLO2_CINE_1199.mp4', 'ESLO1_REPAS_278.mp4', 'ESLO1_ENT_163.mp4',
+               'ESLO2_ECOLE_1278.mp4', 'ESLO2_ECOLE_1287.mp4', 'ESLO2_ECOLE_1293.mp4', 'ESLO2_CINE_1210.mp4',
+               'ESLO1_CONSCMPP_728.mp4', 'ESLO2_CINE_1204.mp4', 'ESLO2_ITI_1173.mp4', 'ESLO1_MAG_645.mp4',
+               'ESLO2_ENT_1081.mp4', 'ESLO2_ITI_1167.mp4', 'ESLO1_ENT_017.mp4', 'ESLO1_TEL_338.mp4',
+               'ESLO2_REPAS_1263.mp4', 'ESLO1_ENT_003.mp4', 'ESLO2_ENT_1056.mp4', 'ESLO2_ENT_1042.mp4',
+               'ESLO2_ENT_1043.mp4', 'ESLO2_ENT_1057.mp4', 'ESLO1_ENT_002.mp4', 'ESLO2_REPAS_1262.mp4',
+               'ESLO2_ITI_1166.mp4', 'ESLO2_ENT_1080.mp4', 'ESLO1_MAG_650.mp4', 'ESLO2_ITI_1172.mp4',
+               'ESLO1_CONSCMPP_701.mp4', 'ESLO2_CINE_1205.mp4', 'ESLO2_CINE_1211.mp4', 'ESLO2_ECOLE_1292.mp4',
+               'ESLO1_ENTOUV_254.mp4', 'ESLO2_ECOLE_1286.mp4', 'ESLO2_ECOLE_1279.mp4', 'ESLO1_REPAS_279.mp4',
+               'ESLO2_CINE_1198.mp4', 'ESLO1_ENT_166.mp4', 'ESLO2_CINE_1188.mp4', 'ESLO1_ENT_172.mp4',
+               'ESLO2_ECOLE_1282.mp4', 'ESLO2_ECOLE_1296.mp4', 'ESLO2_CINE_1177.mp4', 'ESLO1_CONSCMPP_705.mp4',
+               'ESLO1_CONSCMPP_711.mp4', 'ESLO2_CINE_1215.mp4', 'ESLO2_CINE_1201.mp4', 'ESLO1_ENT_012.mp4',
+               'ESLO2_REPAS_1266.mp4', 'ESLO1_ENT_006.mp4', 'ESLO1_TEL_301.mp4', 'ESLO2_ITI_1162.mp4',
+               'ESLO2_ENT_1084.mp4', 'ESLO1_INTPERS_463.mp4', 'ESLO2_ENT_1053.mp4', 'ESLO2_ENT_1047.mp4',
+               'ESLO2_ENT_1046.mp4', 'ESLO2_ENT_1052.mp4', 'ESLO1_INTPERS_462.mp4', 'ESLO2_ENT_1085.mp4',
+               'ESLO2_ITI_1163.mp4', 'ESLO1_ENT_007.mp4', 'ESLO2_REPAS_1267.mp4', 'ESLO1_ENT_013.mp4',
+               'ESLO2_CINE_1200.mp4', 'ESLO2_CINE_1214.mp4', 'ESLO1_CONSCMPP_710.mp4', 'ESLO1_CONSCMPP_704.mp4',
+               'ESLO1_REU_296.mp4', 'ESLO2_CINE_1176.mp4', 'ESLO2_ECOLE_1297.mp4', 'ESLO2_ECOLE_1283.mp4',
+               'ESLO1_ENT_173.mp4', 'ESLO2_CINE_1189.mp4', 'ESLO1_ENT_167.mp4', 'ESLO1_ENT_165.mp4',
+               'ESLO1_ENT_159.mp4', 'ESLO2_ECOLE_1295.mp4', 'ESLO2_ECOLE_1281.mp4', 'ESLO1_REU_519.mp4',
+               'ESLO1_MAG_290.mp4', 'ESLO1_REU_294.mp4', 'ESLO1_CONSCMPP_712.mp4', 'ESLO2_CINE_1202.mp4',
+               'ESLO2_CINE_1216.mp4', 'ESLO2_REPAS_1265.mp4', 'ESLO1_ENT_005.mp4', 'ESLO1_ENT_011.mp4',
+               'ESLO2_REPAS_1271.mp4', 'ESLO2_ITI_1149.mp4', 'ESLO1_TEL_302.mp4', 'ESLO2_REPAS_1259.mp4',
+               'ESLO2_ITI_1161.mp4', 'ESLO1_TEL_316.mp4', 'ESLO2_ITI_1175.mp4', 'ESLO1_INTPERS_448.mp4',
+               'ESLO2_ENT_1078.mp4', 'ESLO2_ENT_1044.mp4', 'ESLO2_ENT_1050.mp4', 'ESLO2_ENT_1051.mp4',
+               'ESLO1_INTPERS_461.mp4', 'ESLO2_ENT_1045.mp4', 'ESLO2_ENT_1079.mp4', 'ESLO1_INTPERS_449.mp4',
+               'ESLO2_ITI_1174.mp4', 'ESLO1_TEL_317.mp4', 'ESLO2_ITI_1160.mp4', 'ESLO2_REPAS_1258.mp4',
+               'ESLO2_ITI_1148.mp4', 'ESLO2_REPAS_1270.mp4', 'ESLO1_ENT_010.mp4', 'ESLO1_ENT_004.mp4',
+               'ESLO2_REPAS_1264.mp4', 'ESLO2_CINE_1217.mp4', 'ESLO2_CINE_1203.mp4', 'ESLO1_CONSCMPP_707.mp4',
+               'ESLO1_CONSCMPP_713.mp4', 'ESLO2_ECOLE_1280.mp4', 'ESLO2_ECOLE_1294.mp4', 'ESLO1_ENTOUV_252.mp4',
+               'ESLO1_ENT_164.mp4', 'ESLO1_ENT_170.mp4', 'ESLO2_CINE_1193.mp4', 'ESLO1_REPAS_272.mp4',
+               'ESLO1_ENT_169.mp4', 'ESLO2_CINE_1187.mp4', 'ESLO1_ENT_155.mp4', 'ESLO1_ENT_141.mp4',
+               'ESLO1_ENTOUV_263.mp4', 'ESLO2_ECOLE_1299.mp4', 'ESLO2_CINE_1178.mp4', 'ESLO2_CONF_1242.mp4',
+               'ESLO1_CONSCMPP_722.mp4', 'ESLO2_ITI_1145.mp4', 'ESLO1_MAG_673.mp4', 'ESLO1_ENT_009.mp4',
+               'ESLO2_REPAS_1269.mp4', 'ESLO1_TEL_332.mp4', 'ESLO2_ITI_1151.mp4', 'ESLO1_ENT_021.mp4',
+               'ESLO2_REPAS_1255.mp4', 'ESLO1_INTPERS_450.mp4', 'ESLO2_ENT_1060.mp4', 'ESLO2_ENT_1048.mp4',
+               'ESLO2_ENT_1049.mp4', 'ESLO1_INTPERS_445.mp4', 'ESLO2_ENT_1075.mp4', 'ESLO2_ENT_1061.mp4',
+               'ESLO1_INTPERS_451.mp4', 'ESLO2_REPAS_1254.mp4', 'ESLO1_ENT_020.mp4', 'ESLO2_ITI_1150.mp4',
+               'ESLO2_REPAS_1268.mp4', 'ESLO1_ENT_008.mp4', 'ESLO2_ITI_1144.mp4', 'ESLO1_CONSCMPP_723.mp4',
+               'ESLO1_CONSCMPP_737.mp4', 'ESLO2_MEDIA_1248.mp4', 'ESLO2_CONF_1243.mp4', 'ESLO2_CINE_1179.mp4',
+               'ESLO2_ECOLE_1298.mp4', 'ESLO1_ENT_140.mp4', 'ESLO2_CINE_1186.mp4', 'ESLO2_ECOLE_1273.mp4',
+               'ESLO1_REPAS_273.mp4', 'ESLO2_CINE_1192.mp4', 'ESLO2_CINE_1184.mp4', 'ESLO2_CINE_1190.mp4',
+               'ESLO1_ENT_142.mp4', 'ESLO1_ENT_156.mp4', 'ESLO1_ENTOUV_260.mp4', 'ESLO2_CONF_1241.mp4',
+               'ESLO2_ENT_1329.mp4', 'ESLO1_CONSCMPP_709.mp4', 'ESLO1_CONSCMPP_721.mp4', 'ESLO1_CONSCMPP_735.mp4',
+               'ESLO2_CINE_1219.mp4', 'ESLO2_ITI_1152.mp4', 'ESLO2_ITI_1146.mp4', 'ESLO2_REPAS_1256.mp4',
+               'ESLO1_ENT_022.mp4', 'ESLO1_TEL_319.mp4', 'ESLO1_ENTCLO_253.mp4', 'ESLO2_ENT_1077.mp4',
+               'ESLO1_INTPERS_447.mp4', 'ESLO1_INTPERS_453.mp4', 'ESLO2_ENT_1063.mp4', 'ESLO2_ENT_1062.mp4',
+               'ESLO1_INTPERS_452.mp4', 'ESLO1_INTPERS_446.mp4', 'ESLO2_ENT_1076.mp4', 'ESLO1_TEL_318.mp4',
+               'ESLO1_ENT_023.mp4', 'ESLO2_REPAS_1257.mp4', 'ESLO2_ITI_1147.mp4', 'ESLO2_ITI_1153.mp4',
+               'ESLO1_CONSCMPP_734.mp4', 'ESLO2_CINE_1218.mp4', 'ESLO1_CONSCMPP_720.mp4', 'ESLO1_CONSCMPP_708.mp4',
+               'ESLO2_CONF_1240.mp4', 'ESLO1_REU_517.mp4', 'ESLO1_ENT_143.mp4', 'ESLO1_REPAS_270.mp4',
+               'ESLO2_CINE_1191.mp4', 'ESLO2_CINE_1185.mp4', 'ESLO1_ENT_147.mp4', 'ESLO1_ENT_153.mp4',
+               'ESLO2_CINE_1181.mp4', 'ESLO1_REPAS_274.mp4', 'ESLO2_CINE_1195.mp4', 'ESLO2_ECOLE_1274.mp4',
+               'ESLO1_REU_513.mp4', 'ESLO2_CONF_1244.mp4', 'ESLO1_CONSCMPP_724.mp4', 'ESLO2_CINE_1208.mp4',
+               'ESLO1_CONSCMPP_730.mp4', 'ESLO1_CONSCMPP_718.mp4', 'ESLO2_CINE_1220.mp4', 'ESLO2_REPAS_1253.mp4',
+               'ESLO1_TEL_308.mp4', 'ESLO1_ENT_027.mp4', 'ESLO2_REPAS_1247.mp4', 'ESLO1_TEL_334.mp4',
+               'ESLO2_ITI_1157.mp4', 'ESLO2_ITI_1143.mp4', 'ESLO2_ECOLE_1300.mp4', 'ESLO1_ENTCLO_256.mp4',
+               'ESLO2_ENT_1066.mp4', 'ESLO2_ENT_1067.mp4', 'ESLO2_ECOLE_1301.mp4', 'ESLO2_ITI_1142.mp4',
+               'ESLO2_ITI_1156.mp4', 'ESLO1_ENT_026.mp4', 'ESLO1_CONSCMPP_731.mp4', 'ESLO1_CONSCMPP_725.mp4',
+               'ESLO2_CINE_1209.mp4', 'ESLO1_ENTOUV_258.mp4', 'ESLO2_ECOLE_1275.mp4', 'ESLO2_CINE_1194.mp4',
+               'ESLO1_REPAS_275.mp4', 'ESLO2_CINE_1180.mp4', 'ESLO1_ENT_152.mp4', 'ESLO1_ENT_146.mp4',
+               'ESLO1_ENT_150.mp4', 'ESLO2_REPAS_1330.mp4', 'ESLO1_ENT_144.mp4', 'ESLO2_CINE_1196.mp4',
+               'ESLO2_ECOLE_1277.mp4', 'ESLO2_CINE_1182.mp4', 'ESLO2_ECOLE_1288.mp4', 'ESLO1_CONSCMPP_733.mp4',
+               'ESLO1_CONSCMPP_727.mp4', 'ESLO1_ENT_024.mp4', 'ESLO1_DIV_292.mp4', 'ESLO2_ITI_1168.mp4',
+               'ESLO1_ENT_030.mp4', 'ESLO2_ITI_1140.mp4', 'ESLO1_ENT_018.mp4', 'ESLO1_MAG_662.mp4',
+               'ESLO2_ITI_1154.mp4', 'ESLO2_ENT_1059.mp4', 'ESLO2_ENT_1065.mp4', 'ESLO1_ENTCLO_255.mp4',
+               'ESLO2_ENT_1071.mp4', 'ESLO1_INTPERS_441.mp4', 'ESLO1_INTPERS_440.mp4', 'ESLO2_ENT_1070.mp4',
+               'ESLO2_ENT_1064.mp4', 'ESLO2_ENT_1058.mp4', 'ESLO2_ITI_1155.mp4', 'ESLO1_TEL_336.mp4',
+               'ESLO1_ENT_019.mp4', 'ESLO2_ITI_1141.mp4', 'ESLO2_ITI_1169.mp4', 'ESLO1_ENT_025.mp4',
+               'ESLO2_ENT_1272.mp4', 'ESLO1_CONSCMPP_726.mp4', 'ESLO1_CONSCMPP_732.mp4', 'ESLO2_24H_1249.mp4',
+               'ESLO2_ECOLE_1289.mp4', 'ESLO2_CINE_1183.mp4', 'ESLO2_ECOLE_1276.mp4', 'ESLO2_CINE_1197.mp4',
+               'ESLO1_ENT_145.mp4', 'ESLO1_ENT_151.mp4', 'ESLO1_ENT_136.mp4', 'ESLO1_ENT_122.mp4', 'ESLO2_ITI_1091.mp4',
+               'ESLO2_BOUL_1332.mp4', 'ESLO2_DIA_1226.mp4', 'ESLO1_ENTCONT_216.mp4', 'ESLO1_ENTCONT_202.mp4',
+               'ESLO2_ENTJEUN_1233.mp4', 'ESLO1_CONSCMPP_741.mp4', 'ESLO1_TEL_345.mp4', 'ESLO2_ITI_1126.mp4',
+               'ESLO1_TEL_351.mp4', 'ESLO2_ITI_1132.mp4', 'ESLO1_ENT_042.mp4', 'ESLO2_LIVRENF_1322.mp4',
+               'ESLO1_ENT_056.mp4', 'ESLO2_ENT_1003.mp4', 'ESLO1_INTPERS_427.mp4', 'ESLO2_ENT_1017.mp4',
+               'ESLO1_ENT_081.mp4', 'ESLO1_ENT_095.mp4', 'ESLO1_ENT_094.mp4', 'ESLO1_ENT_080.mp4', 'ESLO2_ENT_1016.mp4',
+               'ESLO1_INTPERS_426.mp4', 'ESLO2_ENT_1002.mp4', 'ESLO2_LIVRENF_1323.mp4', 'ESLO1_ENT_057.mp4',
+               'ESLO1_ENT_043.mp4', 'ESLO2_ITI_1133.mp4', 'ESLO1_TEL_350.mp4', 'ESLO2_ITI_1127.mp4',
+               'ESLO1_CONSCMPP_740.mp4', 'ESLO2_ENTJEUN_1232.mp4', 'ESLO1_ENTCONT_203.mp4', 'ESLO1_ENTCONT_217.mp4',
+               'ESLO2_DIA_1227.mp4', 'ESLO2_ITI_1090.mp4', 'ESLO1_ENT_123.mp4', 'ESLO1_ENT_137.mp4',
+               'ESLO1_ENT_109.mp4', 'ESLO1_ENT_121.mp4', 'ESLO1_ENT_135.mp4', 'ESLO2_ITI_1086.mp4',
+               'ESLO2_ITI_1092.mp4', 'ESLO2_DIA_1225.mp4', 'ESLO1_ENTCONT_229.mp4', 'ESLO1_ENTCONT_201.mp4',
+               'ESLO1_ENTCONT_215.mp4', 'ESLO2_ENTJEUN_1230.mp4', 'ESLO1_CONSCMPP_742.mp4', 'ESLO1_TEL_352.mp4',
+               'ESLO2_ITI_1131.mp4', 'ESLO1_ENT_069.mp4', 'ESLO2_LIVRENF_1309.mp4', 'ESLO1_TEL_346.mp4',
+               'ESLO2_ITI_1125.mp4', 'ESLO1_ENT_055.mp4', 'ESLO2_LIVRENF_1321.mp4', 'ESLO2_ITI_1119.mp4',
+               'ESLO1_ENT_041.mp4', 'ESLO1_INTPERS_424.mp4', 'ESLO2_ENT_1014.mp4', 'ESLO1_INTPERS_430.mp4',
+               'ESLO2_ENT_1028.mp4', 'ESLO1_INTPERS_418.mp4', 'ESLO1_ENT_096.mp4', 'ESLO1_ENT_082.mp4',
+               'ESLO1_ENT_083.mp4', 'ESLO1_ENT_097.mp4', 'ESLO1_INTPERS_419.mp4', 'ESLO2_ENT_1029.mp4',
+               'ESLO1_INTPERS_431.mp4', 'ESLO2_ENT_1001.mp4', 'ESLO2_BOUL_1250.mp4', 'ESLO2_ENT_1015.mp4',
+               'ESLO1_INTPERS_425.mp4', 'ESLO2_ITI_1118.mp4', 'ESLO1_ENT_054.mp4', 'ESLO2_LIVRENF_1320.mp4',
+               'ESLO2_LIVRENF_1308.mp4', 'ESLO2_ITI_1124.mp4', 'ESLO1_TEL_347.mp4', 'ESLO1_ENT_068.mp4',
+               'ESLO2_ITI_1130.mp4', 'ESLO1_TEL_353.mp4', 'ESLO1_CONSCMPP_743.mp4', 'ESLO2_DISC_1237.mp4',
+               'ESLO2_ENTJEUN_1231.mp4', 'ESLO1_MAR_612.mp4', 'ESLO1_ENTCONT_214.mp4', 'ESLO1_ENTCONT_228.mp4',
+               'ESLO2_DIA_1224.mp4', 'ESLO2_ITI_1093.mp4', 'ESLO2_ITI_1087.mp4', 'ESLO1_ENT_120.mp4',
+               'ESLO1_ENT_108.mp4', 'ESLO1_ENT_124.mp4', 'ESLO1_ENT_130.mp4', 'ESLO1_ENT_118.mp4', 'ESLO2_ITI_1097.mp4',
+               'ESLO1_ENTCONT_204.mp4', 'ESLO1_ENTCONT_238.mp4', 'ESLO2_ENTJEUN_1235.mp4', 'ESLO2_RUMEUR_1336.mp4',
+               'ESLO2_LIVRENF_1324.mp4', 'ESLO1_ENT_050.mp4', 'ESLO2_ITI_1108.mp4', 'ESLO1_ENT_044.mp4',
+               'ESLO2_LIVRENF_1318.mp4', 'ESLO2_ITI_1134.mp4', 'ESLO1_ENT_078.mp4', 'ESLO1_TEL_343.mp4',
+               'ESLO2_ITI_1120.mp4', 'ESLO1_ENT_093.mp4', 'ESLO1_INTPERS_409.mp4', 'ESLO1_ENT_087.mp4',
+               'ESLO2_ENT_1039.mp4', 'ESLO1_INTPERS_421.mp4', 'ESLO2_ENT_1011.mp4', 'ESLO2_ENT_1005.mp4',
+               'ESLO1_INTPERS_435.mp4', 'ESLO2_ENT_1004.mp4', 'ESLO2_ENT_1010.mp4', 'ESLO1_INTPERS_420.mp4',
+               'ESLO2_ENT_1038.mp4', 'ESLO1_ENT_086.mp4', 'ESLO1_INTPERS_408.mp4', 'ESLO1_ENT_092.mp4',
+               'ESLO2_ITI_1121.mp4', 'ESLO1_ENT_079.mp4', 'ESLO2_LIVRENF_1319.mp4', 'ESLO2_ITI_1135.mp4',
+               'ESLO1_ENT_045.mp4', 'ESLO2_LIVRENF_1331.mp4', 'ESLO2_LIVRENF_1325.mp4', 'ESLO2_ITI_1109.mp4',
+               'ESLO1_ENT_051.mp4', 'ESLO1_CONSCMPP_752.mp4', 'ESLO2_RUMEUR_1337.mp4', 'ESLO2_ENTJEUN_1234.mp4',
+               'ESLO1_MAR_617.mp4', 'ESLO1_ENTCONT_239.mp4', 'ESLO1_ENTCONT_211.mp4', 'ESLO1_ENTCONT_205.mp4',
+               'ESLO2_ITI_1096.mp4', 'ESLO2_DIA_1221.mp4', 'ESLO1_ENT_119.mp4', 'ESLO1_ENT_131.mp4',
+               'ESLO2_LIVRENF_1251.mp4', 'ESLO1_ENT_125.mp4', 'ESLO1_ENT_133.mp4', 'ESLO1_ENT_127.mp4',
+               'ESLO2_DIA_1223.mp4', 'ESLO2_ITI_1094.mp4', 'ESLO1_ENTCONT_213.mp4', 'ESLO1_ENTCONT_207.mp4',
+               'ESLO2_ENTJEUN_1236.mp4', 'ESLO2_RUMEUR_1335.mp4', 'ESLO1_ENT_047.mp4', 'ESLO1_MAG_629.mp4',
+               'ESLO1_ENT_053.mp4', 'ESLO2_LIVRENF_1327.mp4', 'ESLO2_ITI_1123.mp4', 'ESLO1_TEL_354.mp4',
+               'ESLO2_ITI_1137.mp4', 'ESLO1_ENT_084.mp4', 'ESLO1_ENT_090.mp4', 'ESLO2_ENT_1006.mp4',
+               'ESLO1_INTPERS_436.mp4', 'ESLO1_INTPERS_422.mp4', 'ESLO2_ENT_1012.mp4', 'ESLO2_ENT_1013.mp4',
+               'ESLO1_INTPERS_423.mp4', 'ESLO1_INTPERS_437.mp4', 'ESLO2_ENT_1007.mp4', 'ESLO1_ENT_091.mp4',
+               'ESLO1_ENT_085.mp4', 'ESLO2_ITI_1136.mp4', 'ESLO1_TEL_355.mp4', 'ESLO2_ITI_1122.mp4',
+               'ESLO1_TEL_341.mp4', 'ESLO1_ENT_052.mp4', 'ESLO2_LIVRENF_1326.mp4', 'ESLO1_ENT_046.mp4',
+               'ESLO1_CONSCMPP_751.mp4', 'ESLO2_RUMEUR_1334.mp4', 'ESLO1_ENTCONT_206.mp4', 'ESLO1_ENTCONT_212.mp4',
+               'ESLO2_ITI_1095.mp4', 'ESLO2_DIA_1222.mp4', 'ESLO1_ENT_126.mp4', 'ESLO1_ENT_132.mp4']
+
+
+@dataclass
+class Utterance:
+    speaker: str
+    sentence: str
+    start_timestamp: float
+    end_timestamp: float
+    overlap: bool
+
+
+class ESLOConfig(datasets.BuilderConfig):
+    """BuilderConfig for MultilingualLibrispeech."""
+
+    def __init__(self, name, **kwargs):
+        """
+        Args:
+          name: `string`, name of dataset config (=language)
+          **kwargs: keyword arguments forwarded to super.
+        """
+        super(ESLOConfig, self).__init__(
+            version=datasets.Version("2.11.0", ""), name=name, **kwargs
+        )
+        if "no_overlap" in name:
+            self.overlap = False
+        else:
+            self.overlap = True
+        if "no_hesitation" in name:
+            self.hesitation = False
+        else:
+            self.hesitation = True
+
+
+class MultilingualLibrispeech(datasets.GeneratorBasedBuilder):
+    """Multilingual Librispeech dataset."""
+
+    BUILDER_CONFIGS = [
+        ESLOConfig(name="no_overlap_no_hesitation", description="ESLO dataset, removed hesitations from samples"
+                                                                " and all samples with overlap"),
+        ESLOConfig(name="no_hesitation", description="ESLO dataset, removed hesitations from samples"),
+        ESLOConfig(name="no_overlap", description="ESLO dataset, removed all samples with overlap"),
+        ESLOConfig(name="raw", description="ESLO dataset"),
+    ]
+
+    DEFAULT_CONFIG_NAME = "no_overlap_no_hesitation"
+
+    def _info(self):
+        return datasets.DatasetInfo(
+            description=_DESCRIPTION,
+            features=datasets.Features(
+                {
+                    "file": datasets.Value("string"),
+                    "audio": datasets.features.Audio(sampling_rate=SAMPLING_RATE),
+                    "sentence": datasets.Value("string"),
+                    "speaker": datasets.Value("string"),
+                    "start_timestamp": datasets.Value("float"),
+                    "end_timestamp": datasets.Value("float"),
+                    "overlap": datasets.Value("bool"),
+                }
+            ),
+            citation=_CITATION,
+        )
+
+    def _split_generators(self, dl_manager):
+
+        transcripts = dl_manager.download({
+            "train": "transcripts_deduplicated_train.zip",
+            "test": "transcripts_deduplicated_test.zip",
+        })
+        audio_files = dl_manager.download(
+            {audio_file: os.path.join(AUDIO_FOLDER, audio_file) for audio_file in AUDIO_FILES})
+        splits = [
+            datasets.SplitGenerator(
+                name=datasets.Split.TRAIN,
+                gen_kwargs={
+                    "transcripts_paths": dl_manager.iter_archive(transcripts["train"]),
+                    "audio_files": audio_files
+                }
+            ),
+            datasets.SplitGenerator(
+                name=datasets.Split.TEST,
+                gen_kwargs={
+                    "transcripts_paths": dl_manager.iter_archive(transcripts["test"]),
+                    "audio_files": audio_files
+                }
+            ),
+
+        ]
+
+        return splits
+
+    @staticmethod
+    def extract_text(elem):
+        text = elem.text or ''
+        for child in elem:
+            text += MultilingualLibrispeech.extract_text(child)
+            if child.tail:
+                text += child.tail
+        return text
+
+    def clean_text(self, text: str) -> str:
+        def replace_uppercase(match):
+            """replaces BRUNO spelling by B R U N O"""
+            return ' '.join(match.group(1))
+
+        text = re.sub(r"\bNPERS\b", "", text)
+        text = re.sub('\bOK\b', 'ok', text)
+        text = re.sub(r'\b([A-Z]+)\b', replace_uppercase, text)
+        if not self.config.hesitation:
+            text = re.sub(r"(euh)|(hm)|(\b\w*\-\s)", "", text)
+        return re.sub(r" +", " ", text).strip()
+
+    def load_one(self, file) -> List[Utterance]:
+        first_line = file.readline().decode()
+        encoding = re.search(r'encoding=["\']([^"]+)["\']', first_line).group(1)
+        text_content = file.read().decode(encoding)
+        root = ET.fromstring(text_content)
+        utts = []
+        for turn in root.findall(".//Turn"):
+            speaker = turn.get('speaker')
+            if not speaker:
+                continue
+            start_time = float(turn.get('startTime'))
+            end_time = float(turn.get('endTime'))
+            text = re.sub(r"[\r\n\s]+", " ", MultilingualLibrispeech.extract_text(turn).strip())
+            text = self.clean_text(text)
+            if text:
+                utts.append(Utterance(
+                    speaker=speaker,
+                    sentence=text,
+                    start_timestamp=start_time,
+                    end_timestamp=end_time,
+                    overlap=len(speaker.split(" ")) > 1,
+                ))
+        return utts
+
+    @staticmethod
+    def load_audio(file: str, sr: int = SAMPLING_RATE):
+        """
+        Open an audio file and read as mono waveform, resampling as necessary
+        Parameters
+        ----------
+        file:The audio file to read
+        sr: int
+            The sample rate to resample the audio if necessary
+        Returns
+        -------
+        A NumPy array containing the audio waveform, in float32 dtype.
+        """
+        try:
+            # This launches a subprocess to decode audio while down-mixing and resampling as necessary.
+            # Requires the ffmpeg CLI and `ffmpeg-python` package to be installed.
+            out, _ = (
+                ffmpeg.input(file)
+                .output('-', format='s16le', acodec='pcm_s16le', ac=1, ar=sr)
+                .run(capture_stdout=True, capture_stderr=True)
+            )
+        except ffmpeg.Error as e:
+            raise RuntimeError(f"Failed to load audio: {e.stderr.decode()}") from e
+        return np.frombuffer(out, np.int16).flatten().astype(np.float32) / 32768.0
+
+    @staticmethod
+    def _cut_audio(audio: Array, start_timestamp: float, end_timestamp: float):
+        return audio[int(round(start_timestamp * SAMPLING_RATE)): int(round(end_timestamp * SAMPLING_RATE)) + 1]
+
+    def _generate_examples(self, transcripts_paths, audio_files):
+        for path, file in transcripts_paths:
+            file_name = os.path.splitext(os.path.basename(path))[0][:-2]
+            audio_path = f"{file_name}.mp4"
+            audio = self.load_audio(audio_files[audio_path])
+            for utterance in self.load_one(file):
+                if not self.config.overlap and utterance.overlap:
+                    continue
+                yield f"{file_name}_{utterance.start_timestamp}-{utterance.end_timestamp}", {
+                    "file": file_name,
+                    "sentence": utterance.sentence,
+                    "start_timestamp": utterance.start_timestamp,
+                    "end_timestamp": utterance.end_timestamp,
+                    "speaker": utterance.speaker,
+                    "overlap": utterance.overlap,
+                    "audio": {"path": audio_path,
+                              "array": self._cut_audio(audio, utterance.start_timestamp, utterance.end_timestamp),
+                              "sampling_rate": 16000}}