[speaker001:] Euh, bonjour, Frédéric.
[speaker002:] Frédéric euh...
[speaker001:] Frédéric... Bonjour euh Guillaume.
[speaker003:] Bonjour Julien.
[speaker001:] [NOISE]
[speaker004:] Bonjour.
[speaker001:] Euh... OK. Euh, donc euh bon, je ne sais pas, oui on, là le... Juste pour te dire, la semaine dernière, ça, l'enregistrement n'a pas fonctionné.
[speaker003:] Ah.
[speaker001:] Donc euh ça n'a pas enregistré. Donc, on va reco...
[speaker003:] ...
[speaker001:] Aujourd'hui, on recommence le même euh euh le même scénario euh avec hum avec euh le l... On se présente au début euh, euh je rappelle euh euh l'ordre du jour. Ensuite, ensuite chacun, chacun passe. Donc on commence par euh par euh par Frédéric, euh Paul, et et puis et puis toi euh Guillaume. Si jamais on a dépassé le le, hum, hum, si jamais Frédéric et Paul ont dépassé le volume horaire euh euh choisi, à ce moment-là on, on, on, on te prendra après. D'accord ?
[speaker003:] OK.
[speaker001:] Hein ?
[speaker003:] Hum.
[speaker001:] on avait dit l'autre fois, et puis en fin de compte, ça avait très bien très bien tenu.
[speaker003:] Vous savez pourquoi ça n'a pas fonctionné, l'enregistrement ?
[speaker001:] Un problème technique euh lié à euh lié au dispositif euh euh matériel.
[speaker003:] OK.
[speaker001:] En fait, euh euh, de brancher la ca... Il y a y a apparemment eu je sais pas, un problème avec les les les les branchements sur le sur le LinTO et et euh la consommation d'énergie.
[speaker003:] D'accord.
[speaker001:] Et bon, je ne sais pas si... Là, ils disent... Ils semblent avoir résolu le problème, donc euh euh espérons, voilà. Et après, à la fin, on fait la, le, on fixe la, la, la prochaine réunion et on fait le vote euh, comme la dernière fois. OK ?
[speaker003:] OK.
[speaker002:] Et on vote euh comment parce qu'on est quatre, là ?
[speaker001:] Oui, mais... Je ferai comme la dernière fois. Euh on, on vote pareil que la dernière fois, et puis, et puis euh je dirais que...
[speaker002:] ... Adrien, il est...
[speaker001:] Adrien euh Adrien m'a donné son sa procuration. [NOISE] OK. Euh on y va ? Euh donc euh LinTO, démarre la réunion. Euh donc euh bonjour, euh je suis euh Julien Da Silva, je suis donc le le responsable euh R et D. Et euh donc euh aujourd'hui, on anime euh euh une une réunion autour de la l'avancement de l'outil de reconnaissance de de la parole. Ah donc euh je laisse euh la parole à chacun, donc en commençant par Frédéric, pour euh pour se présenter.
[speaker002:] Bonjour tout le monde. Donc euh je m'appelle euh Frédéric Petit. Euh je je suis doctorant en en reconnaissance automatique de la parole. Donc c'est ma troisième année. Et donc euh par rapport à mes travaux que j'ai effectués cette semaine : donc du coup euh dans le cadre euh de construire euh un système automatique de la parole, je me base sur un corpus euh de 1000 heures. Donc c'est de la parole lue en anglais. Et et donc du coup euh et donc du... Et donc et donc du coup en fait euh euh j'essaie de construire euh un système euh hum euh de reconnaissance euh à base de techniques euh end-to-end... Euh j'ai lancé... Oui ?
[speaker001:] Alors peut-être que que tu nous en parleras un peu plus euh tout à l'heure. On va on finit d'abord le le tour de table.
[speaker002:] Oui. OK, d'accord. OK.
[speaker004:] Alors, je suis Paul Dumont. Je suis je suis un ingénieur de recherche recherche euh chez Linagora. Donc je travaille sur les thématiques autour de la reconnaissance de la parole. Et je vais parler cette euh pendant cette réunion sur mes travaux réalisés de durant cette semaine.
[speaker001:] Très bien.
[speaker003:] [NOISE] Et... moi je suis Guillaume Girard, je suis euh ingénieur euh de recherche également chez Linagora. Et euh pendant cette réunion, je vais également parler de des travaux que j'ai effectués autour des des thématiques de la reconnaissance aut automatique de la parole.
[speaker001:] [NOISE] Très bien. Donc hum euh donc pour euh juste...
[speaker002:] ...
[speaker001:] pour pour pour rappel hein euh de de de l'ordre du jour de de cette euh de cette réunion, donc euh l'objectif c'était de de faire un tour de table rapide euh dans un premier temps, puis que chacun [NOISE] euh présente euh ses travaux. [NOISE] Euh donc euh et ensuite eh bien on finira par euh par une euh une synthèse, et puis on organisera la prochaine la prochaine réunion. Donc je je donne la parole donc à Frédéric, qui va maintenant nous présenter ce qu'il a fait cette semaine.
[speaker002:] [NOISE] Merci. [NOISE] Donc j'ai [NOISE] j'ai un peu commencé à présenter directement. [NOISE] Euh donc du coup en fait par rapport à à mes travaux de cette semaine, en fait euh euh je m'intéresse euh à à la langue anglaise. Donc euh j'ai pratiquement 1000 heures euh d'enregistrements de paroles lues ; donc un corpus qui s'appelle euh LibriSpeech. Donc euh c'est des gens qui s'enregistrent euh ils prennent des livres et ils essaient euh de faire agrandir euh la communauté euh de de de de parole. Et donc moi je m'intéresse à des techniques euh euh directement de de de de de end-to-end. Donc on utilise des réseaux de neurones de A à Z pour euh pour prédire au fait du signal vocal directement euh la parole. Donc euh je travaille actuellement sur ces systèmes-là. Et donc j'ai lancé pratiquement cinq expérimentations. donc euh on a eu euh quelques idées en fait euh qu'on qu'on expérimente. En fait la première idée, c'est de se dire : OK, on prend un système euh euh encodeur-décodeur, on prédit les caractères. Mais en plus qu'on prédit les caractères, en fait on va prédire l'information consonne-voyelle. Donc on va essayer euh de prédire euh... Donc euh pour la même sorte... En fait, pour la sortie du réseau de neurones, on aura deux têtes : on aura une tête qui sera spécifique à la euh prédiction caractère, et on aura une tête qui va euh être spécifique à la prédiction consonne-voyelle euh espace, par exemple. Et donc du coup, cette idée, elle est apparue euh d'un article de Bhiksha Raj, en fait le le gars qui travaille sur les deep learning speech recognition au sein du CMU donc euh en USA. En fait, l'idée, c'est que euh dans son papier, il prouve qu'il a des des des améliorations très très euh euh impressionnantes euh quand euh lui il travaille sur les évènements sonores. Donc, il prend des évènements sonores et il dit : "Ça, c'est de la parole, ça c'est un chien qui aboie, ça c'est un chat, ça c'est des gens qui rigolent, etc.". Et ensuite, il dit : "Bon, j'arrive à 70 ou 80 % de de reconnaissance". Et il dit : "OK, je vais essayer de construire manuellement un niveau supérieur", où il regroupe tout ce qui est rire, tout ce qui est parole humaine en humain, tout ce qui est chien, bird, euh cat, par exemple, il les regroupe en "animals". Et en fait il il garde la même tête de sortie, puisque nous on part de la sortie caractère, mais au-dessus on dit euh : "C'est des, ça, c'est des consonnes, et ça c'est des voyelles". Donc on a euh du multitask learning, donc à deux niveaux, à deux échelles, donc on est euh à l'échelle caractère et à l'échelle consonne-voyelle. Et ça, ça leur a permis de gagner euh 10 % en accuracy. Chose que on a... Donc on a dédié une expérimentation, c'était facile à mettre en place, par rapport aux expérimentations que j'avais avant. Donc on a deux têtes de sortie : on a une tête euh euh consonne-voyelle, et on a une tête caractère. Donc ça c'est une une première expérimentation, en plus des expérimentations que j'ai lancées et qui tournent, comme j'ai parlé la semaine dernière. Bon on a 27 GPU, donc [NOISE] j'en prends une grosse majorité. Donc ça c'est une expérimentation qui est intéressante. Et euh euh là, en fait euh ce qui est intéressant sur euh le cluster euh de calcul, c'est que j'ai réussi à avoir un espace dédié de SSD, donc euh de disque SSD, et mes expérimentations à la place que ça tourne en neuf heures, ça tourne en deux heures. Donc l'époque à tourner sur les 1000 heures, ça ne prend que deux heures.
[speaker004:] très très rap...
[speaker002:] Puis c'est, ouais, ouais, c'est c'est vraiment très rapide, j'ai réussi à négocier ça, c'est déjà pas mal. Donc ça c'est une expérimentation qu'on a qu'on a lancée, ça tourne. ss...
[speaker001:] Et du coup, en en en quoi le le fait d'avoir euh donc... de de pouvoir catégoriser voyelle-consonne...
[speaker002:] Oui.
[speaker001:] Euh et par ra, par rapport à tes tes caractères que tu prédis par ailleurs, en quoi ça va te permettre de de d'améliorer... ?
[speaker002:] Je j'ai j'ai, oui, j'y arrive euh...
[speaker001:] Ah OK.
[speaker002:] ...aux techniques euh et aux expérimentations qu'on a faits. En fait, l'idée, c'est que quand on a la prédiction caractère euh consonne ou voyelles, en fait on va essayer d'a d'annuler euh une catégorie sur les autres. Si on prédit que c'est voyelle, donc on va annuler tous les euh tous les sorties consonne, on va garder que les six voyelles. Et donc du coup, la matrice euh de likelihood, elle aura plein de zéros, et elle n'aura que des probabilités sur euh sur les voyelles. Donc euh il aura à euh décider donc euh la partie décodage elle aura à décider que entre ces six voyelles.
[speaker001:] Hum hum.
[speaker002:] Euh à l'inverse, quand c'est une prédiction consonne, donc il va annuler les voyelles, il va laisser que les consonnes. Et donc euh ça c'est intéressant en fait euh comme euh approche. On laisse tourner, ça tourne, j'essaie d'analyser là les word error rates intermédiaires. Euh je gagne euh 0,4 %, donc euh pas 4 %, 0,4. Et on a en fait euh c'est c'est des en fait c'est des modèles euh intermédiaires que je compare. J'essaie un peu de de pousser euh euh au fur et à mesure euh mes mes expérimentations. Il y a, donc ça, c'est une une énième expérimentation. Et en fait, on a lancé cinq différents expérimentations. On a fait ce qu'on appelle le self-attention. Donc euh une fois qu'on prédit les les deux heads, on essaie de de de de les combiner en fait, comme si euh l'une est l'attention de l'autre, pour euh rendre euh la prédiction de caractère plus robuste. Donc ça aussi, en fait euh, euh par rapport à l'optimisation, sa... function elle est nettement plus intéressante que toutes les... functions euh d'avant. J'essaie là euh de de calculer le word error rate pour voir est-ce que...
[speaker001:] Ouais.
[speaker002:] [NOISE] Est-ce que ça donne euh euh ça donne euh les mêmes enfin de meilleurs résultats. Voilà, en fait, on a lancé plusieurs expérimentations là euh cette semaine. Ça tourne plus vite. Euh et euh j'essaie euh euh cette journée en fait de de de de construire euh un un tableau où j'ai toutes les comparatifs, et que je pourrai travailler sur ça, en fait, voir mes améliorations, voir euh pourquoi ces améliorations-là et euh qu'est-ce que ça ça doit servir. Et en fait, c'est une idée qui est venue comme ça euh...
[speaker001:] Mais du coup, c'est c'est un peu en dehors de ce que... On n'en avait pas encore parlé de de de ça ? Hum hum.
[speaker002:] On en avait, non, non, c'était, euh, ça ça fait deux jours. Euh, j'ai créé euh la la labellisation consonne-voyelle, rapidement. Et j'ai lancé en fait euh cet apprentissage en parallèle. Et je compare avec euh les les trois expérimentations qui sont en train d'entraîner en même temps sur les GPU. Donc euh j'ai plusieurs euh j'ai plusieurs euh expérimentations là, j'en ai sept ou huit. [NOISE]
[speaker001:] Hum hum.
[speaker002:] ... a commence à faire beaucoup. Et l'idée, c'est de de d'avoir à un une comparaison euh entre tous ces euh ces techniques, et et voir qu'est ce qu'on peut garder pour euh Interspeech, quel est le les améliorations, est-ce qu'il y a quelque chose de scientifique. Et je trouve que c'est très intéressant de dire voilà, il y a il y a cette partie "attention" euh qui permet de de corriger un peu euh les erreurs euh caractères qui produit euh quand on fait pas du de multitask learning donc... Donc il y a cette partie... Ouais.
[speaker001:] Mais du coup, par rapport aux expérimentations que tu avais lancées la semaine dernière...
[speaker002:] Ouais, et il y a la partie.....
[speaker001:] Tu n'as pas eu de résultats ?
[speaker002:] Il y a... En fait, c'est les les, je les ai pas relancés, les autres, ça prend neuf heures par euh...
[speaker001:] Hum hum.
[speaker002:] Époque. Et ceux-là, les nouveaux, ça prend deux heures par époque, c'est plus c'est nettement plus rap...
[speaker001:] Oui, hum hum.
[speaker002:] Et j'attends vraiment à ce que y on arrive en fait euh euh vu que je fais 25 époques, euh j'ai fait un, au dixième époque, en fait je prends tous les modèles de toutes mes expérimentations et je je je crée le word, enfin je calcule le word error rate et euh pour avoir déjà autant intermédiaires, quelles sont les euh quelles sont les euh les prédictions. Donc euh ça c'est par rapport à à ce que à mes expérimentations. Il y a BERT qui tourne, il y a Word2vec. Donc il y a les les les propositions qu'on a proposées. Il y a le modèle de base qui tourne. Donc pour le modèle de base, quand je fais la partie évaluation euh en termes de word error rate, sur la partie dev, donc euh moi, mon euh character error rate, il est aux alentours de 8 %, c'est c'est vraiment très très euh intéressant comme euh comme résultat. Et par rapport au word error rate, je suis à euh 26 %, alors que le... donc euh de Kaldi, il est à 27 %. Donc déjà, sans modèle de langage, j'arrive à faire mieux...
[speaker001:] Tu es à combien ?
[speaker002:] Euh j'a, j'arrive à avoir 26 %, alors que le monophone, en fait, avec un modèle de langage, il arrive à 27 % de word error rate. Et après, en fait, une fois... Euh, parce que ces deux modèles, ils sont, on peut les comparer. Mais par la suite, en fait, j'ai pas euh trop de comparaison avec mes modèles, parce que mes modèles ils utilisent toujours les features basiques f-bank. J'utilise aucune transformation euh de locuteurs, etc. Alors que Kaldi, en fait, il utilise les transformations euh euh d'adaptation aux locuteurs, les transformations des i-vecteurs, etc., qui sont lourds à calculer, mais euh bon on voit euh leur intérêt. Donc quand ils font un... et euh normal HMM-GMM, ils arrivent à 23 %. Et moi, quand j'utilise le modèle de langage, j'arrive à 22 % en word error rate. Donc quand j'utilise un réseau de neurones normal vs le HMM-GMM avec adaptation au locuteur, j'arrive à gagner 1 %. Après, quand ils se commencent à utiliser le chain model, euh et le et tout ce qui est adaptation au locuteur avec les chain models, etc., ils arrivent à descendre jusqu'à 15 % sur euh sur ce euh ce dev set. J'ai pris un dev set euh euh plus robuste. Et donc du coup, moi, euh c'est ce que j'avais dans la tête, c'est soit je prends les mêmes entrées que le chain model, donc pour que je puisse me comparer avec euh avec mes données, soit euh je modifie en fait Kaldi, enfin c'est leur partie, pour que je prenne les mêmes euh paramètres que moi j'utilise. Donc du coup, euh j'ai discuté avec Thomas, il m'a dit euh : "Au pire, on va pas présenter la partie Kaldi en comparaison parce que ce n'est pas comparable, enfin, c'est pas les mêmes entrées qu'on a". Donc euh bon, je... c'est une question qui reste euh un peu... euh un peu ouverte, parce que... parce que on voit bien que l'intérêt d'utiliser une adaptation locuteur, ça rajoute... ça rajoute l'information et ça fait que ça ça donne de meilleurs résultats. Est-ce que je l'intègre dans mes modèles et je lance les... traitement ? Est-ce que je l'intègre pas et du coup, je compare euh l'intérêt d'avoir BERT, l'intérêt d'avoir euh euh un Word2vec, l'intérêt d'avoir d'autres euh... d'autres modèles à tester ? Donc voilà euh, ça reste euh ouvert, je vais essayer de commencer l'arti..., quand même euh à rédiger, en me basant de l'article de ICASSP.
[speaker001:] Oui. Hum hum.
[speaker002:] Donc voilà un peu...
[speaker001:] Parce que Interspeech euh...
[speaker002:] C'est dans...
[speaker001:] ...le deadline, c'est fin mars, c'est ça ?
[speaker002:] le 29, oui. Le 29, une soumission draft et le 5 avril euh, la soumission finale. Donc il y aura...
[speaker001:] OK. Et on n'avait pas, par ailleurs, parlé de de faire un un point avec euh... euh...
[speaker002:] Oui, je... je lui ai parlé, il m'a dit ça... ça l'intéresse le mercredi. Je sais pas est-ce euh que pour toi euh, mais le mercredi matin.
[speaker001:] Le mercredi matin ?
[speaker002:] Oui.
[speaker001:] Je sais pas, je je... On regardera tout à l'heure, hein ?
[speaker002:] On regardera. D'accord
[speaker001:] Hum.
[speaker002:] Et après, il y a des livrables euh sur le projet LinTO et le projet Open Pass, Jeanne m'a mis dans la boucle et Isabelle aussi. Et l'idée c'est que euh voilà, je reprends un peu euh le le... la partie documentation, que j'avais fait l'an dernier, que je vois ce que j'ai... j'ai à faire. Et ce... cet après-midi à 13 heures, on a... on a une réunion avec l'IRIT, pour voir euh qu'est-ce qu'on garde, qu'est-ce qu'on modifie, qu'est-ce que... sachant que euh l'objectif de de ce premier livrable, c'est vraiment euh faire... faire ressortir euh pas le meilleur modèle. Parce qu'en fait c'est le projet, il est sur trois ans et euh l'idée que l'IRIT ont voulu euh me faire passer, c'est qu'on prend un modèle qui est assez performant, mais on prend pas le dernier modèle qu'on a actuellement, parce que on a euh quand même trois années euh d'amélioration, il faut que chaque année, on propose euh euh des améliorations euh possibles. Et donc du coup, ils m'ont dit de... de faire ressortir autre chose, par exemple le fait peut-être euh qu'on a... qu'on a fait un système ASR dédié à la NLP, donc les techniques, oû on enrichit euh le Lexicon et on enrichit euh le G.fst d'une manière euh incrémentale, donc à voir euh comment on va faire ça, enfin est-ce que on on donne beaucoup de détails, enfin voilà, je...
[speaker001:] OK, hum hum.
[speaker002:] C'est en cours euh de discussion. Parce que sur LinTO en fait, si on affiche directement que voilà, on a un modèle euh large vocabulaire à 13 %, dans deux anstrois ans, il faut euh... il faut quand même euh une autre idée.
[speaker001:] Oui et puis... et puis là, il s'agit de montrer un modèle euh baseline ah.
[speaker002:] Baseline, oui.
[speaker001:] Et ensuite euh, c'est... voilà. Hum hum.
[speaker002:] C'est surtout que c'est fixé, que là il faut montrer un modèle baseline ah.
[speaker001:] Hum hum.
[speaker002:] Et du coup, ils avaient peur que si on montre un modèle baseline, donc du coup, il fallait des adaptations, par exemple à la réunion, mais je sais pas, je... tu peux euh me donner ton avis...
[speaker001:] Hum hum.
[speaker002:] Voilà, voilà un peu euh sur euh mon travail euh actuel.
[speaker001:] OK très bien, merci. Hum, Paul ?
[speaker004:] OK, alors de mon côté, cette semaine, j'ai continué à travailler sur euh la proposition d'un algorithme..., qui permet de générer dynamiquement un modèle de langage. Donc euh la semaine passée, j'ai commencé à faire ça, donc j'ai commencé à préparer les... les entités, les les intentions. Et cette semaine donc euh, j'ai continué à faire euh la préparation des intentions, appliquer plusieurs règles et tout ça, pour euh filtrer le maxim... au maximum les commandes passées. Euh après, j'ai euh... j'ai... j'ai con... continué à travailler sur la génération de modèle. Donc je prends les entités générées, les postées et les intentions postées, je prends ces... ces deux éléments et j'e... j'essaie de... de générer le modèle de langage et euh je vérifie si tout marche bien ou pas. Donc euh j'ai fini cette étape, j'ai testé avec euh quelques intentions, quelques en entités, donc le truc marche bien, donc j'arrive, à la fin, à générer le modèle de langage dédié à ces intentions. Mais euh quand j'ajoute plus d'entités, je euh... là j'ai un problème avec la génération, comme euh j'ai eu la... l'autre fois. Bon comme j'ai j'ai essayé d'utiliser plusieurs intentions, le système de génération de modèle de langage ne marche pas, donc toujours euh on a un problème avec euh la dét... déterminisation du graphe. Donc j'ai essayé de résoudre ce problème, j'ai essayé de filtrer euh le... le n-gram, le 3-grams, donc les éléments dans le ARPA. Donc j'ai essayé de dégager quelques éléments, où je trouve euh deux entités dans le 3-grams. Donc je dégage cette ligne et je génère le modèle de langage. Avec cette idée donc euh ça marche pas. Donc j'ai essayé même de ré... de... de euh re... réduire le nombre de de grams. Donc au lieu de créer un modèle à base 3-grams, donc je crée, je le crée à base 2-grams.
[speaker001:] Hum hum.
[speaker004:] Là, le système marche bien. Donc euh pas...
[speaker001:] Mais est-ce qu'en termes de performances euh, du coup euh...
[speaker004:] C'est ça, donc euh j'ai pensé à la même... à la même euh idée. Donc si on passe de 3-grams à 2-grams, est-ce qu'on garde les mêmes perfs ou pas ? Euh oui.
[speaker001:] Oui ?
[speaker004:] Euh, oui, j'ai testé avec le... les mêmes audios, quand je génère avec 3-grams, avec le 2-grams. Donc je garde les mêmes perfs, donc euh... parce que je pense, c'est à cause de que le modèle est déjà dédié à des des commandes. C'est pas un gros modèle, là, il on peut avoir des soucis, mais puisque c'est un petit modèle, un modèle commande, donc même avec le 2-grams, donc euh pas de problème de prédiction des commandes.
[speaker002:] En plus tu gagnes en temps, je pense. [NOISE] C'est que ouais...
[speaker004:] Bon, presque c'est c'est pas trop, parce que c'est c'est un petit modèle, donc euh...
[speaker002:] ... onc c'est pas...
[speaker004:] Il prend... il prend pas beaucoup de temps pour euh prédire euh la phrase. Donc ss c'est bon, tout est validé, donc euh toutes les étapes, donc la création, bon, la gestion des entités. Donc je peux créer, modifier, supprimer euh, gérer les ent... bon, bon bien présenter la... l'int... l'entité, donc c'est une gestion des entités, je... je l'ai validée avec Olivier. La gestion des intentions, j'ajoute des intentions, je modifie l'intens... bon, l'on supprime l'intention et je... j'affiche l'intention.
[speaker001:] Mais... excuse-moi, mais donc du coup, quand tu passes sur un modèle bi-gram, ça fonctionne ?
[speaker004:] Oui.
[speaker001:] Et euh... et euh tu tu tu comprends pourquoi euh le... le fait de baser d'un tri-gram à un bi-gram, ça... ça fonctionne ? Enfin, il y a... quelle est la... la logique derrière ça ?
[speaker004:] J'ai pas entré en détail, honnêtement. J'ai essayé dans le 3-grams dés que j'ai toutes les ent... les entités, que je trouve dans les euh... dans le 3-grams, le système arrive à générer le modèle. C'est pour cela, j'ai pensé de passer, au lieu de 3-grams à 2-grams. Donc euh pourquoi ss avec le 2-grams marche, avec 3-grams ne marche pas, j'ai pas entré en détail, j'ai pas euh la réponse euh exacte.
[speaker001:] Hum hum.
[speaker004:] Donc euh...
[speaker001:] Parce que le le fait de comprendre... si si on on comprend pourquoi euh ça fonctionne avec le bi-gram, alors que ça fonctionne pas avec le tri-gram, du coup, ça nous permettra peut-être de... de...
[speaker002:] De répondre.
[speaker001:] ...de... de comprendre pourquoi euh et de résoudre le problème avec le tri-gram.
[speaker004:] Oui. Je vois.
[speaker001:] Ou peut-être que la... la bonne nouvelle, c'est qu'a... avec le bi-gram ça fonctionne, donc c'est pas la peine, peut-être, de se compliquer la vie plus que ça.
[speaker004:] Oui, pour le moment c'est ça, oui.
[speaker001:] Mais cependant ah, à un moment ou à un autre, on voit bien que ça, ça va n... ça ça risque de revenir, quoi....
[speaker004:] Hum, oui oui oui, bien sûr. Donc à court terme, j'ai décidé de de proposer un truc qui marche bien. Mais à moyen terme et à long terme, on doit voir euh pourquoi euh le tri-gram marche pas, c'est quoi le le problème, c'est quoi le souci ? Donc euh... C'est ça l'idée. C'est juste pour que je propose un truc qui marche bien, euh... une chaîne complète qui marche.
[speaker001:] Oui. Hum hum.
[speaker004:] Euh donc c'est ça... hier, j'ai euh fait un point avec Olivier. Donc il a voulu changer même bon, le système, il veut avoir un système générique, très générique. Euh l'idée, c'est qu'au lieu de générer un seul modèle, donc il veut cré... qu'on crée plusieurs modèles. Le l'A... l'API de LinSTT permet de créer plusieurs modèles, chaque modèle a des intentions spécifiques, des entités spécifiques euh avec plusieurs langues. C'est ça donc euh... donc, les dangues... les langues dépendent du... de LinS du LinSTT, les modèles euh qui sont générés, mais c'est ça l'idée. L'idée, c'est que euh de proposer euh un système tgé... très générique euh donc il faut que je change, bon c'est pas tout, mais le base, je vais r... je vais garder le base, la création tout ça, mais je dois l'étendre pour que euh... pour che... pour que le système LinSTT puisse créer plusieurs mo... modèles. Donc c'est ça...
[speaker001:] Tu tu veux dire que ce que... ce que vous voudriez avoir, c'est... c'est un... un espèce de... d'environnement de génération de de de modèle, dans lequel tu puisses euh spécifier euh la langue, tu puisses euh spécifier encore plus de choses que ce que...
[speaker004:] Oui, c'est ça. Actuellement, le système actuel, les API actuelles permettent juste de créer une seule... un seul modèle. Donc au lieu d'avoir un seul modèle, on veut créer plusieurs modèles, c'est ça l'idée. Donc je vais étendre ce que... ce que je fais, ce que j'ai fait, euh pour avoir plusieurs modèles, pour la création de plusieurs modèles.
[speaker001:] Mais pourquoi plusieurs modèles ? C'est ça que je comprends pas.
[speaker004:] Euh... On crée un modèle avec euh trois on... intentions ou bien un s... un modèle spécifique par exemple à EDF, un modèle spécifique à LinTO euh.
[speaker001:] D'accord.
[speaker004:] C'est ça l'idée.
[speaker002:] Ou même au sein d'une entreprise, peut-être ils ont... ils veulent euh un modèle dédié à la réunion i..., ils veulent un modèle dédié à d'autres salles...
[speaker004:] C'est ça.
[speaker002:] ...ou à d'autres utilisations, par exemple à l'accueil, ils veulent euh euh un cas d'usage euh d'information, d'annuaire ou, etc.,
[speaker001:] Hum hum. Non, mais ça, ce... cette notion de modèle...
[speaker002:] qu'ils veulent... Ouais.
[speaker004:] C'est ça.
[speaker001:] Euh... thématique...
[speaker002:] Ouais.
[speaker001:] ...ça je... je... je... je le comprends bien. Mais... mais euh ton environnement, il génère plusieurs modèles ?
[speaker002:] Oui.
[speaker001:] C'est ça que je comprends pas.
[speaker002:] Ça sort un peu de LinSTT, c'est beaucoup plus un niveau plus euh...
[speaker004:] Oui... Oui, c'est ça.
[speaker001:] u... tu veux dire que ça puisse générer différents types de modèles, mais... mais c'est quand même en fonction des paramètres. Tu... tu... tu fais,... des paramètres, ça te génère un modèle.
[speaker004:] Oui oui.
[speaker001:] D'accord. Parce que je croyais que ça te générait plusieurs modèles, du coup je comprenais pas.
[speaker004:] Non non.
[speaker001:] OK.
[speaker002:] Non non une API, je pense, qui permet de... de... de... de générer, euh d'avoir le droit de générer plusieurs modèles qui sont archivés, je pense.
[speaker001:] Et c'était pas le cas avant ?
[speaker004:] Non. Pour le moment, je génère un seul modèle, avec euh les entités et les... les intentions postées. Un seul modèle.
[speaker001:] Ben là, ça va être pareil, tu vas en générer qu'un seul, avec les... les... les entités euh...
[speaker002:] Les entités.
[speaker004:] Oui, c'est ça.
[speaker001:] ...et les intentions euh que tu as... que que tu as définies.
[speaker004:] Oui c'est ça, oui. Mais au lieu que de génére un seul modèle, l'API permet se... de générer un seul modèle actuellement. Donc euh ce qu'ils proposent, c'est que l'API permette de générer plusieurs modèles. Et pour chaque modèle, je spécifie, bien sûr, les les entités et les intentions. Donc je prends ce travail et je crée une autre couche, qui permet de gé... générer plusieurs modèles, c'est ça ce que j'ai fait.
[speaker001:] Tu tu... du coup, c'est le modèle que tu génères, tu lui... l'encapsules avec des... des méta-informations que... ...qui euh
[speaker004:] C'est ça.
[speaker001:] qui...
[speaker004:] ... ce modèle à identifiant, de une petite description de ce modèle.
[speaker001:] D'accord, oui. oui, oui. Hum hum. Parce que jusqu'à présent, tu écrasais l'ancien modèle, en fait. En gros, tu... tu... tu étais toujours... d'accord. Hum hum.
[speaker004:] La langue de ce modèle. C'est ça. Oui, oui.
[speaker001:] OK.
[speaker004:] Euh.
[speaker002:] Mais déjà, c'est intéressant. Euh, mais après, le... ce que... au point de vue technique, c'est... c'est... c'est... c'est pas bizarre, mais le 3-grams que ça marche pas et que le 2-grams et ça marche... ça marche, je je sais pas. Enfin ce moi, ça m'intéresse de... de regarder peut-être avec toi ou ouais... parce que... parce que pourquoi euh tu vois, quand tu cherches à comprendre, qu'est-ce qui rajoute euh le n-gram à aux 2-grams ? En fait euh, qu'est-ce qui rajoute le 2-grams en 1-gram ?
[speaker004:] Après, d'autres art...
[speaker002:] C'est c'est ça. Et et du coup, ça veut dire que
[speaker001:] Oui. Le graphe est plus compliqué.
[speaker002:] le... le graphe à trois... à deux mots, enfin à trois mots euh pose problème, du coup. Et euh... et c'est bizarre que... C'est bizarre que...
[speaker001:] Mais pas tout le temps, pas tout le temps.
[speaker004:] Seulement les o... les arcs avec plusieurs entités.
[speaker002:] Ah oui, parce que ils ils rentrent dans le cas les les entités aussi, oui.
[speaker004:] C'est ça. Quand j'ai... toutes les entités dans 3-grams, donc le modèle euh euh est généré.
[speaker002:] Peut-être. Ouais. Ouais. Hum. Peut-être vous avez des doublons, non ? Enfin je...
[speaker004:] Non non non.
[speaker002:] Oui oui, parce que c'est euh.
[speaker004:] Bon.
[speaker002:] ...c'est sûrement oui, c'est sûrement à creuser, oui.
[speaker001:] À creuser.
[speaker002:] Mais euh...
[speaker004:] Donc c'est ça, en gros, ce que j'ai fait et ce que je vais faire la semaine peu prochaine.
[speaker001:] OK, ben écoute très bien. Hum... Guillaume ? À toi.
[speaker003:] [NOISE] Oui. Alors euh pour ma part cette semaine, j'ai continué à travailler notamment sur le modèle de langage. Donc ce que j'ai fait d'abord, comme j'avais dit à Frédéric, c'est que j'ai lancé une nouvelle version de la normalisation, qui corrige euh certaines erreurs que j'avais dans la... dans la V1. Parce qu'il y avait euh... il y avait des petites euh... enfin il y avait des mots qui n'étaient pas forcément euh... pas forcément pertinents ou enfin, il y avait des petites erreurs qui se s'étaient introduites, puisque je traite quand même presque 5 Go de données, donc euh il y a... il y a des petites erreurs qui s'introduisent dans les... dans... dans la normalisation. Et là donc, j'ai obtenu la nouvelle normalisation, qui est beaucoup plus clean. J'ai... j'ai regardé un petit peu le vocabulaire que ça génère, j'ai regardé le modèle de langage, il est beaucoup plus propre. Et j'ai fait hum un peu le même... la même pipeline, c'est que j'ai euh euh calculé la perplexité, en faisant varier notamment que l'hyper paramètre les vocabulaires. C'est-à-dire que j'ai travaillé avec le vocabulaire du Monde, le vocabulaire de Wiki, euh j'ai fait des... des... des euh... des... j'ai... ce que j'ai f... alors ce que je fais, c'est que je prends par exemple les 45000 mots les plus courants, ensuite je prends les 60000, les 100000, donc c'est un petit peu ce qu'ils font dans la... dans la plupart des articles de... de veille scientifique sur le... sur le sujet et je détermine la perplexité. Et donc euh, pour essayer de ramener à... à ce qu'ils ont obtenu euh LIUM, donc eux, ils travaillent avec un corpus qui fait à peu près 60000 mots. Et donc j'ai... ce que j'ai fait, c'est que j'ai pris les 60000 mots les plus courants du du Monde, euh ce que j'avais fait ben préalablement et là cette fois-ci sur euh le dev d'ESTER, j'obtiens une perplexité autour de 112, là je suis à 112.
[speaker001:] Super. 112, alors que la semaine dernière, on ét... on, j'ai noté qu'on était à 134.
[speaker002:] Voilà.
[speaker003:] Ouais. Donc là, ouais, grâce à la nouvelle normalisation, j'ai j'ai bien amélioré le... bien amélioré les résultats, mais euh je suis toujours pas au 108 de, parce que LIUM ils sont à 108.
[speaker001:] Hum hum.
[speaker003:] Donc là il faudrait peut-être que je... enfin il y a peut-être d'autres hyper paramètres sur lequel je je peux jouer ou ou d'autres moyens, enfin... il faut que je réfléchisse encore à comment je peux améliorer ma soit ma normalisation, soit mes hyper paramètres euh, soit mon vocabulaire. Mais mais euh, mais là je pense que, oui 4 points, enfin faut je vois comment on peut faire, mais je pense que c'est, je pense que c'est possible à possible à obtenir ; donc euh voilà pour le, on va dire pour le modèle de langage. Sinon j'ai j'ai traité... Donc là en fait, ce ce qui est intéressant, c'est que les 108, enfin les 112, je les obtiens avec euh le Monde et ESTER. Mais euh en fait quand je rajoute Wiki, c'est-à-dire les les presque trois gigas de données de Wiki, ça dégrade le la perplexité. Euh, mais ça dégrade la perplexité sur les données euh. En fait, c'est ce qu'il faut bien comprendre, c'est que c'est la perplexité sur un corpus bien précis. Ça veut dire que si je calcule la perplexité sur un autre corpus, du coup, enfin j'aurais des réflexes encore différents. Mais là euh pour euh ESTER, ça dégrade la perplexité. Euh, ensuite euh ce que j'ai fait c'est que j'ai traité, j'ai prétraité FrWaC donc j'ai récupéré euh les euh... enfin avec Frédéric, on avait mis sur le sur le git les les données FrWaC et là j'ai lancé le prétraitement pour euh récupérer les... récu, extraire les données. Euh j'obtiens à peu près 10,5 gigas de de fichiers. Donc là, c'est vraiment le corpus qui est le plus, le plus volumineux, comparé à Wiki et...
[speaker002:] Il y a tout Internet.
[speaker003:] Ouais. Ouais ouais, c'est 10,5 gigas, c'est c'est c'est
[speaker001:] Hum, hum. C'est énorme, ouais.
[speaker003:] c'est...
[speaker002:] Ouais.
[speaker003:] j'ai, j'ai lancé la normalisation, donc là c'est encore sur le, sur le serveur Data Science, donc euh voilà.
[speaker002:] J'espère que tu as fait le le le le multithreading parce que [NOISE]...
[speaker003:] Ouais ouais. J'ai lancé le multithreading.
[speaker002:] Ouais. [NOISE] OK.
[speaker003:] Je réduis le nombre de coeurs comme ça j'ai... En fait là je travaille que sur euh... près cinq heures donc je laisse trois coeurs libres pour...
[speaker002:] Ouais.
[speaker003:] Parce que je vois quand même, des fois, il utilise ou euh toi ou n'importe qui. Hum, voilà, donc ensuite ce que j'ai fait... euh... Donc ça, voilà c'est le gros que j'ai travaillé sur euh sur le modèle de langage cette semaine. Euh et comme je disais à Julien là quand je l'ai vu hier, c'était que ben il, il avait se émis le souhait que qu'on publie les articles euh hum pour le mois de mars ou le mois d'avril rapidement. Et donc comme je lançais la normalisation, que ça prenait... que ça c'est c'était du temps euh sur le serveur, donc j'ai, j'en ai profité pour euh retravailler sur euh sur les sujets d'articles que je voulais euh que je voulais rédiger, donc c'est notamment le, tout ce qui est hum apprentissage avec adaptation du locuteur, MLLR, FMLLR, euh LDA, tout ce qui euh tout ce qui permet de de de de corriger les modèles d'apprentissage pour prendre en compte la, pour prendre en compte le la le fait qu'il y ait des locuteurs qui soient différents. Et euh en fait je trouve que c'est peut être pouvoir, ça peut être intéressant de de de rédiger un article sur le sujet parce que euh, comment dire là... En fait quand j'ai essayé de m'intéresser sur euh sur ce domaine euh, il y a très peu de de très peu de blogs ou très peu de vulgarisations qui sont disponibles euh sur le net. Il faut euh principalement s'attaquer directement au papier. Souvent, le papier, c'est un peu, ça peut être un peu, un peu brut donc on a un background euh hyper mathématique, tout ça donc euh. Voilà l'idée que j'avais, c'était de d'écrire un article sur ça donc je sais pas après ce que, ce que vous en pensez, euh, Julien, Frédéric, Paul.
[speaker001:] Oui, moi, je pensais que c'était, ben ce que je t'ai dit hier, oui, je pensais que c'était plutôt une bonne idée.
[speaker002:] C'est surtout que si ça te parle [NOISE]...
[speaker003:] Allô !
[speaker001:] On a on a un écho-là.
[speaker002:] Oui on a un écho, je pense. Euh, tu peux réduire un peu...
[speaker003:] ...
[speaker002:] Voilà. Et donc du coup en fait, si ça te passionne, parce qu'il a beaucoup travaillé sur ça et ça te parle, surtout euh de comprendre cette partie MLLT, FMLLR,... lance-toi à... sur ça si euh si si on peut écrire. Mais après, il y a, il y a d'autres techniques, par exemple, les i-vecteurs et les x-vecteurs, il faut pas passer à côté de ça. Je pense il faut il faut au moins voir euh euh euh quelle est la différence ou que... Quand tu compares MLLT et FMLLR, euh de rajouter les i-vecteurs et les x-vecteurs, comme ça on aura... voilà les gars, il y a une transformation qui se fait euh euh de telle façon, et c'est des matrices qui sont appris. Alors que les i-vecteurs et les x-vecteurs, en fait, c'est des euh, c'est des vecteurs euh qui sont rajoutés au signal ; enfin ils sont pas multipliés comme le le MLLT... C'est pas, c'est pas des matrices de transformation, c'est des vecteurs qui sont rajoutés, en fait. Tu me corriges euh Paul, mais bon. Ça serait intéressant peut-être euh...
[speaker001:] Hum hum.
[speaker002:] De rajouter ça euh, voilà.
[speaker001:] Sachant que c'est pas, si on est bien d'accord, c'est pas un papier de recherches, hein, c'est...
[speaker002:] Non, non, non, c'est... mais, ouais.
[speaker001:] Mais c'est bien que ça soit de, d'un bon niveau quand même, ouias, ouais. Et euh, ce qu'on disait hier, c'est que Paul, tu as déjà travaillé là-dessus, donc tu pourrais peut-être aussi euh hum...
[speaker002:] Faire une petite réunion...
[speaker001:] En en discuter avec euh avec Guillaume.
[speaker004:] OK.
[speaker002:] Parce que ta la recette, là, des chain models que Paul a, tu peux la réexécuter et voir euh toute la partie adaptation euh qui est faite. Je sais pas si tu utilises les i-vecteurs, Paul, mais sûrement euh... Et tu verras un peu la continuité euh des FMLLR euh, comment on on apprend les i-vecteurs par exemple, bon.
[speaker004:] Il y a des gens qui combinent les iv, euh, les i-vecteurs avec les FML...
[speaker002:] Ouais.
[speaker004:] Transforment les MFCC en FMLLR features et ensuite euh, ils regroupent... combinent euh les FMLLR features avec les i-vecteurs.
[speaker002:] Ouais. Parce qu'il faut comprendre que... Ouais, que que les autres, en fait, c'est une matrice. Tu prends tes MFCC et tu multiplies par cette matrice qui est apprise et ta euh euh des nouveaux MFCC adaptés euh au locuteur. Par contre, les les approches i-vecteur, x-vecteur, en fait, c'est c'est des vecteurs qui sont après, qui sont concaténés avec les MFCC. Donc, c'est une concaténation qui est... Et le réseau de neurones, il arrive à multiplier euh... enfin, il apprend en plus cette transformation. Donc euh bon.
[speaker001:] Hum hum.
[speaker002:] C'est intéressant de faire sortir ça et que tu t'arrêtes pas aux FMLLR.
[speaker004:] Oui,... un article sur ce qu'il fait maintenant parce qu'il y a déjà...
[speaker002:] Euh je préfère qu'il attend euh parce que je je sais pas. Pour les les modèles, je préfère vraiment que...
[speaker001:] Ouais, parce que les modèles, peut-être, ça serait un article euh scientifique.
[speaker004:] Il y a il y a peut-être une publication scientifique euh ah derrière.
[speaker002:] Il y a peut-être quelque chose euh derrière ça.
[speaker001:] Et si on publie avant dans... sur Medium euh...
[speaker004:] D'accord, OK.
[speaker001:] Euh, voilà.
[speaker002:] Ouais.
[speaker003:] OK, d'accord Frédéric, toute façon, je crois que le FMLLR, c'est euh c'est spécifique au GMM, il y a pas de FMLLR dans les réseaux de neurones, si je me trompe pas....
[speaker002:] Euh, non, non, c'est euh...
[speaker004:] C'est une transformation...
[speaker002:] C'est une transformation, en fait, c'est...
[speaker003:] heu c'est une transformation sur les paramètres des GMM. Ce n'est pas une transformation sur les...
[speaker004:] Bon, c'est un modèle entraîné avec un GMM, mais c'est une transformation,... transformation à la fin.
[speaker002:] En fait, il il est appris avec des GMM et et du coup, en fait, après, tu peux l'utiliser hein c'est... euh tu peux l'utiliser euh euh partout.
[speaker004:] Comme euh les i-v i-vec sont entraînés avec les GMM, mais euh à la fin, c'est une matrice euh que tu utilises pour euh transformer les euh les features en entrée à en des features euh adaptés.
[speaker003:] Non, mais dans F, dans MLRR, tu transformes pas les features, tu transformes les paramètres. C'est un... c'est pas les feat, tu transformes pas les les données, tu transformes les les paramètres ; c'est-à-dire que tu transformes leur moyenne...
[speaker004:] Qu'est-ce que tu veux dire avec paramètre ?
[speaker003:] La moyenne et la variance de tes euh de tes gaussiennes, c'est ça ?
[speaker004:] Gaussiennes, oui, oui. Mais qu'est-ce que tu veux dire avec euh "paramètres",... ?
[speaker003:] Ben paramètres, c'est euh, tu entraînes le GMM, ce que tu apprends, c'est les, c'est les euh... comment dire, c'est les euh variances et les moyennes de tes de tes... De ton mélange de de mixture, de ton mélange gaussien.
[speaker004:] Sont les paramètres de GMM. Mais comme input pour entraîner ces paramètres, c'est les MFCC.
[speaker003:] Oui, voilà, le moyenne et variance. Et donc...
[speaker004:] On est d'accord ?
[speaker003:] Ouais.
[speaker004:] Donc euh, tu me, tu multiplies les MFCC avec euh... les paramètres du GMM, ça... comme ta dit, les variances euh... la matrice variance et la matrice mean et pour avoir en sortie la matrice transformée. Pareil pour le les i-vecteurs, tu entraînes un GMM-UB bon, c'est un b UBM. Ensuite, tu euh entraînes une matrice euh T pour faire le la transformation en un i-vecteur.
[speaker003:] Mais un i-vecteur, c'est une transformation sur les données ;
[speaker004:] Ou c'est...
[speaker003:] mais euh MLRR... enfin il y a deux MLRR, mais le MLRR, le, le, celui qui marche parce qu'il y en a un qui fonctionne pas, cette transformation sur les données, mais celui qui fonctionne, c'est une transformation sur les paramètres.
[speaker002:] Les paramètres GMM euh du modèle.
[speaker003:] les paramètres du GMM. Tu transformes ta variance et ta, et tes gaussiennes. Tu transformes pas les données, en fait. Tu fais pas de... Tu sais, en gros, tu appliques une transformation affine, mais tu appliques une transformation affine sur tes données, sur tes paramètres, pas sur tes, pas sur tes données.
[speaker004:] En ce moment, on discutera de ça en plus d'un après.
[speaker002:] Ouais, ce serait intéressant de... Ouais.
[speaker001:] Ouais ouais, c'est bien de... ce... Ce serait bien que vous en discutiez, ouais, ouais, ouais. Hum hum.
[speaker002:] Et euh ce qui est intéressant, que tu vois un peu euh cette partie i-vecteur, comment ça se construit et... Que tu as un peu de A à Z, enfin, toutes les informations sur euh...
[speaker001:] Hum hum.
[speaker002:] Speaker modelisation.
[speaker001:] OK.
[speaker002:] Adrien n'est pas là du coup.
[speaker003:] ... pour moi.
[speaker001:] C'est c'est bon pour toi ? Donc, euh oui, on note que Adrien heu est en congé euh hum aujourd'hui. Euh donc on a fait le le le le tour. Juste euh donc euh, euh on on s'entend pour euh notre euh prochaine euh réunion euh euh donc euh la semaine prochaine. Je vous propose donc euh la semaine prochaine, à la même heure, donc toujours autour de... de le vendredi entre 10 heures et 10 heures et quart. Euh... Euh... Donc ce ce euh juste pour fixer euh, pour fixer le contexte puisqu'on a cette réunion de manière euh maintenant relativement régulière euh donc hum je vous propose que que nous votions pour savoir euh si on l'adopte de manière euh définitive, ce rythme euh hebdomadaire. Euh, donc qui est euh qui est pour donc organiser cette réunion tous les vendredis à à à à à 10h00 ? Euh, donc qui est pour ? Euh, donc euh euh Paul et moi-même. Et et et qui est contre ? Donc Frédéric et Guillaume. Euh et donc euh, à noter que j'avais posé la question à à à Adrien, que lui lui-même est est d'accord pour pour ce ce ce rythme. Et donc, que nous continuerons sur ce, que nous adopterons donc euh ce rythme de manière euh euh de manière euh régulière. Et euh on on pourrait même dé, définir du coup un un évènement dans dans dans UBM pour euh bien bien avoir cette cette cette date tous les vendredis. Euh, voilà donc euh euh, ce on atteint la la fin de cette réunion. Donc, si je récapitulais un peu les les euh les différents éléments qui ont été euh abordés. Donc euh concernant euh concernant Frédéric qui est toujours euh dans le rush euh sur son papier euh LibriSpeech parce que le le le premier deadline est fixé au 29 mars, euh donc il va continuer à dépouiller... enfin à faire tourner ses euh ses ses simulations et à dépouiller euh les les les les résultats avec donc des nouvelles euh des des des nouvelles approches qui ont été ajoutées euh cette semaine. Euh, Il Paul donc va va un peu continuer à enrichir son son son environnement de génération de modèles de telle manière qu'on puisse générer plusieurs modèles euh à partir donc des euh des des des données hum des euh des des données concernant les le le... et le modèle de de reconnaissance de la parole et euh et la partie euh euh NLU. Et et et Guillaume euh donc continue sur le le le le travail autour des des modèles de langage, la normalisation des données et et par ailleurs va va essayer donc euh de commencer à écrire un un un article sur euh les les les aspects de d'adaptation aux locuteurs au d... niveau de de l'apprentissage. Et pour ça, ben, il y aura une synchronisation avec euh avec Paul et puis bon ben, des discussions que vous pouvez avoir euh sur euh sur ces sujets-là de telle manière à mettre euh le le contenu le le plus pertinent tout en restant vulgarisateurs euh dans cet euh dans cet article, voilà. Donc en termes de dates, on retient que on a une euh une réunion euh prévue avec euh avec Thomas mercredi proch... prochain matin, euh bon la date de d'Interspeech au 29 mars hein que j'ai déjà euh que j'ai déjà euh euh abordée. Bon, concernant l'article euh euh l'art l'article de Guillaume, bon, ben, on va, le l'objectif, c'est d'essayer de de de de d'avoir ça fin mars ou ou courant avril. On n'a pas un deadline, un deadline fort hein puisque bien évidemment euh, c'est nous qui nous fixons le le le le rythme le rythme correspondant. Voilà, euh donc je vous propose de de clore là, à moins que vous ayez quelque chose à rajouter. Et euh dans la négative, eh bien euh on se dit à la semaine prochaine, en tout cas, pour euh pour ce point hebdomadaire. Merci.
[speaker004:] la prochaine.
[speaker002:] ...
[speaker003:] À la prochaine.
[speaker001:] Bon, on est [NOISE] dans le... [NOISE]
[speaker002:] ...
[speaker001:] On a eu un petit euh, un petit cafouillage au départ.
[speaker002:] Mais parce que j'ai j'ai totalement, oui...
[speaker004:] Frédéric...
[speaker002:] J'ai totalement oublié...
[speaker005:] C'est sûr que... En même temps, je pense que c'est une... comme ça. Ça peut arriver.
[speaker001:] Ouais.
[speaker005:] Ça va.
[speaker002:] Bon. OK.
[speaker001:] Ouais, ouais.
[speaker005:] T'inquiète pas.
[speaker001:] [NOISE]...
[speaker002:] Je me suis dit... parce que à chaque fois, il...
[speaker001:] Pour c'est bien rigolé.
[speaker002:] Je... Ouais... À chaque fois, je me dis, après, je savais pas quoi dire... j'avais pas compris. Mais bon. OK.
[speaker001:] OK. Euh, bon, pour de vrai, rien à rajouter. Donc vous vous faites le point-là sur le, cet aspect de... hum, cette histoire-là de... euh... de d'adaptation aux locuteurs.
[speaker004:] Hum hum. OK.
[speaker001:] Et puis euh... Bon. C'est, c'est bon ?
[speaker002:] Je pense euh c'est c'est OK pour nous.
[speaker004:] Ouais.