[speaker001:] bien dans le temps...
[speaker002:] On était bien dans le temps donc euh... Éric... [NOISE]
[speaker003:] Éric, à toi.
[speaker002:] Éric, à toi. [NOISE]
[speaker004:] ...
[speaker003:] Attends, je...
[speaker002:] Ouais c'est ça Vas-y, mets un peu plus de son parce que pour le coup...
[speaker003:] Vas-y.
[speaker004:] Ouais. Alors moi, pour ma part, cette semaine j'ai continué ma...
[speaker005:] Oops [NOISE]
[speaker004:] j'ai écrit un... allô ?
[speaker003:] Oui....
[speaker002:] Oui... C'est... Oui, ça avait gelé.
[speaker004:] Ah d'accord, j'ai écrit un nouveau script qui permet de... qui améliore la normalisation en fait, donc euh... j'ai testé pour, là je corrige pas mal de... pas mal de bugs, pas mal de... de soucis qu'il y avait sur la... la normalisation et j'ai regardé un petit peu les résultats que ça donne et j'ai pris un petit peu de temps pour euh... pour observer les phrases qui étaient euh... qui étaient devenues... qui étaient obtenues à partir de cette nouvelle normalisation. Et là, bon, il y a... enfin, il y a très peu d'erreurs, il n'y a quasiment aucune erreur de syntaxe et les rares erreurs que je trouve, c'est-à-dire des fois, il peut y avoir des... des mots qui se concatènent ou euh... une erreur, une faute d'orthographe. En fait, j'ai... ce que j'ai vu, c'est que sur le... bah déjà sur le corpus du Monde, il y a pas mal de... enfin, il y a quelques petites erreurs, il y a des petites coquilles, c'est-à-dire des... un espace qui qui est manquant ou euh... ou un "a" qui se rajoute dans un mot, enfin ce genre de petites erreurs que, ben du coup qui... qui créent des mots supplémentaires et qui pénalisent un petit peu le modèle de langage. Mais euh... ce n'est pas vraiment une... ce n'est pas vraiment dû au modèle. C'est vraiment dû aux données du coup et ça du coup, ce sera un peu difficile à corriger puisque, enfin... faut... ou alors, faut... il faut corriger les erreurs une par une, mais je ne pense pas que ça... que ça sera significatif, va améliorer significativement les performances. Et donc à partir de cette nouvelle normalisa normalisation, j'ai euh... j'ai testé, enfin j'ai fait le... j'ai calculé le... j'ai j'ai généré les modèles de langage sur le le corpus de... du modèle du... enfin sur le vocabulaire de... du modèle de... de... de LIUM.
[speaker002:] Hum hum.
[speaker004:] Et en fait, ce que je constate, c'est que bah... je pen ben il y a eu de grosses améliorations sur le... la perplexité entre le.. la V1 et la V2, mais là du coup, y a... enfin... en fait, c'est que j'améliore... difficilement la... la perplexité. Pourtant j'ai fait le... pas mal de... de... de... de corr de corrections, mais euh... il n'y a pas de... d'amélioration nette de la perplexité, là, j'améliore de deux trois points à peu près. Je n'ai pas encore fait les euh... toutes... toutes les batteries de tests, j'ai juste fait là... j'ai juste généré le modèle de langage en... en... comment dire... en... en... en générant les n-grams uniquement sur les mots d'un vocabulaire bien précis. Là, dans le... le... le... le... la... la pipeline complète, c'est qu'il faut que je génère le le modèle de langage sur tout tout le vocabulaire, là c'est ce que je suis en train de faire, ça prend un petit peu de temps, et ensuite que je fasse des euh... des euh... que je génère des... s'il y a des mots inconnus, je les mets en mots inconnus, mais euh... et là, je pourrai vraiment comparer entre la V2 et la V3, mais là, juste sur la partie euh... entraînement du modèle de langage sur le vocabulaire restreint, j'obtiens, voilà, une amélioration pas pas significative du pas significative du du de la perplexité.
[speaker002:] Hum, hum... T t'étais à cent...
[speaker004:] Donc, je pense que là...
[speaker002:] Pardon... Tu étais à 112 ? [NOISE]
[speaker004:] Ouais, ben là, je suis autour de 111-110 à peu près, oui.
[speaker002:] Hum hum... Sachant que LIUM, eux ils sont à 108, c'est ça donc euh ce n'est pas forcément étonnant.
[speaker004:] Ouais.
[speaker002:] Hum.
[speaker004:] Après, c'est... enfin, là je pense, sur la normalisation, on attend vraiment un... je pense qu'il y a peu d'améliorations qui peuvent euh vraiment euh améliorer le... le... le... la perplexité donc je pense qu'après, c'est plus au niveau du... des méthodes de comptage, mais euh... Enfin... j'ai testé pas mal de pas mal de de méthodes, et... enfin... Après, il y a peut-être euh... des petites paramétrisations, des petites euh... des euh... des petites astuces qu'ils ont mis en place, euh... mais je n'ai pas trouvé pour le moment mais euh.... mais euh... mais là vraiment, sur la normalisation, sur la partie normalisation, je pense qu'on atteint... qu'on a atteint quasiment le... le... le... le mieux. Donc euh... voilà. Mais après, enfin... j'ai dit je n'ai pas encore... toutes les batteries tests et euh... je pourrai vraiment donner des résultats précis, bah tout à l'heure. Euh... Voilà donc j'ai travaillé beaucoup sur ça. Ensuite, euh... j'ai... j'ai continué aussi, j'ai dit que j'allais écrire un article donc je suis en train de... je suis en train de l'écrire toujours. Euh... Voilà donc l'article sur euh... sur la... sur les différentes techniques d'apprentissage avec annotations du locuteur, euh... donc j'essaye de faire un petit peu un article didactique où euh... je reviens un petit peu sur la théorie mathématique et ensuite, j'essaie d'expliquer de manière euh... en vulgarisant un petit peu comment ça fonctionne... comment ça fonctionne, euh... l'adaptation du locuteur sans... sans rentrer dans trop trop de détails mathématiques pour que soit accessible, accessible à... à... pas à n'importe qui, mais on va dire que euh ça ne soit pas trop trop trop compliqué à comprendre. Voilà. Sinon, euh... j'ai fait aussi un petit peu de... de euh... J'ai lu les articles qu'avait envoyé un petit peu Achille, là, sur les modèles de langage, j'ai trouvé ça intéressant, sur l'apprentissage non supervisé en combinant différentes euh différentes techniques, enfin différentes tâches d'apprenti... de... différentes tâches de..., euh comment on peut créer un apprentissage non supervisé pour euh... pour traiter simultanément toutes ces tâches, je sais pas si tu te souviens d'avoir envoyé ça.
[speaker002:] Oui, oui, je me souviens, oui. Hum hum.
[speaker004:] Oui et euh et voilà..., j'ai fait un petit peu de... de... de... de veille là-dessus et je pense, ça peut aussi m'aider au niveau de... ça peut nous aider après pour euh... pour euh... la génération des modèles de langage des... des différentes approches qu'ils mettent en place.
[speaker002:] Hum, hum... Euh... Est-ce que du coup, son travail...
[speaker003:] Oui
[speaker002:] Je ne sais pas d'où vient l'écho, mais c'est... ça vient pas de... ça ne peut pas venir de... de... de... de Éric puisque lui, il a son... son... C'est nous qui... qui faisons de l'écho, non ? Voilà, et là maintenant, ça ne devrait plus faire d'écho.
[speaker003:] Ouais.
[speaker002:] Ouais, parce qu'en fait, c'est... ce ce truc-là...
[speaker003:] Ouais.
[speaker002:] Hum
[speaker003:] Oh.
[speaker002:] Hum... [NOISE]
[speaker006:] Son micro n'est pas coupé ?
[speaker002:] Comment ?
[speaker006:] ... il coupe son micro, non ?
[speaker002:] Bah, dès lors qu'il... que c'est un micro à cravate, je je ne comprends pas...
[speaker003:] Ouais.
[speaker002:] Je ne vois pas trop. Hum... Non, non, mais là, c'est bon. Euh donc qu'est-ce qu'est-ce que je disais ? Oui. Donc euh... il il a... il commence à avoir un... un... des... un modèle de langage propre, du... du... du coup, je pense que euh... ça va pouvoir euh... vous aider.
[speaker005:] inaudible
[speaker003:] On peut relancer déjà avec son modèle tri-gram un un décodage euh... pour voir euh... déjà en termes de word error rate.
[speaker002:] Ouais ça devrait pouvoir euh améliorer euh... les... les résultats du modèle. Si euh... enfin c'était l'objectif, hein...
[speaker003:] Ouais, non, non.
[speaker002:] Si j'ai compris quelque chose quand même, hein... euh de... de... de... de l'affaire. Bon, il faudra... faudra... faudra regarder, quoi, ça, c'est euh... ma première remarque. Euh... Deuxièmement, alors j'imagine que... qu'elle t'a dit, euh... mais l'affaire MTS est... est... a été gagnée.
[speaker004:] Ah bon ?
[speaker002:] Oui, non ? Elle ne te l'a pas dit, euh... ?
[speaker004:] Non, non, elle ne m'a rien dit.
[speaker002:] Non, ah ben c'est depuis [NOISE] que j'ai fait remarquer que... [NOISE] bon euh donc elle elle est venue me voir hier donc elle m'a dit que l'affaire MTS avait été gagnée. Donc dans la version, euh... dans la dernière version, c'est-à-dire une version où vous y allez euh euh tous euh tous les deux, François et toi. Euh... MTS, c'est euh... c'est... un un opérateur de de télécoms russe qui veut donc développer son euh son son speaker, un un un assistant vocal et qui euh... qui veut du conseil et donc euh ils ont... euh... une semaine un peu de... de...... de de d'une mission plus importante euh chez chez eux.
[speaker004:] D'accord.
[speaker002:] Donc euh... donc Éric va y aller pour... pour voir euh... un petit peu, euh... pour pouvoir euh... évaluer les euh... les... les données hum, les corpus qu'ils ont euh... en russe bon avec ta connaissance du russe bien sûr, mais... ou ton absence de connaissance du russe. Mais... Mais l'idée, c'est quand même de de... d'aller voir si si déjà il il, a priori, on... on a les, euh... il y a les... les... les données qui vont nous permettre de générer euh... générer un modèle et puis François qui va pour euh... pour la partie parce qu'ils veulent faire un un un objet connecté donc... pour cette euh pour cette expertise. Euh... Voilà donc bon, c'était une bonne plutôt une bonne nouvelle.
[speaker004:] Et euh... Ils ont... Ils savent quand... quand est-ce que ça va se faire, du coup ?
[speaker002:] Non non, la date n'est pas encore... c'est pas encore arrêté.
[speaker004:] OK.
[speaker002:] Mais euh ouais, ouais, bah à ce moment-là, discute, vois... vois avec elle. Hum. Mais hier, euh... ils savaient... la date n'était pas arrêtée donc... Euh, voilà, ça, c'était le deuxième point euh... et le troisième point, euh... donc j'ai fait, j'ai envoyé une référence hier soir, là, enfin, hier après-midi euh... euh... sur un... un... un art... un article de blog de des gens de Nvidia où ils disent qu'ils... qu'ils multiplient euh... les performances de... de Kaldi par je ne sais plus, par 100 ou par 1000 ou...
[speaker003:] Par 3500.
[speaker002:] Par 3500, oui un truc incroyable, quoi. Hum... Vous... Je ne sais pas, qu'est-ce que vous en pensez ? Euh, vous n'avez peut-être pas eu le temps de... Enfin, j'imagine que bon tu t'as la tête ailleurs, mais... mais je ne sais pas... vous avez peut-être
[speaker007:] Non, je n'ai pas encore regardé.
[speaker002:] Tu n'as pas encore regardé ? Hum, hum... Tu... Tu vas voir, c'est un... c'est un article de blog, hein, ce n'est pas un article scientifique. Donc euh bon, il y a sans doute un peu de marketing là-dedans, mais euh... euh... moi, je j'ai j'ai le le sentiment comme ça, mais je l'ai parcouru en en transvers, euh... j'ai j'ai le sentiment qu'ils... peut-être qu'ils... euh tu sais, ils proposent de... enfin, ils parlent de l'accélération de GPU euh de... de... de Kaldi euh sur lequel vous aviez travaillé il y a quelques mois et qui nous avait posé euh... des des des soucis, euh... enfin qu'on n'a pas réussi à faire tourner tout simplement et que la conclusion, si ma mémoire est bonne, c'est que euh les gens de... qui avaient travaillé là-dessus avaient dit que euh... bon, ce n'était pas encore...
[speaker007:] Kaldi ? Oui. La version GPU ?
[speaker002:] Oui.
[speaker007:] Oui, il n'est pas encore validée par euh......, la version n'est pas encore stable.
[speaker002:] Hum, hum. Ce n'était pas encore stable et et donc on avait un peu laissé le... le... le truc en stand-by en... en attendant que... je me demande si... si ce n'est pas ça, mais faut... Il faut regarder, jette un oeil, jette un oeil, c'est quand même, il ne faudrait pas passer à côté, quoi. Si... si jamais c'est vrai même, même si c'est... 1000.
[speaker003:] Même si ce n'est pas 3500.
[speaker002:] Même si ce n'est pas 3 500, euh... même si c'est juste 1000, ça peut valoir le coup, quoi.
[speaker007:] Oui, bien sûr. Sinon dans l'article, ils disent que les GPU sont utilisés dans trois parties, la partie extraction des features, la partie acoustique bien sûr et la par la partie euh... modèle de langage. Je ne vois pas comment utiliser ça pour ces deux parties-là, le l'extraction et le modèle de langage. Euh...
[speaker002:] Hum, hum.
[speaker007:] D'après ce, d'après ce que je connais, Kaldi et tout ça, donc, l'implémentation n'utilise pas les GPU pour faire l'extraction des features et est meilleure pour le modèle de langage.
[speaker003:] Je pense qu'ils l'ont ils l'ont fait...
[speaker002:] Ben peut-être qu'ils l'ont réécrit.
[speaker003:] Parce que nous, on l'a fait pour le Raspberry Pi, pour la DSP.
[speaker007:] DSP ?
[speaker003:] Pour le calcul de signal, de... sûrement ils ont fait... ils ont fait ça pour la GPU.
[speaker007:] Peut-être la nouvelle version de Kaldi peut-être, bon...
[speaker003:] On n'est pas...
[speaker002:] C'est intéressant de de regarder quand même, hein ?
[speaker007:] Oui.
[speaker002:] Hum, hum... OK, bon... Euh...
[speaker007:] Bon, juste une question, Paul, quand tu dis que tu as amélioré de 6 % par rapport à LibriSpeech.
[speaker003:] Non pas par rapport à au word error rate de LibriSpeech, non par rapport à ce que j'avais en fait avec la version parce qu'il y a... euh du coup, j'ai fait une version normale avec du GRU quatre couches, et il y a une version où je ne prends pas les entrées directes, des f-banks, je prends en fait euh... le T et le T 1, je regroupe le T et le T 1, je regroupe...
[speaker007:] Ouais, ouais.
[speaker003:] Et en fait, et ça avance deux par deux. Et après, pour la partie amélioration de... de l'exécution, là, ça va... ça va plus vite euh... de 30 % aux environs.
[speaker007:] Et en termes de performances ?
[speaker003:] Et en perf termes de performances, ça améliore 6% donc là, j'ai aux environs de...
[speaker002:] Attends, c'est, ouais, ah, ça améliore de de 6 % ?
[speaker003:] De 6 %.
[speaker002:] Et du coup, tu passes de combien à combien ?
[speaker003:] Et... De 13, je pense, je passe à 6 et quelques.
[speaker002:] Ah oui, donc..., c'était quand même ça.
[speaker003:] C'est c'est imp... Ouais, non, non, c'est... C'est c'est impressionnant comme euh comme euh comme résultat. Enfin...
[speaker007:] Et par rapport les... les publications, CTC et LibriSpeech,
[speaker002:] et donc, t'es à combien ?
[speaker003:] C'est practique... Ouais, c'est c'est pratique c'est practiquement la même... la même chose, mais du coup...
[speaker006:] Ils sont à 5 euh...
[speaker007:] C'est quoi la différence entre toi, tes améliorations par rapport à les articles publiés ?
[speaker003:] C'est. C'est que...
[speaker007:] C'est ça le...
[speaker003:] Ouais. C'est que...
[speaker007:] Il faut que tu compares avec des publications, les résultats des publications.
[speaker003:] Ouais, non, non, non, je... Je vais je vais me comparer avec les résultats d'autres publications, mais du coup, il faut noter que par exemple moi, c'est le même modèle... en fait, ce n'est pas les mêmes modèles, les mêmes couches, les mêmes euh... euh les mêmes... enfin, le même architecture.
[speaker002:] Hum, hum.
[speaker003:] J'ai essayé de re... de de garder la même architecture et même l'écriture, c'est pas les mêmes.
[speaker007:] Pourquoi tu as utilisé les mêmes euh architectures et features par rapport à les autres articles ? Que tu puisses comparer par rapport aux autres...
[speaker003:] Non je n'ai pas... Ah, oui, oui, que...
[speaker007:] C'est c'est incompar... incomparable, comme tu dis. Ce n'est pas les mêmes features et les mêmes architectures.
[speaker003:] Parce que là, l'état de l'art, je la fais maintenant et bon... J'ai...
[speaker007:] Tu vois l'idée ?
[speaker003:] Ouais, ouais, non, non, non, je je te comprends.
[speaker002:] Mais ceci dit, la, la... l'excellente nouvelle, c'est qu'on arrive enfin à... à voir les résultats de l'état de l'art.
[speaker003:] Ouais, quelque chose qui...
[speaker002:] Qu'on n'avait pas jusqu'à présent, qu'on n'avait jamais réussi à avoir les les...
[speaker006:] ... que ça, c'est...... Parce que...
[speaker003:] La rec... La recette Kaldi.
[speaker006:] Enfin, LibriSpeech il est 1000 heures, il y a des résultats à 5 % et c'est facile à reproduire avec ce data set là. On n'arrivait pas à le faire sur euh... sur les données en français, mais sur les 1000 heures de LibriSpeech par exemple Wav2Letter de base, tu appliques tu appliques leur script, t'as à peu près entre 5 et 6 %. On peut l'avoir maintenant ça. C'est plus, mais sur la data set de LibriSpeech.
[speaker007:] Oui oui.
[speaker005:] ... le data set de LibriSpeech est plus facile parce que c'est de la parole lue. Ce n'est pas ce n'est pas du conversationnel, et de 6 000 heures, c'est pas... c'est pas 100 ou... ou moins. Du coup, ce n'est pas du tout le même... c'est pas le même challenge, voilà mon opinion là-dessus. Après c'est bien, mais dans les architectures qui te permettent d'avoir 5-6 % sur le le data set de LibriSpeech, qui est de 1000 heures... genre, ils y sont depuis 2015.
[speaker003:] Oui, mais vraiment en fait, la nouveauté que... que j'ai discuté... Ouais... Euh...
[speaker006:] Ton ton ton ton approche est nouvelle, ça c'est autre chose.
[speaker003:] Par rapport à l'approche que j'ai discutée, en fait, j'ai essayé de garder la même architecture pour tous mes expérimentations donc je n'ai pas utilisé par exemple VGG en fait DCNN en bas ou je je n'ai pas essayé d'utiliser vraiment quelque chose de... de très complexe, mais du coup, ce qui est important, c'est que par rapport à ma... à mon modèle de base qui utilise par exemple du CTC avec des f-banks de 40 sorties, enfin de 40 dimensions, euh... les différentes euh... euh architectures et améliorations donc enfin modifications, quelles sont le... en fait la différence entre ça et ça.
[speaker007:] Oui.
[speaker003:] Et l'idée, c'est que une fois que cette partie, elle est prouvée, par exemple on peut l'appliquer à Wav2 euh 2Letter, du coup, du fait que Wav2Letter a 5 %, appliquer ces modifications sur la même architecture de Wav2Letter pour voir ce que ça donne. Tu vois...
[speaker007:] Tu vas obtenir 0 %.
[speaker003:] Non, je ne sais pas, ce n'est pas 0 %
[speaker008:] ...
[speaker003:] Tu ne peux pas avoir enfin... parce que sinon, t'arrives à... t'arrives à 0 à 0 %.
[speaker002:] Oui, oui, non, c'est forcément...
[speaker003:] Mais, mais, mais l'idée...
[speaker006:] ... peut pas avoir plus que 4 % sur le LibriSpeech.
[speaker003:] Oui, mais... Ouais. Ouais. Mais l'idée, c'est de...
[speaker006:] ... sur le taux d'erreur rate.
[speaker003:] Non, non, non, mais je, c'est c'est sur. Mais l'idée, c'est que euh... ça, ça, ça m'a permis de voir à quel point euh... cette partie du multitask learning euh rajoute de la robustesse au modèle, donc de 1. Tu vois, c'est... c'est pas, c'est pas "Ah, je vais améliorer le word error rate à 0 %."
[speaker007:] À quel point cette partie...
[speaker005:] ...
[speaker007:] ... Peut-être parce que tu n'as pas utilisé la mei... l'architecture optimale. C'est pour ça que tu as obtenu ce ce cette amélioration, cette... amélioration, c'est pour cela.
[speaker003:] Et, ouais, et, et la... Mais, mais, mais... Mais, je l'ai... je l'ai... je l'ai je l'ai eue, cette amélioration, pas en modifiant l'architecture, je l'ai eue avec euh, euh...un concept....
[speaker007:] ... Tu vois ? Le bon... Le la bonne architecture, c'est pour ça que t'as t'as pu amé améliorer, mais si tu changes avec la... la... l'architecture optimale...
[speaker003:] L'amélioration, elle est minime, tu penses ?
[speaker007:] Oui.
[speaker003:] Bon, je pourrais je pourrais le tester sur euh... Ouais.
[speaker006:] ... sur.... parce que les résultats... ça...
[speaker003:] Ouais, ouais, non, non, ça c'est c'est pour euh...
[speaker007:] Donc 6 % c'est c'est vraiment
[speaker003:] C'est ouais...
[speaker006:] Kaldi il est à 5 %
[speaker003:] Ça
[speaker007:] Oui, Kaldi... à 5 % sur LibriSpeech.
[speaker003:] c'est, ça c'est, ouais... Et ça, c'est c'est important. La deuxième des choses, c'est la partie temporelle, là. Tout le monde travaille, enfin les les derniers articles, j'ai pris deux articles de 2018 et de 2018 aussi. Donc les deux, ils font ils font..., là, pour compresser l'information qui euh qui n'est pas mal comme euh comme technique, et la deuxième en fait, euh... Kaldi, il le fait implicitement, mais euh... il ne le fait pas... enfin, il ne le fait pas de la même façon que ce qui est proposé par cette personne en fait de Google. J'avais pris en fait... parce qu'en fait, pour construire mon état de l'art, j'ai cherché les hierarchical euh euh multi-task learning for speech recognition et les gens, ce qu'ils font, euh... il y a il y a ces... ces... ces... ces méthodes de d'optimisation de temps, mais ils font une sortie phonétique et une sortie caractères en mots. Je n'ai pas trou... J'ai trouvé personne qui faisait consonnes voyelles et... et euh... et caractères. J'ai trouvé beaucoup de personnes qui font, euh... pho phonèmes, et phonèmes plausifs, phonèmes fricatifs parce qu'il y a les "pe te que", les "fe ce che", les... Donc il il y avait ça, mais il n'y avait personne qui essayait de... de combiner euh ces ces sorties pour euh pour essayer pour essayer de... et...
[speaker006:] Essaye de mettre... essaye de mettre l'accent là-dessus.
[speaker003:] Ouais. Et c'est surtout je vais mettre...
[speaker002:] Hum hum.
[speaker006:] Juste parce que... il il n'utilise que des..., rien de spécial sur l'aspect temporel....
[speaker003:] Oui.
[speaker006:] ... 4 ou quelque chose comme ça.
[speaker003:] Non, non, mais sûrement, ils l'ont... ils l'ont optimisé, leur leur leur réseau. Mais il faut savoir aussi quelque chose, j'ai beaucoup eu de problèmes avec euh... les hyper paramètres aussi parce que à chaque fois, il fallait faire des..., etc., et je tombais sur des valeurs en fait euh euh "none" donc dans l'optimisation et c'était très difficile, là, sur OSIRIM j'ai pris tous les..., les 28, je les ai je les ai toutes prises pour essayer de... d'optimiser cette partie..., etc., et je n'ai pas envie de toucher la, il reste une semaine à faire une architecture plus performante ou par exemple à reprendre Deep Speech 2 par exemple, pour...
[speaker006:] ...
[speaker003:] Ouais, ouais, ouais, donc donc du coup...
[speaker002:] Non, mais là maintenant, de toute manière, il faut arrêter les..., il faut écrire.
[speaker008:] ...
[speaker003:] Mais euh...
[speaker007:] Si je me mets à la place de des reviewers, il va te critiquer sur sur ce point.
[speaker003:] Mais je vais...
[speaker007:] Il va te dire, il fait ça fait longtemps que les gens, ils ont obt ils ont obtenu les 5 %...
[speaker006:] Sur ce data set....
[speaker007:] Sur ce data set. Pourquoi tu n'as pas utilisé la l'architecture optimale et tu tu fais tes expérimentations... améliorations.
[speaker003:] Mais surtout, ce que je vais faire, euh... ce que je vais faire comme euh point, enfin attirer le point sur cette partie, par exemple le multi-task qui donne de meilleurs résultats que la sortie normale pour 80 ou 100 heures de Wall Street Journal. Pour les 1000 heures, ça donne aussi les meilleurs résultats. Donc comme première conclusion, je dirais que le multi-task learning, tu vois, même s'il y a un... réduit de données, ça marche mieux que la sortie euh CTC normal pour une architecture pour une même architecture. Et du du coup, ça, c'est la première euh partie, et la deuxième partie, je parlerai sur euh... la la partie temporelle, comme quoi ça améliore, et je mettrai les facteurs temps de... d'apprentissage qui sont importants, qui ne sont pas négligeables. Là, on est sur du 100 et 1000 heures, on verra le... la différence et la partie amélioration word error rate. Donc du coup, pour dire que voilà, avoir a regrouper ou avoir à prendre des petites imagettes euh en entrée, c'est mieux que de prendre un vecteur euh euh un vecteur tout seul en entrée, que ça soit pour... en termes de word error rate ou en termes de performance de calcul. Donc c'est les deux grandes lignes que je voulais faire sortir. Et bon, c'est...
[speaker007:] Il faut bien rédiger et mettre l'accent sur tes contributions, c'est ça.
[speaker003:] ... sur ces parties-là.
[speaker007:] Ne pas mettre des...
[speaker003:] Ouais, non non, je je mettrai euh je mettrai surtout l'accent sur euh... sur euh... sur ces euh... sur ces parties, donc voilà.
[speaker002:] OK. Bon.
[speaker003:] Mais c'est vrai que...
[speaker002:] Moi, je vais m'arrêter là parce que normalement, j'ai une réunion qui va bientôt démarrer. Euh... Merci.
[speaker003:] Allez, Éric.
[speaker007:] Ciao, ciao.
[speaker003:] Bye !
[speaker004:] Bye !
[speaker002:] Salut.