. Dans-ce-chapitre, . De-kiperwasser, and . Goldberg, où les éléments ciblés sont contextualisés en utilisant leur représentation issue d'une couche récurrente sur toute la phrase. Cette variante, appelée KG-2016, ne produit pas de scores compétitifs et stables. En effet, cette approche ne permet pas l'application (du moins de manière simple) de notre technique de ré-échantillonnage pour rééquilibrer la proportion des classes (i.e. transitions) à l'apprentissage. Cela pourrait constituer l'une des raisons principales de cette performance décevante, 2016.

L. Collobert, ou apprentissage multitâche) est une approche florissante de l'apprentissage profond. Cette approche est utilisée avec succès pour beaucoup de tâches de TAL (Torrey et Shavlik, 2010.

. Nasr, Concernant l'identification des EPs, il existe une large littérature sur la modélisation nonneuronale jointe de cette tâche avec d'autres tâches telles que l'étiquetage morphosyntaxique ou l'analyse syntaxique en dépendances (cf. le chapitre 2 de la partie 1). Cependant, elle ne permet pas vraiment de tirer de conclusions définitives sur le sujet, même si l'on observe des cas extrêmement bénéfiques comme pour l'identification de certains types de mots grammaticaux complexes apprise de manière jointe avec l'analyse syntaxique en dépendances, 2015.

. Taslimipoor, montre l'impact positif d'une architecture multitâche pour l'identification des EPs par étiquetage séquentiel, quand elle intègre l'étiquetage morphosyntaxique et l'analyse syntaxique comme tâches auxiliaires. Dans ce chapitre, nous souhaitons évaluer l'impact que l'intégration de ces deux mêmes tâches auxiliaires dans une architecture multitâche peut apporter à notre tâche cible d'identification des EPs par un système par transitions. Pour cela, nous utilisons la méthode d'empilement de Zhang et Weiss (2016) qui a été utilisée pour combiner l'analyse syntaxique par transitions et l'étiquetage morphosyntaxique. Nous allons donc, dans ce chapitre, décrire l'architecture de notre système multitâche et de ses composants (section 5.1). La section 5.2 aborde les algorithmes d'optimisation des réseaux de neurones proposés et les différents modes d'apprentissage du système multitâche. La section 5.3 détaille les changements du cadre expérimental qu'exige l'expérimentation de ces réseaux. Enfin, la section 5.4 rend compte de la performance de ce système, 2019.

, Architecture et composants Notre système multitâche est inspiré du travail de Zhang et Weiss (2016) à la fois pour l'architecture du réseau de neurones et son algorithme d'optimisation. L'architecture se caractérise par le partage d'un module produisant une représentation vectorielle contextualisée pour chaque élément en entrée (ci-après représentation contextualisée). Cette représentation est ensuite utilisée pour nourrir trois modules distincts

, de l'évaluation pour tous les réseaux de neurones, puisque l'anglais et le polonais manquent d'homogénéité dans leurs annotations morphosyntaxiques et syntaxiques (mélangeant annotations gold et automatiques), le lituanien n'a pas d'annotations syntaxiques et le slovène n'a pas d'annotations morphosyntaxiques. Par ailleurs, nous écartons l'hindi et le turc parce que nous n'arrivons pas à entraîner notre système de base (UDPipe) sur les fichiers d'entraînement de ces langues (l'outil UDPipe produit une erreur concernant le chargement des fichiers d'entraînement). Par conséquent, l'ensemble de langues d'évaluation se limite à treize langues : le bulgare, l'allemand, le grec, l'espagnol, le basque, le farsi, l'hébreu, le croate, le hongrois, l'italien, le portugais et le roumain. Il est à noter que les jeux d'entraînement de ces langues sont constitués d'une majorité d'arbres de dépendances projectives (95 %), Langues d'évaluation Alors que nous exploitons les jeux de données PARSEME 1.1 dans nos expérimentations, nous excluons six langues

, UDpipe est une boite à outils appliqués en pipeline, capable d'apprendre des modèles pour la segmentation des phrases, l'analyse lexicale, l'étiquetage morphosyntaxique, la lemmatisation et l'analyse en dépendances. Quant à l'analyse syntaxique, l'outil utilise un système arc-standard avec un oracle dynamique. cet outil désactive l'option (single_root) pour l'analyse syntaxique de certaines langues 51 , pour permettre d'analyser des arbres avec plusieurs relations syntaxiques avec l'étiquette « root » désignant la racine. Il est à noter que nous obligeons l'outil (lors de l'étiquetage et de l'analyse syntaxique) à exploiter les annotations des jeux de données telles quelles (use_gold_tags=1 ), Systèmes de base Nous utilisons l'outil UDPipe 2.0 comme système de base, avec lequel nous allons comparer nos scores d'étiquetage morphosyntaxique, ainsi que nos scores d'analyse syntaxique

, Résultats et analyses Cette section porte sur l'expérimentation de la structure multitâche complète et des autres variantes. Comme c'est notre tâche cible, nous commençons par examiner les résultats de performance sur l'identification des expressions polylexicales obtenus par les variantes RI, REI et REIA, sur les données de développement 52 des treize langues évaluées

G. De-manière, En effet, l'inclusion des tâches d'étiquetage morphosyntaxique et d'analyse syntaxique ne semble pas bénéfique pour l'identification des EPs : la variante MLP est plus performante en F-score que tous les autres réseaux pour toutes les langues sauf pour le farsi, ces premiers résultats sont décevants

, Nous ne fournissons pas de résultats de ces réseaux sur les jeux de test, vu le manque de compétitivité qu'ils montrent sur les jeux de développement, vol.52

, Tout d'abord, notre variante SVM 2 a été utilisée dans le cadre d'une étude en neurosciences (section 6.1). Ensuite, notre méthode a été reprise et améliorée par des chercheurs ayant participé à la deuxième compétition PARSEME 1.1 (section 6.2), Dans ce bref chapitre, nous décrivons deux cas d'utilisation directe de notre méthode d'identification par transitions

L. Bhattasali, PyTorch est une bibliothèque open source, écrite en python, et basée sur la bibliothèque Torch, développée par Facebook. Torch et son interface python permettent d'effectuer les calculs tensoriels nécessaires pour l'apprentissage profond des réseaux de neurones sur des « CPUs » ou sur des « GPUs ». PyTorch permet de manipuler les tenseurs, les structures neuronales et les algorithmes d'apprentissage, ce qui permet d'implémenter des structures sophistiquées, plus facilement qu'en Keras. Conclusion Dans cette thèse, nous avons proposé une méthode d'identification des expressions polylexicales en contexte, fondée sur une analyse automatique dite par transitions. L'analyse d'une phrase préalablement segmentée en tokens se fait par une séquence de décisions locales, appelées transitions, réalisées par un classifieur appris de manière principalement supervisée. Nous avons proposé plusieurs jeux de transitions spécifiques à l'identification d'EPs, et avons exploré plusieurs approches pour l'architecture et l'apprentissage de ce classifieur, en particulier un modèle linéaire de type machine à vecteur support, un perceptron multicouche, et des variantes neuronales utilisant des couches récurrentes sur la séquence d'entrées. Comparée aux autres méthodes de la littérature d'identification, notre méthode s'est montrée performante, Ces deux processus sont mesurés en s'appuyant sur des méthodes de la linguistique informatique. En particulier, la remémoration est mesurée via les expressions polylexicales qui ont de bonnes chances d'être stockées comme des unités, plutôt que construites compositionnellement. À noter que la composition syntaxique est mesurée via une analyse ascendante (« bottom-up ») qui trace le nombre d'opérations nécessaires pour composer une phrase dans un arbre. L'un des objectifs de l'étude était de trouver des corrélations entre les occurrences d'EPs et l'activation de certaines zones en mémoire en s'appuyant sur une analyse de régression. À cette fin, nous avons entraîné notre variante SVM 2 sur le corpus Children's Book Test, vol.White, 1998.

, De ce travail nous pouvons mettre en avant les observations suivantes : -Pour notre participation à la compétition internationale PARSEME 1.0, notre système, uniquement SVM à l'époque, a été classé premier pour la plupart des langues

A. Abeille, Light verb constructions and extraction out of np in tree adjoining grammar, CLS. Papers from the General Session at the... Regional Meeting, pp.1-16, 1988.

A. Abeillé and L. Clément, Annotation morpho-syntaxique : Les mots simples-les mots composés, 2003.

A. Abeillé, L. Clément, and F. Et-toussenel, Building a treebank for french, Treebanks, pp.165-187, 2003.

M. Adam, J. E. , G. Et-maxine, and T. B. , A Dictionary of American Idioms. Barron's Educational Series, 1995.

A. Saied, H. Candito, M. Et-constant, and M. , TheATILF-LLF system for parseme shared task : a transition-based verbal multiword expression tagger, Proceedings of the 13th Workshop on Multiword Expressions (MWE)-2017, pp.127-132, 2017.

A. Saied, H. Candito, M. Et-constant, and M. , A transition-based verbal multiword expression analyzer, Multiword expressions at length and in depth : Extended papers from the MWE 2017 workshop, vol.2, p.209, 2018.
URL : https://hal.archives-ouvertes.fr/hal-01930522

D. Andor, C. Alberti, D. Weiss, A. Severyn, A. Presta et al., Globally normalized transition-based neural networks, 2016.

T. Baldwin and S. N. Kim, Multiword expressions. Handbook of natural language processing, vol.2, pp.267-292, 2010.

M. Ballesteros, C. Dyer, Y. Goldberg, and N. A. Smith, Greedy transition-based dependency parsing with stack lstms, Computational Linguistics, vol.43, issue.2, pp.311-347, 2017.

Y. Bengio, R. J. Ducharme, P. Vincent, and C. Et-jauvin, A neural probabilistic language model, Journal of machine learning research, vol.3, pp.1137-1155, 2003.

J. Bergstra and Y. Bengio, Random search for hyper-parameter optimization, Journal of Machine Learning Research, vol.13, pp.281-305, 2012.

G. Berk, B. Erden, and T. Et-gûngôr, Deep-bgt at parseme shared task 2018 : Bidirectional lstm-crf model for verbal multiword expression identification, Proceedings of the Joint Workshop on Linguistic Annotation, Multiword Expressions and Constructions, pp.248-253, 2018.

S. Bhattasali, M. Fabre, W. Luh, H. Saied, M. Constant et al., Localising memory retrieval and syntactic composition : an fmri study of naturalistic language comprehension. Language, Cognition and Neuroscience, vol.34, issue.4, pp.491-510, 2019.
URL : https://hal.archives-ouvertes.fr/hal-01930201

P. Blunsom and T. Baldwin, Multilingual deep lexical acquisition for hpsgs via supertagging, Proceedings of the 2006 conference on empirical methods in natural language processing, pp.164-171, 2006.

P. Blunsom and T. Baldwin, Multilingual deep lexical acquisition for hpsgs via supertagging, Proceedings of the 2006 Conference on Empirical Methods in Natural Language Processing, pp.164-171, 2006.

B. Bohnet, Very high accuracy and fast dependency parsing is not a contradiction, Proceedings of the 23rd international conference on computational linguistics, pp.89-97, 2010.

B. Bohnet and J. Nivre, A transition-based system for joint part-of-speech tagging and labeled non-projective dependency parsing, Proceedings of the 2012 Joint Conference on Empirical Methods in Natural Language Processing and Computational Natural Language Learning, pp.1455-1465, 2012.

P. Bojanowski, E. Grave, A. Joulin, and T. Et-mikolov, Enriching word vectors with subword information, 2016.

R. Boukobza and A. Rappoport, Multi-word expression identification using sentence surface features, Proceedings of the 2009 Conference on Empirical Methods in Natural Language Processing, vol.2, pp.468-477, 2009.

E. Breidt, F. Segond, and G. Et-valetto, Formal description of multi-word lexemes with the finite-state formalism idarex, Proceedings of the 16th conference on Computational linguistics, vol.2, pp.1036-1040, 1996.

N. Calzolari, C. J. Fillmore, R. Grishman, N. Ide, A. Lenci et al., Towards best practice for multiword expressions in computational lexicons, LREC, 2002.

M. Candito and M. Constant, Strategies for contiguous multiword expression analysis and dependency parsing, Proceedings of the 52nd Annual Meeting of the Association for Computational Linguistics, vol.1, pp.743-753, 2014.
URL : https://hal.archives-ouvertes.fr/hal-01022415

M. Candito, M. Constant, C. Ramisch, A. Savary, Y. Parmentier et al., Annotation d'expressions polylexicales verbales en français, 2017.

M. Carpuat and M. Diab, Task-based evaluation of multiword expressions : a pilot study in statistical machine translation, Human Language Technologies : The 2010 Annual Conference of the North American Chapter of the Association for Computational Linguistics, pp.242-245, 2010.

R. Caruana, Multitask learning. Machine learning, vol.28, pp.41-75, 1997.

J. Chanod and P. Et-tapanainen, A non-deterministic tokeniser for finite-state parsing, Proceedings of the Workshop on Extended finite state models of language (ECAI'96), 1996.

N. V. Chawla, Data mining for imbalanced datasets : An overview, Data mining and knowledge discovery handbook, pp.875-886, 2009.

N. V. Chawla, K. W. Bowyer, L. O. Hall, and W. P. Kegelmeyer, Smote : synthetic minority over-sampling technique, Journal of artificial intelligence research, vol.16, pp.321-357, 2002.

D. Chen and C. Manning, A fast and accurate dependency parser using neural networks, Proceedings of the 2014 conference on empirical methods in natural language processing (EMNLP), pp.740-750, 2014.

M. Collins and B. Roark, Incremental parsing with the perceptron algorithm, Proceedings of the 42nd Annual Meeting of the Association for Computational Linguistics (ACL-04), pp.111-118, 2004.

R. Collobert, J. Weston, L. Bottou, M. Karlen, K. Kavukcuoglu et al., Natural language processing (almost) from scratch, Journal of machine learning research, vol.12, pp.2493-2537, 2011.

M. Constant, M. Candito, and D. Et-seddah, The ligm-alpage architecture for the spmrl 2013 shared task : Multiword expression analysis and dependency parsing, Proceedings of the Fourth Workshop on Statistical Parsing of Morphologically-Rich Languages, pp.46-52, 2013.
URL : https://hal.archives-ouvertes.fr/hal-00932372

M. Constant, G. Eryi?it, J. Monti, L. Van-der-plas, C. Ramisch et al., Multiword expression processing : A survey, Computational Linguistics, vol.43, issue.4, pp.837-892, 2017.
URL : https://hal.archives-ouvertes.fr/halshs-01665254

M. Constant and J. Nivre, A transition-based system for joint lexical and syntactic analysis, Proceedings of the 54th Annual Meeting of the Association for Computational Linguistics, vol.1, pp.161-171, 2016.
URL : https://hal.archives-ouvertes.fr/hal-01808689

M. Constant and A. Sigogne, Mwu-aware part-of-speech tagging with a crf model and lexical resources, Proceedings of the Workshop on Multiword Expressions : from Parsing and Generation to the Real World, pp.49-56, 2011.
URL : https://hal.archives-ouvertes.fr/hal-00621585

M. Constant, A. Sigogne, and P. Et-watrin, Discriminative strategies to integrate multiword expression recognition and parsing, Proceedings of the 50th Annual Meeting of the Association for Computational Linguistics : Long Papers, vol.1, pp.204-212, 2012.
URL : https://hal.archives-ouvertes.fr/hal-00790613

M. Constant and I. Tellier, Evaluating the impact of external lexical resources into a crf-based multiword segmenter and part-of-speech tagger, 8th International Conference on Language Resources and Evaluation (LREC'12), pp.646-650, 2012.
URL : https://hal.archives-ouvertes.fr/hal-00790624

P. Cook, A. Fazly, and S. Et-stevenson, Pulling their weight : Exploiting syntactic forms for the automatic identification of idiomatic expressions in context, Proceedings of the workshop on a broader perspective on multiword expressions, pp.41-48, 2007.

P. Cook, A. Fazly, and S. Et-stevenson, The vnc-tokens dataset, Proceedings of the LREC Workshop Towards a Shared Task for Multiword Expressions (MWE 2008), pp.19-22, 2008.

B. Crabbé, An lr-inspired generalized lexicalized phrase structure parser, Proceedings of COLING 2014, the 25th International Conference on Computational Linguistics : Technical Papers, pp.541-552, 2014.

J. Devlin, M. Chang, K. Lee, and K. Et-toutanova, Bert : Pre-training of deep bidirectional transformers for language understanding, 2018.

M. T. Diab and P. Bhutada, Verb noun construction mwe token supervised classification, Proceedings of the Workshop on Multiword Expressions : Identification, Interpretation, Disambiguation and Applications, pp.17-22, 2009.

T. G. Dietterich, Approximate statistical tests for comparing supervised classification learning algorithms, Neural computation, vol.10, issue.7, pp.1895-1923, 1998.

T. G. Dietterich and G. Bakiri, Solving multiclass learning problems via error-correcting output codes, Journal of artificial intelligence research, vol.2, pp.263-286, 1994.

C. Dyer, A. Kuncoro, M. Ballesteros, and N. A. Smith, Recurrent neural network grammars, 2016.

S. Evert, The statistics of word cooccurrences : word pairs and collocations, 2005.

A. Fazly, P. Cook, and S. Et-stevenson, Unsupervised type and token identification of idiomatic expressions, Computational Linguistics, vol.35, issue.1, pp.61-103, 2009.

C. Fellbaum, La représentation des verbes dans le réseau sémantique" wordnet". Langages, pp.27-40, 1999.

M. L. Forcada, M. Ginestí-rosell, J. Nordfalk, J. O'regan, S. Ortiz-rojas et al., Apertium : a free/opensource platform for rule-based machine translation. Machine translation, vol.25, pp.127-144, 2011.

G. D. Forney, The viterbi algorithm, Proceedings of the IEEE, vol.61, issue.3, pp.268-278, 1973.

W. Gharbieh, V. Bhavsar, and P. Et-cook, Deep learning models for multiword expression identification, Proceedings of the 6th Joint Conference on Lexical and Computational Semantics (* SEM 2017), pp.54-64, 2017.

Y. Goldberg, A primer on neural network models for natural language processing, Journal of Artificial Intelligence Research, vol.57, pp.345-420, 2016.

Y. Goldberg, Neural network methods for natural language processing, Synthesis Lectures on Human Language Technologies, vol.10, issue.1, pp.1-309, 2017.

Y. Goldberg and O. Levy, word2vec explained : deriving mikolov et al.'s negative-sampling word-embedding method, 2014.

Y. Goldberg and J. Nivre, Training deterministic parsers with non-deterministic oracles, Transactions of the association for Computational Linguistics, vol.1, pp.403-414, 2013.

C. Gómez-rodríguez and J. Nivre, Divisible transition systems and multiplanar dependency parsing, Computational Linguistics, vol.39, issue.4, pp.799-845, 2013.

E. Grave, P. Bojanowski, P. Gupta, A. Joulin, and T. Et-mikolov, Learning word vectors for 157 languages, 2018.

G. Gross, les expressions figées. Ophrys, 1996.

M. Gross, The use of finite automata in the lexical representation of natural language, LITP Spring School on Theoretical Computer Science, pp.34-50, 1987.

C. Hashimoto and D. Kawahara, Construction of an idiom corpus and its application to idiom identification based on wsd incorporating idiom-specific features, Proceedings of the conference on empirical methods in natural language processing, pp.992-1001, 2008.

C. Hashimoto, S. Sato, and T. Et-utsuro, Japanese idiom recognition : Drawing a line between literal and idiomatic meanings, Proceedings of the COLING/ACL on Main conference poster sessions, pp.353-360, 2006.

K. Hashimoto, C. Xiong, Y. Tsuruoka, and R. Et-socher, A joint many-task model : Growing a neural network for multiple nlp tasks, 2016.

H. He, Y. Bai, E. A. Garcia, and S. Li, Adasyn : Adaptive synthetic sampling approach for imbalanced learning, IEEE International Joint Conference on Neural Networks (IEEE World Congress on Computational Intelligence), pp.1322-1328, 2008.

M. Henderson, B. Thomson, and S. Young, Deep neural network approach for the dialog state tracking challenge, Proceedings of the SIGDIAL 2013 Conference, pp.467-471, 2013.

F. Hill, A. Bordes, S. Chopra, and J. Et-weston, The goldilocks principle : Reading children's books with explicit memory representations, 2015.

L. Huang and K. Sagae, Dynamic programming for linear-time incremental parsing, Proceedings of the 48th Annual Meeting of the Association for Computational Linguistics, pp.1077-1086, 2010.

R. Jackendoff, The architecture of the language faculty. Number 28, 1997.

G. Katz and E. Giesbrecht, Automatic identification of non-compositional multi-word expressions using latent semantic analysis, Proceedings of the Workshop on Multiword Expressions : Identifying and Exploiting Underlying Properties, pp.12-19, 2006.

B. Keysar and B. Bly, Intuitions of the transparency of idioms : Can one keep a secret by spilling the beans ?, Journal of Memory and Language, vol.34, issue.1, pp.89-109, 1995.

E. Kiperwasser and Y. Goldberg, Simple and accurate dependency parsing using bidirectional lstm feature representations, 2016.

T. N. Kipf and M. Welling, Semi-supervised classification with graph convolutional networks, 2016.

A. Kirilin, F. Krauss, and Y. Et-versley, Icl-hd at semeval-2016 task 10 : Improving the detection of minimal semantic units and their meanings with an ontology and word embeddings, Proceedings of the 10th International Workshop on Semantic Evaluation (SemEval-2016), pp.937-945, 2016.

N. Klyueva, A. Doucet, and M. Et-straka, Neural networks for multi-word expression detection, Proceedings of the 13th Workshop on Multiword Expressions (MWE 2017), pp.60-65, 2017.

K. Koenraad, M. Heather, Q. Heidi, A. Therese, and K. Et, Said ldc2003t10. web download, vol.173, 2003.

A. Kulmizev, M. De-lhoneux, J. Gontrum, and E. Et-fano, Deep contextualized word embeddings in transition-based and graph-based dependency parsing -a tale of two parsers revisited, Proceedings of EMNLP, 2019.

A. Kulmizev, M. De-lhoneux, J. Gontrum, E. Fano, and J. Et-nivre, Deep contextualized word embeddings in transition-based and graph-based dependency parsing-a tale of two parsers revisited, 2019.

J. Legrand and R. Collobert, Phrase representations for multiword expressions, Proceedings of the 12th Workshop on Multiword Expressions, pp.67-71, 2016.

L. Li and C. Sporleder, Using gaussian mixture models to detect figurative language in context, Human Language Technologies : The 2010 Annual Conference of the North American Chapter of the Association for Computational Linguistics, pp.297-300, 2010.

W. Li, X. Zhang, C. Niu, Y. Jiang, and R. Et-srihari, An expert lexicon approach to identifying english phrasal verbs, Proceedings of the 41st Annual Meeting on Association for Computational Linguistics, vol.1, pp.513-520, 2003.

Y. Liu and Y. F. Zheng, One-against-all multi-class svm classification using reliability measures, Proceedings. 2005 IEEE International Joint Conference on Neural Networks, vol.2, pp.849-854, 2005.

X. Ma and E. Hovy, End-to-end sequence labeling via bi-directional lstm-cnns-crf, 2016.

X. Ma, Z. Hu, J. Liu, N. Peng, G. Neubig et al., Stack-pointer networks for dependency parsing, 2018.

A. Maldonado, L. Han, E. Moreau, A. Alsulaimani, K. D. Chowdhury et al., Detection of verbal multi-word expressions via conditional random fields with syntactic dependency features and semantic re-ranking, Proceedings of the 13th Workshop on Multiword Expressions(MWE 2017), pp.114-120, 2017.
URL : https://hal.archives-ouvertes.fr/hal-01520762

A. Maldonado-guerra and M. Emms, Measuring the compositionality of collocations via word co-occurrence vectors : Shared task system description, Proceedings of the Workshop on Distributional Semantics and Compositionality, pp.48-53, 2011.

T. Mikolov, K. Chen, G. Corrado, and J. Et-dean, Efficient estimation of word representations in vector space, 2013.

M. Mohri, Local grammar algorithms. Inquiries into Words, Constraints and Contexts, p.84, 2005.

E. Moreau, A. Alsulaimani, A. Maldonado, L. Han, C. Vogel et al., , 2018.

, Semantic reranking of crf label sequences for verbal multiword expression identification, Multiword expressions at length and in depth : Extended papers from the MWE 2017 workshop, vol.2, p.177

E. Moreau, A. Alsulaimani, A. Maldonado, and C. Vogel, Crf-seq and crf-deptree at parseme shared task 2018 : Detecting verbal mwes using sequential and dependency-based approaches, Joint Workshop on Linguistic Annotation, Multiword Expressions and Constructions, pp.241-247, 2018.
URL : https://hal.archives-ouvertes.fr/hal-01870583

T. Nagy, I. Vincze, and V. , Vpctagger : Detecting verb-particle constructions with syntaxbased methods, Proceedings of the 10th Workshop on Multiword Expressions (MWE), pp.17-25, 2014.

A. Nasr, C. Ramisch, J. Deulofeu, and A. Valli, Joint dependency parsing and multiword expression tokenization, Proceedings of the 53rd Annual Meeting of the Association for Computational Linguistics and the 7th International Joint Conference on Natural Language Processing, vol.1, pp.1116-1126, 2015.
URL : https://hal.archives-ouvertes.fr/hal-01199865

J. Nivre, An efficient algorithm for projective dependency parsing, 8th International Workshop on Parsing Technologies (IWPT), pp.149-160, 2003.

J. Nivre, Incrementality in deterministic dependency parsing, Proceedings of the Workshop on Incremental Parsing : Bringing Engineering and Cognition Together, pp.50-57, 2004.

J. Nivre, F. Keller, S. Clark, M. Crocker, and . Et-steedman, Incrementality in deterministic dependency parsing, Proceedings of the ACL Workshop Incremental Parsing : Bringing Engineering and Cognition Together, pp.50-57, 2004.

J. Nivre, Algorithms for deterministic incremental dependency parsing, Computational Linguistics, vol.34, issue.4, pp.513-553, 2008.

J. Nivre, Non-projective dependency parsing in expected linear time, Proceedings of the Joint Conference of the 47th Annual Meeting of the ACL and the 4th International Joint Conference on Natural Language Processing of the AFNLP, vol.1, pp.351-359, 2009.

C. Pasquer, C. Ramisch, A. Savary, and J. Et-antoine, Varide at parseme shared task 2018 : Are variants really as alike as two peas in a pod ?, COLING Workshop on Linguistic Annotation, Multiword Expressions and Constructions, 2018.
URL : https://hal.archives-ouvertes.fr/hal-01866364

S. Paumier, T. Nakamura, and S. Et-voyatzi, Unitex, a corpus processing system with multi-lingual linguistic resources. eLEX2009, p.173, 2009.
URL : https://hal.archives-ouvertes.fr/hal-00621564

M. E. Peters, M. Neumann, M. Iyyer, M. Gardner, C. Clark et al., Deep contextualized word representations, Proc. of NAACL, 2018.

S. Petrov, D. Das, and R. Et-mcdonald, A universal part-of-speech tagset, 2011.

Q. Zadeh, B. Kallmeyer, and L. , Random positive-only projections : Ppmi-enabled incremental semantic space construction, Proceedings of the Fifth Joint Conference on Lexical and Computational Semantics, pp.189-198, 2016.

T. Rama, Supertagging : Introduction, learning, and application, 2014.

C. Ramisch, Multiword expressions acquisition. A Generic and Open Framework, 2015.
URL : https://hal.archives-ouvertes.fr/hal-01199863

C. Ramisch, S. Cordeiro, A. Savary, V. Vincze, V. Mititelu et al., Edition 1.1 of the parseme shared task on automatic identification of verbal multiword expressions, the Joint Workshop on Linguistic Annotation, Multiword Expressions and Constructions, pp.222-240, 2018.
URL : https://hal.archives-ouvertes.fr/hal-02152557

L. A. Ramshaw and M. P. Marcus, Text chunking using transformation-based learning, Natural language processing using very large corpora, pp.157-176, 1999.

M. Rikters and O. Bojar, Paying attention to multi-word expressions in neural machine translation, 2017.

O. Rohanian, S. Taslimipoor, S. Kouchaki, L. A. Ha, and R. Et-mitkov, Bridging the gap : Attending to discontinuity in identification of multiword expressions, 2019.

S. Ruder, An overview of multi-task learning in, deep neural networks, 2017.

I. A. Sag, T. Baldwin, F. Bond, A. Copestake, and D. Flickinger, Multiword expressions : A pain in the neck for nlp, International Conference on Intelligent Text Processing and Computational Linguistics, pp.1-15, 2002.

G. Salton, R. J. Ross, and J. Kelleher, Idiom token classification using sentential distributed semantics, 2016.

A. Savary, M. Candito, V. B. Mititelu, E. Bej?ek, F. Cap et al., PARSEME multilingual corpus of verbal multiword expressions, Multiword expressions at length and in depth : Extended papers from the MWE 2017 workshop, pp.87-147, 2018.
URL : https://hal.archives-ouvertes.fr/hal-01917174

A. Savary, S. Cordeiro, and C. Et-ramisch, Without lexicons, multiword expression identification will never fly : A position statement, Proceedings of the Joint Workshop on Multiword Expressions and WordNet (MWE-WN 2019), pp.79-91, 2019.
URL : https://hal.archives-ouvertes.fr/hal-02383129

A. Savary, C. Ramisch, S. Cordeiro, F. Sangati, V. Vincze et al., The parseme shared task on automatic identification of verbal multiword expressions, 2017.
URL : https://hal.archives-ouvertes.fr/hal-01865575

N. Schneider, E. Danchik, C. Dyer, and N. A. Smith, Discriminative lexical semantic segmentation with gaps : running the mwe gamut, Transactions of the Association for Computational Linguistics, vol.2, pp.193-206, 2014.

N. Schneider, D. Hovy, A. Johannsen, and M. Et-carpuat, Semeval-2016 task 10 : Detecting minimal semantic units and their meanings (dimsum), Proceedings of the 10th International Workshop on Semantic Evaluation (SemEval-2016), pp.546-559, 2016.

N. Schneider, S. Onuffer, N. Kazour, E. Danchik, M. T. Mordowanec et al., Comprehensive annotation of multiword expressions in a social web corpus, Proc. ofLREC, pp.455-461, 2014.

H. Schütze, Automatic word sense discrimination, Computational linguistics, vol.24, issue.1, pp.97-123, 1998.

D. Seddah, R. Tsarfaty, S. Kübler, M. Candito, J. Choi et al., Overview of the spmrl 2013 shared task : crossframework evaluation of parsing morphologically rich languages, 2013.
URL : https://hal.archives-ouvertes.fr/hal-00877096

V. Seretan, Syntax-based collocation extraction. Text, Speech and Language Technology, 2011.

K. I. Simkó, V. Kovács, and V. Et-vincze, Uszeged : Identifying verbal multiword expressions with pos tagging and parsing techniques, Proceedings of the 13th Workshop on Multiword Expressions (MWE 2017), pp.48-53, 2017.

R. K. Srivastava, K. Greff, and J. Et-schmidhuber, Highway networks, 2015.

R. Stodden, B. Qasemizadeh, and L. Et-kallmeyer, Trapacc and trapaccs at parseme shared task 2018 : Neural transition tagging of verbal multiword expressions, Proceedings of the Joint Workshop on Linguistic Annotation, Multiword Expressions and Constructions, pp.268-274, 2018.

M. Straka and J. Straková, Tokenizing, pos tagging, lemmatizing and parsing ud 2.0 with udpipe, Proceedings of the CoNLL 2017 Shared Task : Multilingual Parsing from Raw Text to Universal Dependencies, pp.88-99, 2017.

S. Taslimipoor and O. Et-rohanian, Shoma at parseme shared task on automatic identification of vmwes : Neural multiword expression tagging with high generalisation, 2018.

S. Taslimipoor and O. Rohanian, Cross-lingual transfer learning and multitask learning for capturing multiword expressions, Proceedings of the Joint Workshop on Multiword Expressions and WordNet (MWE-WN 2019), pp.155-161, 2019.

K. M. Ting and I. H. Et-witten, Issues in stacked generalization, Journal of artificial intelligence research, vol.10, pp.271-289, 1999.

L. Torrey and J. Shavlik, Transfer learning, Handbook of research on machine learning applications and trends : algorithms, methods, and techniques, pp.242-264, 2010.

Y. Tu, English complex verb constructions : identification and inference, 2012.

A. Vaswani, N. Shazeer, N. Parmar, J. Uszkoreit, L. Jones et al., Attention is all you need, Advances in neural information processing systems, pp.5998-6008, 2017.

V. Vincze, J. Zsibrita, T. Et-nagy, and I. , Dependency parsing for identifying hungarian light verb constructions, Proceedings of the Sixth International Joint Conference on Natural Language Processing, pp.207-215, 2013.

J. Waszczuk, Traversal at parseme shared task 2018 : Identification of verbal multiword expressions using a discriminative tree-structured model, Proceedings of the Joint Workshop on Linguistic Annotation, Multiword Expressions and Constructions, pp.275-282, 2018.
URL : https://hal.archives-ouvertes.fr/hal-01835548

D. Weiss, C. Alberti, M. Collins, and S. Et-petrov, Structured training for neural network transition-based parsing, 2015.

J. G. White, Cambridge International Dictionary of Idioms, 1998.

H. Yamada and Y. Matsumoto, Statistical Dependency Analysis with Support Vector machines, The 8th International Workshop of Parsing Technologies (IWPT2003), pp.195-206, 2003.

N. Zampieri, C. Ramisch, and G. Et-damnati, The impact of word representations on sequential neural mwe identification, Proceedings of the Joint Workshop on Multiword Expressions and WordNet (MWE-WN 2019), pp.169-175, 2019.
URL : https://hal.archives-ouvertes.fr/hal-02318287

Y. Zhang and J. Nivre, Transition-based dependency parsing with rich non-local features, Proceedings of the 49th Annual Meeting of the Association for Computational Linguistics : Human Language Technologies, pp.188-193, 2011.

Y. Zhang and J. Nivre, Transition-based dependency parsing with rich non-local features, Proceedings of the 49th Annual Meeting of the Association for Computational Linguistics : Human Language Technologies, pp.188-193, 2011.

Y. Zhang and D. Weiss, Stack-propagation : Improved representation learning for syntax, 2016.