Ces dernières décennies, les couches minces de semiconducteurs nitrures III-V dopés avec des terres rares ont fait l'objet d'un intérêt grandissant et ont donné lieu à de nombreuses études. En raison de leur bande interdite directe, les nitrures III-V constituent des matrices hôtes adéquates permettant la luminescence des terres rares (TR). Ainsi, en combinant les propriétés des III-V et des TR, il est possible d'envisager des applications prometteuses dans le domaine optoélectronique. Dans cette étude, l'erbium (Er) a été choisi en raison de son émission de photons à la fois dans le visible et dans l'infrarouge. Dans ce travail, les films minces d'AlN dopé à l'Er ont été élaborés avec un réacteur expérimental de pulvérisation cathodique réactive magnétron radiofréquence. Pendant le dépôt, une polarisation négative appliquée sur le substrat a permis d'obtenir des films présentant différents types de morphologies cristallines, qui ont été étudiés par diverses techniques de caractérisation telles que l'AFM, les DRX, l'ellipsométrie, le MEB, le MET. Les propriétés de luminescence des films ont été examinées expérimentalement et à l'aide d'un modèle de simulation optique par spectroscopie de photoluminescence (excitation lumineuse). Des mesures expérimentales par spectroscopie de cathodoluminescence (excitation électronique) ont également été réalisées. Le but de cette thèse était d'optimiser le procédé d'élaboration et le matériau et de mieux comprendre l'influence de la morphologie cristalline de la matrice AlN sur l'efficacité de luminescence de l'erbium. L'AlN-Er représente un système modèle et les résultats obtenus pourront être étendus aux autres TR