Le niobate de lithium LiNbO3 (LN) est un excellent matériau pour diverses applications en raison de ses propriétés photoréfractives (PR). Un des enjeux de recherche de ce matériau consiste à réaliser des guides optiques PR performants pour l'optique intégrée. L'objectif de la thèse consiste à déterminer les conditions optimales de réalisation de la diffusion du fer (Fe) dans le LN, par le contrôle de sa microstructure et l'estimation de ses propriétés PR par une seule et même technique, la spectroscopie Raman.Plusieurs échantillons LN:Fe ont été étudiés lors de ce travail. Il s'agit entre autres de contrôler le profil de diffusion du fer, et d'estimer l'influence du traitement oxydant ou réducteur sur les différents cristaux.En effet j'ai pu montrer que la microstructure était modifiée non seulement par l'introduction d'un dopant comme Fe, mais aussi par les divers traitements. J'ai aussi mis en évidence pour la première fois le mécanisme de l'incorporation des ions Fe dans des structures de LN obtenues par diffusion.Par ailleurs, j'ai proposé une nouvelle approche des règles d'activité Raman, qui ainsi peuvent prendre en compte des non linéarités optiques du second ordre, ce qui est en général négligé dans la littérature. J'ai ainsi établi les configurations Raman dans lesquelles, soit les intensités de raies sont amplifiées, soit de nouvelles raies sont activées par un processus non linéaire. Ces prédictions ont été confirmées par des résultats expérimentaux obtenus sur plusieurs échantillons. Enfin, j'ai pu proposer une nouvelle méthode d'estimation de l'efficacité PR permettant de comparer utilement divers échantillons selon leur dopage ou traitement.