Cette thèse de doctorat porte sur l'étude d'effets optiques non linéaires d’ordres 2 et 3 dans des nanofibres optiques de silice qui sont des fibres optiques étirées jusqu'à atteindre des diamètres de l'ordre de la longueur d'onde.La première application étudiée est la réalisation de convertisseurs de longueur d’onde dans le visible en régime sub-nanoseconde, domaine peu couvert par les sources impulsionnelles actuelles. Le principe de ces convertisseurs repose sur la diffusion Raman stimulée dans le champ évanescent d’une nanofibre optique de silice baignée dans un liquide. En définissant et optimisant leur domaine de fonctionnement, nous avons atteint des efficacités de conversion externes de l'onde de pompe à 532 nm vers le premier ordre Stokes de l'éthanol à 630 nm proches de 60%. Les performances de nos convertisseurs sont très répétables et ouvrent la voie à une nouvelle famille de convertisseurs de longueur d'onde très compacts, efficaces, fiables et entièrement fibrés.La seconde application visée concerne l'étude d'une source de paires de photons corrélés émettant autour de 1,5 μm pour les télécommunications quantiques. Notre source est basée sur le mécanisme de fluorescence paramétrique à la surface d’une nanofibre optique de silice. Dans l'accord de phase modal étudié, l'onde de pompe est émise sur le mode TM01 à 775 nm et les paires de photons corrélés sont générées autour de 1,5 microm sur le mode fondamental HE11, avec l'avantage de pouvoir se recoupler avec un minimum de pertes dans un réseau fibré. Nos études ont principalement porté sur le choix de la fibre standard permettant d'optimiser l'efficacité du mécanisme, la conception de la nanofibre et de ses tapers ainsi que la mise en place d'expériences préliminaires pour l'excitation de modes d'ordre supérieur.