Il passa la plus grande partie de son existence dans le Béarn et le Pays basque, région qui sera le cadre de sa littérature.  

Ses premières compositions poétiques furent connues des milieux littéraires parisiens vers 1895. Ce fut une bouffée de fraîcheur dans la préciosité symboliste. Il se lia notamment avec Gide, puis plus tard avec Claudel.  

De l’angélus de l’aube à l’angélus du soir, son plus fameux recueil, parut au Mercure de France en 1897. Le Deuil des Primevères (1901) est son autre livre important.  

1905 vit sa conversion au catholicisme.