En 1919 et 1921, Ollivier Mathieu (orthographié également Mahieu) qui appartenait aux Jeunesses syndicalistes de Brest, fut gérant de leur journal Le Cri des Jeunesses syndicalistes à partir de juillet 1921, remplaçant Jean Le Gall, arrêté. Il le demeura jusqu’en janvier 1922. Il reprit ce poste en avril-mai 1922 jusqu’en juillet.
Lors de la campagne de soutien à Émile Cottin, auteur d’un attentat contre Clémenceau, il écrivit un article en sa faveur dans Le Cri des Jeunes syndicalistes. Traduit devant le Tribunal correctionnel de Brest, il fut condamné le 24 octobre 1922 à 6 mois de prison. Lors du même procès et pour avoir distribué des tracts et une brochure de l’Union anarchiste soutenant Cottin, avaient été condamnés Alexandre Goavec (3 mois), Jules Kerebel (2 mois) et Yves Kerdraon (1 mois).

En 1923 et 1924, Mathieu appartenait toujours aux Jeunesses syndicalistes de Brest et écrivait dans leur journal.

En 1935 il demeurait 33 rue Kérivin à Brest et figurait sur l’État des anarchistes du Finistère.