En 1901, Jacques Rougier était adhérent au syndicat des ouvriers gantiers de Saint-Junien (Haute-Vienne).
Au mois de mai, il fit voter la grève chez un patron gantier. Quelques mois plus tard, à son initiative, on nomma une commission chargée de propagande syndicale à domicile chez les non-syndiqués. En décembre de la même année, il fut élu, en compagnie de Pierre Chaillat, au bureau du syndicat, marquant le début de l’ascension des militants anarchistes dans le mouvement ouvrier saint-juniaud. Dans les grèves, il se répandait en discours ardents, commencés en langue française et se terminant souvent en patois.
Lors de la grève de la ganterie du Goth, entre décembre 1901 et février 1902, Jacques Rougier se fit l’apôtre de l’action la plus dure, enjoignant aux grévistes de « corriger par tous les moyens » les éventuels « renégats » qui voudraient reprendre le travail. Lors d’une nouvelle grève, en décembre 1902, il réitéra : « Aucun ouvrier ne devra détenir du travail et travailler […], si des renégats tentent de réintégrer l’atelier, il faudra leur extirper les yeux. »
Entre-temps, il avait adhéré au groupe libertaire Germinal, formé en juin 1902, et qui allait dominer le mouvement ouvrier saint-juniaud jusqu’en 1908 (voir Jean Bourgoin).
En 1904, il occupait le poste de vérificateur au syndicat des gantiers. En août, il contribua à impulser la Jeunesse syndicaliste (JS), certes sous la « tutelle » des syndicats, mais arborant le drapeau noir, et qui amena le mouvement ouvrier saint-juniaud au syndicalisme révolutionnaire et à la CGT (voir Bourgoin).
En 1907, il était administrateur de la coopérative de consommation L’Union syndicale ouvrière. En octobre de cette année, avec Jean Bourgoin, il alla porter la contradiction dans un meeting du socialiste Marcel Cachin.
En 1908, les anarchistes perdirent le contrôle du mouvement syndical au profit des socialistes. Ils regagnèrent en influence pendant la Grande Guerre. Dès 1915, mais surtout en 1916, le syndicat des Cuirs et Peaux, ayant à sa tête Jacques Rougier, Pierre Chaillat, Léon Dutheil et le socialiste Joseph Lasvergnas, impulsèrent des mouvements revendicatifs. A la fin de la guerre, le secrétaire du syndicat et de l’union locale CGT était de nouveau un libertaire, Louis Gaillard.