Militant anarcho-syndicaliste de Dijon (Côte-d’Or), Georges Joly s’opposa fréquemment au socialiste Henri Barabant avant la scission de la Bourse du Travail de 1907. Il conduisit l’action antimilitariste et se proposait, en 1905, de fonder Le Pioupiou de la Côte-d’Or, journal antimilitariste destiné aux conscrits. A l’automne 1905 il était le secrétaire de la section de l’Association internationale antimilitariste (AIA) qui comptait une soixantaine de membres et s’était solidarisé avec les inculpés de l’Affiche rouge Aux Conscrits.
Joly subit deux condamnations : six mois de prison avec sursis pour « excitation au meurtre et au pillage », le 1er mai 1906, puis 50 f d’amende « pour outrage à agent ».