Comme son frère aîné Claudius, Henri Paris fréquentait les milieux anarchistes au début des années 1890 et notamment les frères Condom de la Jeunesse antipatriote.

Est-ce lui ou son frère qui, fin mars 1892, avait demandé à être remplacé comme diffuseur de la presse anarchiste dont il était dépositaire, jugeant que c’était « trop fatiguant et trop peu lucratif » et après avoir été l’objet de reproches de la part du journal La Révolte ?. Il aurait été remplacé notamment par Puillet ou Desgranges.

Le 27 mars 1894 il était parti avec le compagnon Dénard pour Genève où ils furent arrêtés pour « vagabondage » dès leur arrivé et furent reconduits à la frontière. Il fut l’objet de nombreuses arrestations – essentiellement pour vagabondage et vols – entre 1892 et 1895.

Arrêté une nouvelle fois le 21 décembre 1896 sous l’inculpation d’agression nocturne, suivie de vol, il fut condamné le 18 février 1897 à 3 ans de prison. Lors de son interrogatoire il avait refusé d’être qualifié « d’anarchiste », n’assistant plus aux réunions publiques, ce qui était exact.

Henri Paris s’est marié à Paris (5e arr.) le 5 septembre 1908.