Fils de père inconnu et de Margerite Stoll originaire de Weisenstazdt en Bavière, Gustave Stoll s’était fait remarquer en 1890 « dans les réunions publiques organisées à Genève par les anarchistesWeill, Galleani, Stoïanoff et Petraroja, etc. expulsés de la Confédération suisse et en société desquels il était constamment. ». Il fréquentait également Moise Ardaine. Craignant d’être expulsé à son tour, Stoll avait alors gagné Thonon (Haute-Savoie) puis Paris.
Il s’agit sans doute du Stoll qui au début des années 1890 avait demeuré à Paris 31 rue de la Harpe, était signalé comme "exalté", et qui avait été recherché en mars 1892 lors des rafles ayant suivies l’attentat de Ravachol.
Il figurait fin 1894 sur l’État signalétique confidentiel des anarchistes étrangers non expulsés résidant hors de France