Uit armoede verhuisden zijn ouders van Gent naar Rijsel, waar hij op zeer jonge leeftijd in de lokomotieffabriek Fives werkte. Via avondonderwijs werd hij modeltekenaar voor hout. Daarnaast werd dirigent hij van een arbeiderskoor en componeerde.

Zo schreef hij de de muziek van de "Internationale" op een gedicht van de communard Eugène Pottier .

Omdat hij enkel met zijn naam ondertekende betwistte zijn broer de auteursrechten, maar ook de socialistische partij claimde deze auteursrechten.Net voor zijn zelfmoord schreef de broer van Pierre een brief waarin hij aangaf nooit muziek te hebben geschreven.

Intussen was Pierre ontslagen en verhuisde hij noodgedwongen naar St Denis om daar als lantaarnaansteker te werken voor de gemeente. Net voor zijn dood werd hij naar de Sovjet-Unie uitgenodigd en kreeg hij een klein pensioen als vergoeding.De gemeente St Denis stelde hem gratis een woning beschikbaar.