Über die Enstehung dieses Namens gibt es unterschiedliche Theorien. Manche sagen, dass er von dem französischen Ausdruck joli rouge (schönes Rot) abgeleitet ist. Das ist durchaus möglich, denn viele Piraten hissten eine rote Fahne anstelle der bekannteren schwarz-weißen Totenkopfflagge. Die Matrosen fürchteten den Anblick einer roten Flagge wie den Teufel, denn sie kündigte ein blutiges Gemetzel an, in dem kein Pardon gegeben wurde.

Andere vermuteten, dass der Name von dem englischen Wort "roger" kommen könnte - so nannte man Landstreicher und Vagabunden. Außerdem war "Old Roger" ein verbreiteter Name für den Teufel. Eine neuere Vorstellung ist die, dass Jolly Roger etwas mit den Tempelrittern zu tun haben könnte, dem berühmten mittelalterlichen Militätorden. Als der Orden im Jahre 1312 von Papst Klemens V. wegen angeblicher Ketzerei aufgelöst wurde, wandten die Tempelritter sich dem Piratenleben zu und führten von nun an das Symbol der gefreutzten Knochen auf rotem Hintergrund in ihrer Fahne.