chociaż pochodzenie utworu jest niejasne, niektóre dowody wskazują na jego korzenie z wodewil i aktów teatralnych z końca 19 wieku i początku 20 wieku popularne w społecznościach imigrantów. Niektóre akty wodewilu w epoce, takie jak Praca Joe Webera i Lew Fields, często dawały głos wspólnej frustracji niemiecko-amerykańskich imigrantów i mocno opierały się na malapropizmach i trudnościach z językiem angielskim jako nośnikiem ich humoru., „John Jacob Jingleheimer Schmidt” dzieli wiele cech z „My Name Is Jan Jansen”, piosenką, która może prześledzić swoje pochodzenie ze szwedzkiego wodewilu pod koniec XIX wieku.

piosenka wydaje się być już powszechnie znana w połowie XX wieku. Na przełomie lat 20.i 30. XX wieku został rozpowszechniony w całym kraju podczas zjazdów harcerskich., W 1926 roku gazeta „The Times” z Munster w stanie Indiana drukowała, że podczas Harcerskiej wycieczki skautki siedziały wokół ogniska i ” uroczyście ogłoszono, że John Jacob Jingleheimer Smith po długim i użytecznym życiu zmarł z przepracowania w drodze do Whiting. Został pochowany z należytą ceremonią, a jego ducha można zobaczyć dopiero w październiku. Wszystkie ulubione piosenki obozowe były śpiewane.”W 1927 roku Portsmouth Daily Times doniósł, że grupa chłopców z państwowego obozu YMCA zaśpiewała kilka piosenek obozowych, w tym” John Jacob Jingleheimer Schmidt.,”W 1931 roku Nowojorska gazeta” The Star-Gazette ” donosiła, że podczas zebrania skautów nad jeziorem Seneca, gdy skauci wchodzili do mesy, „Oddział 18 wkręcił się w pierwszą piosenkę obozową, „John Jacob Jingleheimer Smith”.”Artykuł z Milwaukee Journal z 1941 roku również odnosi się do piosenki, z tym samym alternatywnym tytułem” John Jacob Jingleheimer Smith.”

piosenka jest nieskończenie powtarzalna, podobnie jak” The Song That Never Ends”,” My Name Is Jan Jansen „czy” Michael Finnegan.,”

wersje piosenki pojawiają się w innych językach, np. w hiszpańskim wykonaniu „Juan Paco Pedro de la Mar.”