bien que les origines de la chanson soient obscures, certaines preuves situent ses racines dans le vaudeville et les actes de théâtre de la fin du 19e siècle et du début du 20e siècle populaires dans les communautés immigrantes. Certains actes de vaudeville de l’époque, tels que le travail de Joe Weber et de Lew Fields, ont souvent donné la parole aux frustrations partagées des immigrants germano-américains et se sont fortement appuyés sur les malapropismes et les difficultés avec la langue anglaise comme véhicule de leur humour., « John Jacob Jingleheimer Schmidt » partage de nombreuses caractéristiques avec » My Name Is Jan Jansen », une chanson qui peut remonter au vaudeville suédois à la fin du 19ème siècle.
la chanson semble être déjà devenue largement connue au milieu du XXe siècle. Il a reçu un coup de pouce important lorsqu’il a été diffusé dans tout le pays lors de rassemblements de troupes scoutes à la fin des années 1920 et au début des années 1930., En 1926, le journal The Times de Munster, dans l’Indiana, a imprimé que, lors d’une sortie scoute, les scouts étaient assis autour d’un feu de camp et « il a été solennellement annoncé que John Jacob Jingleheimer Smith, après une longue et utile vie, était mort de surmenage sur le chemin de Whiting. Il a été enterré avec la cérémonie due et son fantôme ne doit pas être vu avant octobre premier. Toutes les chansons préférées du camp ont été chantées. »En 1927, le Portsmouth Daily Times a rapporté qu’un groupe de garçons du camp YMCA de l’État a chanté plusieurs chansons de camp, y compris « John Jacob Jingleheimer Schmidt., »En 1931, Elmira, New York Journal The Star-Gazette a rapporté que lors d’un rassemblement de scouts à Seneca Lake, alors que les scouts entraient dans le mess hall, « la troupe 18 a rapidement fait irruption dans la première chanson du camp, « John Jacob Jingleheimer Smith ». »Un article du Milwaukee Journal de 1941 fait également référence à la chanson, avec le même titre alternatif de » John Jacob Jingleheimer Smith. »
La chanson est indéfiniment répétitif, d’une manière analogue à « La Chanson Qui n’en Finit pas », « Mon Nom Est Jan Jansen » ou « Michael Finnegan., »
des Versions de la chanson apparaissent dans d’autres langues, telles que L’interprétation espagnole, » Juan Paco Pedro de la Mar. »