Beaucoup de confusion règne sur l'histoire de ce bateau, voire sur son nom, mais il semble que le terme soit apparu entre la fin du 19e et le début du 20e siècle. Ses origines géographiques se situent quelque part entre la basse vallée du Mississippi et la région des Ozarks, une zone qui s'étend aujourd'hui sur quatre États différents et qui est réputée pour ses eaux calmes.
À l'époque, Charles Hallock, rédacteur en chef de Field and Stream, définit cette embarcation comme "un bateau à fond plat destiné à la navigation en eaux peu profondes et capable de transporter un pêcheur ou un chasseur, son équipement et son chien"
Quelque part entre le Mississippi et les Ozarks
Grâce à la pureté de ses eaux, la région des Ozark a longtemps été considérée comme une destination de vacances idéale pour les citadins américains qui venaient pêcher, chasser le canard ou simplement profiter de l'air frais. Au fil du temps, l'abondance de poissons a accru l'intérêt pour la pêche, et donc la popularité du Jon boat. Les Jon boat sont alors utilisés pour transporter les touristes et pour pêcher sur les cours d'eau de la région. Avec le temps, le nom est même devenu "Jon boat (ou johnboat) of the Ozark".
Au départ, il s'agissait de bateaux en bois assez primitifs qui fuyaient. Pour y remédier, certains propriétaires immergeaient leur bateau lorsqu'ils ne l'utilisaient pas afin de laisser gonfler le bois pour le rendre plus étanche. Une autre particularité était d'allumer un feu de bois au milieu du bateau, ou des torches pour la pêche de nuit.
Une autre activité associée aux Jon boats est la pêche aux moules d'eau douce, qui a débuté sur une base commerciale entre 1890 et 1900 et qui a également popularisé le bateau.
Au fil du temps, les bateaux se sont modernisés, le bois faisant place au métal, puis à l'aluminium, à la fibre de verre ou au polypropylène. Les coques, tout en restant plates ou presque, se sont améliorées et l'intérieur de certains modèles intègre désormais des équipements, même si l'idée est toujours de garder le bateau le plus simple possible.