词作者是日本博物学家鸟山启（1837—1914），1893年他的《军舰》一歌被收录入日本小学教材《小学校唱歌》。原曲作者为山田源一郎，是三拍子的歌曲。当今的曲谱作于1897年（重新谱曲），是二拍子、大调音阶的《军舰之歌》，作者是横须贺海军乐队兵曹长濑户口藤吉（Toukichi Setoguchi，1868—1941，后来成为日本海军军乐队长）。
1900年，此曲又作了较大修改，在中段加入了东仪秀芳作于1880年的海军仪式歌《海ゆかば》（《海行》，歌词为《万叶集》里的古文，与信时洁 1937年的同名作品旋律不同）作为副歌，成为今日的《军舰行进曲》。今天这首歌的旋律是日本岩手县立盛冈第一高等学校的校歌。
当初为降B大调，但由于太过高音难以唱出所以编成G大调，而在大正时代末期再改订为F大调，即如今的版本。
在海军修订演奏的同时，陆军仍长时间使用由海军提供的旧乐谱，即使同时期但海军与陆军的演奏录音亦有所差异。同时，由于有不少乐谱是出自昭和初期开始流行电器录音的时民间军乐团，因此依然使用旧乐谱的演奏亦不少。
由于Polydor唱片、海军省有所变迁以及后来海军省的废止令本曲著作权消失。
为日本海上自卫队的指定礼仪曲通达，基于以下场合成为制定的演奏事项：
1、观阅式中观阅进行的场合；
2、自卫舰旗授与式中乘组员登舰的场合；
3、自卫舰命名式中下水的场合；
4、其他被认为必要的场合。
◇作词：鸟山 启
◇作曲：濑户口藤吉（词、曲著作权已消失）
军舰进行曲
日语原文1.上段：守るも攻めるも黒鉄（くろがね）の
浮かべる城ぞ頼みなる
浮かべるその城日の本の
皇国（みくに）の四方（よも）を守るべし
真鉄（まがね）のその舰（ふね）日の本に
仇なす国を攻めよかし
2.中段：海行かば
水渍（みづ）く屍（かばね）
山行かば
草生（くさむ）す屍
大君（おおきみ）の
辺（へ）にこそ
死なめ
长闲（のど）には
死なじ
3.下段：石炭（いわき）の烟は大洋（わだつみ）の
竜（たつ）かとばかり靡（なび）くなり
弾撃つ响きは雷（いかづち）の
声かとばかり响（どよ）むなり
万里の波涛（はとう）を乗り越えて
皇国（みくに）の光辉かせ
注：1.曾于明治四十三年（1910年）改作；
2.有时加上
“海行かば”
的歌词演唱。日语罗马音ma mo ru mo se me ru mo ku ro ga ne no
军舰进行曲
u ka be ru shi ro zo ta no mi na ru
u ka be ru so no shi ro hi no mo to no
mi ku ni no yo mo o ma mo ru be shi
ma ga ne no so no fu ne hi no mo to ni
a da na su ku ni o se me yo ka shi
i wa ki no ke mu ri wa wa da tsu mi no
ta tsu ka to ba ka ri na bi ku na ri
ta ma u tsu hi bi ki wa i ka dzu chi no
ko e ka to ba ka ri do yo mu na ri
ban ri no ha tō o no ri ko e te
mi ku ni no hi ka ri ka ga ya ka se
中文译文1.上段：
??攻守兼备的灰黑色铜墙钢铁壁
??是可信赖水上钢铁堡垒
日本帝国太平洋上坚固要塞
守护皇国四面八方，所向披靡
日本无敌联合舰队钢铁军舰
攻敌时无不克，作战时无不胜
2.中段：
??走向大海
??尸随浪花浮海面
??踏过高山
??身自凋零没野草
??吾为君亡
??死而无憾
3.下段：
??太平洋上煤炭燃烧黑浓烟翻滚
随风飘，与巨龙一起飞翔
舷侧重炮齐声巨响，威震太平洋
如雷灌耳突如电闪，势如破万竹
跨万里之波涛
布国威于四方
版本2
??防守，进攻！万能的钢铁堡垒啊！
??诚恳的拜托您，我漂浮的城堡！
??漂浮的城堡啊，捍卫这个樱花国度的四方吧！
??进攻！向仇视大日本的国度！
??你是那无坚不摧真正铁的战舰！
??煤烟就是那大海上摇曳的巨龙！
??火炮的巨响是风暴中唯一的惊雷！
??战舰掠过那万里波涛，
??帝国的光芒闪耀永远！
自2002年起，网络上开始流传一种说法，即《军舰进行曲》为日本海军借用《慕尼黑军校校歌》的曲调，重新填词而成。这种说法被提出后，陆续有一些原本素不相识的军事爱好者，在论坛上表示肯定这种说法，一时使得《军舰进行曲》的来源变得扑朔迷离。
时间跨入近代后，东方文明接触西洋音乐，因东西方音乐制式存在极大不同（宫商角徵羽vs哆来咪发唆），因而在19世纪~20世纪初的一段时间，东方国家缺少能创作西洋音乐的作曲家，尤其在军队领域，常常借用西方进行曲，充作自己的军歌（如《两只老虎》）。这一事实的存在，使得“《军舰进行曲》借鉴《慕尼黑军校校歌》”的说法在理论背景上看似是合理的。
但经过细心的爱好者考据考证，已经证伪了这一说法。
首先是对所谓的“德国慕尼黑军校”的考证。无论在原德国，或是冷战后的西德，都不存在一个叫“慕尼黑军校”的学校。一般认为最近似于“德国慕尼黑军校”的学校，是今天的“慕尼黑工程兵学校及陆军建筑技术专科学校”，校址在德国慕尼黑。但是，该校现校歌以及历史上曾使用过的校歌，曲调都与《军舰进行曲》毫无关联。
其次，音乐爱好者找到了根本性的、极其有力的证据——谬误的原出处。香港新星唱片公司，一家不算太知名的唱片公司，1995年发行了一盘音乐磁带：“《发烧音效——效果音乐》”。该磁带选用了《军舰进行曲》，但可能是为了在大陆销售的缘故，将其名字错误地写为《慕尼黑军校校歌》，并为本曲配上了坦克轰鸣声和履带碾压的咔嚓声等等特效。2000年，新星唱片公司又将该音乐专辑转录成光盘CD再次出版，《军舰进行曲》的名字依然错误地写为《慕尼黑军校校歌》。以上两套音乐专辑均曾在中国大陆销售，这就是为什么网络上会有若干素不相识的、分布在全国各地的网友，一齐指认“《军舰进行曲》就是《慕尼黑军校校歌》”。
从音乐的角度分析，《军舰进行曲》虽然是典型的进行曲——节奏以及音准都符合西方军乐的标准，但从曲调风格来品味，它还是具有浓郁的日式风格，且与江户时代以来的日本音乐有音乐的关联。
由于军史爱好者往往在音乐素养方面不是太高，因此在军歌领域，类似这种事情，张冠李戴的也不少，比如“the mass” “苏维埃进行曲”。
CD
《永久保存盤 军舰マーチのすべて》（キングレコード、1998/04/24发售）
乐谱
1.《军舰进行曲》吹奏乐版（三户知章?濑户口晃 编曲）（共同音乐出版社、绝版）
2.《军舰进行曲》吹奏乐版（和田直也 编曲）（[美国]TRN Music ）
《军舰进行曲》在今日不常被使用，但在战后长时间成为弹珠机店特定的背景音乐。在日本动画《乌龙派出所》中每当主角-不良警官两津勘吉翘班跑去打弹珠机时均用本曲做为背景音乐。
在1969年日本彩色电影《啊！海军》中作为片头音乐、毕业生离校时奏乐。
1983年（昭和58年）时日本首相中曾根康弘访美之际，中曾根因在原日本帝国海军以少佐出身而被美国海军军乐队演奏本曲以作欢迎。
岩手县立盛冈第一高等学校的校歌，其旋律与进行曲“军舰”相同。在旧制盛冈中学校时代，同校为宫泽贤治与石川啄木等文化人及米内光政与及川古志郎等海军军人辈出，在昭和43年（1968年）日本第50回全国高校野球选手权大会中击败了德岛县代表鸭岛商业高等学校，因而阪神甲子园球场播放了《军舰进行曲》。实际上，虽然旋律相同，但该校歌的节奏比较慢，而其长时间口传的旋律亦多少有点变化，所以与军舰行进曲确有点分别。
在日本动画片《哆啦A梦的てんとう虫コミックス》中14巻‘遥控大海战’中使用了第2节（遥控著战舰大和登场并唱着军舰行进曲前进）。
军舰进行曲之碑
军舰进行曲之碑，位于日本神奈川县横须贺市三笠公园中的“三笠”号纪念舰中有市民团体于1996年（平成8年）建立了“军舰进行曲之碑”。而在碑的正面是旋律，背面则为歌词。在记念碑正修建之际，已获得了市长的设置许可书，但横须贺市公园管理课有一位负责职员以歌词内容为“好战的”理由表示难色，在记念碑揭幕仪式之际，有职员独断，将并不触目的歌词部分用黑色乙烯树脂隐藏。其后歌词部分再被不明人士涂上混凝土。最后出现有志者将歌碑修复，令记载的歌词重现。日本高畑勋卡通 《萤火虫之墓 》叙述1945年（昭和20年 ) 日本即将战败，男主角对妹妹叙述小时候曾看过联合舰队阅兵的回想时的背景音乐及部分歌词即为《军舰进行曲》。
在中国台湾与东南亚中本曲的知名度不低，有时在广告中作为背景音乐使用。在中国大陆等在公共场所演唱该曲会与其他日本军歌同样，成为被指责的对象，不过当地有收录本曲的CD售卖。但是，在被没有战争经验的人士所认识，例如2005年6月在广州的中海康城小区幼儿园每天早晨播放本曲的事被公开报道。
2005年，广州中海康城小区幼儿园每天早上播放日本海军军歌《军舰进行曲》被媒体曝光。事后，中海康城幼儿园公开道歉，相关责任人受到天河区教育局处理。
2014年7月11日下午，闸北区教育局关注到网上反映民办上海市震旦外国语幼儿园曾在今年6月27日幼儿毕业典礼上使用《军舰进行曲》作为背景音乐的事件，并于第一时间进行了核实，情况基本属实。区教育局立即责成上海市震旦外国语幼儿园董事会作出深刻检查，向社会公开致歉，并对幼儿园园长及相关教师作出严肃处理。幼儿园董事会已对相关责任人作出了停职检查的决定。[1]
在中国国民党111年周年（2005年）党庆颁发奖状时，错误将本曲当作为背景音乐播放。
