Originalmente criado em 1736 pelo rei D. João V como Secretaria de Estado dos Negócios da Marinha e Domínios Ultramarinos (também referida como Secretaria de Estado da Marinha e Conquistas), era responsável pelos assuntos marítimos e ultramarinos.
Durante os períodos de 1821-1823 e de 1834-1835, os assuntos do Ultramar deixam de ser administrados por um departamento específico, sendo repartidos pelos vários ministérios sectoriais. Durante esses dois períodos, o ministério administrou apenas os assuntos marítimos como Secretaria de Estado da Marinha.
A partir de meados do século XIX passa a ser comum designar-se por "Ministério da Marinha e Ultramar" e em 1910, por "Ministério da Marinha e Colónias" que em 1911, se desmembram, criando-se o "Ministério das Colónias". O ministério passa, então, a denominar-se, apenas "Ministério da Marinha", ocupando-se dos assuntos marítimos, tanto militares como civis.
Sob a sua tutela directa encontrava-se a Marinha de Guerra Portuguesa e era também da sua responsabilidade a política executiva nas áreas da marinha mercante, das pescas, da autoridade marítima, da investigação marítima e dos assuntos culturais relacionados com o Mar.
Na sequência do 25 de Abril de 1974, o Ministério da Marinha deixou de existir como ministério governamental, mantendo-se a sua estrutura transitoriamente sob a designação de "Ex-Ministério da Marinha", passando a ser dirigida pelo Chefe do Estado Maior da Armada, que passou a ter o estatuto de ministro. O Ex-Ministério da Marinha manteve as funções militares e de autoridade marítima do anterior ministério, mas as restantes foram, entretanto, divididas por vários outros departamentos governamentais.
Em 1982, o que restava da estrutura do Ex-Ministério da Marinha foi integrada no Ministério da Defesa Nacional, e desde então alguns governos criaram ocasionalmente um Ministério do Mar com as anteriores atribuições civis, sobretudo ao nível das pescas e dos transportes marítimos, do antigo Ministério da Marinha.