Previsto na Constituição de 1824, o Arquivo Público do Império foi estabelecido na Secretaria dos Negócios do Império pelo regulamento n. 2, de 2/1/1838. Tinha por competência a guarda dos diplomas legais dos poderes Legislativo, Executivo, Judiciário e Moderador, dos documentos eclesiásticos, dos relativos à família imperial e às relações exteriores. Em 3/3/1860, o decreto n. 2.541 reorganizou o órgão, que passou a guardar e classificar os documentos concernentes ao direito público, à legislação, à administração, à história e geografia do Brasil.
Em 21/11/1890, pelo decreto n. 10, o Arquivo Público do Império teve seu nome alterado para Arquivo Público Nacional, mantendo-se na Secretaria dos Negócios do Interior. Em 3/12/1892, o decreto n. 1.160 o transferiu para o Ministério da Justiça e Negócios Interiores.
Em 21/11/1958, o decreto n. 44.862 aprovou uma nova competência para o órgão: preservar os documentos de valor administrativo ou histórico, oriundos dos órgãos da União e entidades de direito privado por ela instituídas e os de valor histórico, provenientes de entidades públicas ou particulares; possibilitar seu uso aos órgãos governamentais e particulares e promover a pesquisa histórica, realizá-la, e divulgar a história pátria, visando à educação cívica do brasileiro.
Em 15/10/1975, a portaria n. 600-B do Ministério da Justiça determinou que o órgão tinha por finalidade recolher e preservar o patrimônio documental do país com o objetivo de divulgar o conteúdo científico e cultural, e incentivar a pesquisa relacionada com os fundamentos e as perspectivas do desenvolvimento nacional.
A portaria n. 384, de 12/7/1991, do Ministério da Justiça, aprovou um novo regimento interno para o Arquivo Nacional, que se tornou o órgão central do Sistema Nacional de Arquivos. Sua finalidade, desde então, é executar a gestão, o recolhimento, a guarda, a preservação e a restauração do acervo arquivístico da administração pública federal, bem como dos documentos privados de interesse público sob sua guarda, garantindo o acesso público às informações neles contidas, com o objetivo de apoiar o governo nas suas decisões político-administrativas, o cidadão na defesa dos seus direitos, divulgando o conteúdo de natureza técnica, científica e cultural, incentivando a pesquisa e implementando a política arquivística do Governo Federal, visando à racionalização e à diminuição dos custos públicos.
Em junho de 2000, várias medidas provisórias com o objetivo de dar melhores condições ao combate à violência na sociedade brasileira foram editadas e reeditadas, implicando a reorganização ministerial. No conjunto dessas mudanças, o Arquivo Nacional teve sua subordinação transferida do Ministério da Justiça para a Casa Civil da Presidência da República, ato finalmente consolidado pela medida provisória n. 2.216-37, de 31/8/2001.
