Idealizado pelo marechal João Baptista Mascarenhas de Moraes, comandante da Força Expedicionária Brasileira (FEB), para receber os restos mortais dos soldados brasileiros mortos na Itália, foi concebido pelos arquitetos Marcos Konder Netto e Hélio Ribas Marinho, vencedores de um concurso público nacional.[2][3] O projeto estrutural coube ao engenheiro Joaquim Cardozo.[4]
As obras iniciaram-se a 24 de junho de 1957 e, embora inaugurado oficialmente a 7 de abril do mesmo ano, apenas foram concluídas em 24 de junho de 1959, sendo reinauguradas em 5 de agosto do mesmo ano.
Em 20 de junho de 1960, partiu para a Itália uma comissão presidida pelo marechal Oswaldo Cordeiro de Farias (que integrara a FEB como Comandante da Artilharia Divisionária), com a incumbência de proceder à exumação dos 462 corpos sepultados no cemitério brasileiro na cidade de Pistoia, e prepará-los para o translado para o Brasil. A comissão chegou ao Rio de Janeiro em 15 de dezembro de 1960, trazendo os corpos em caixas individuais de zinco, encerradas em urnas de madeira.
Em solenidade uma semana depois, as urnas foram transportadas para o Monumento e depositadas nos respectivos jazigos no Mausoléu. Uma das urnas de mortos não identificados passou a simbolizar o "Soldado Desconhecido" e foi entregue pelo marechal Mascarenhas de Moraes, ao então presidente da República, Juscelino Kubitschek, que a depositou na base do Pórtico Monumental, onde se encontra até hoje.
