El ANM fue creado el 16 de diciembre de 2003 a través del Decreto Nº 1259/03 modificado por Decreto Nº 1852/07 como organismo desconcentrado en el ámbito de la Secretaría de Derechos Humanos del Ministerio de Justicia, Seguridad y Derechos Humanos de la Nación, para obtener, analizar y preservar informaciones, testimonios y documentos sobre el quebrantamiento de los derechos humanos y las libertades fundamentales en que esté comprometida la responsabilidad del Estado argentino y sobre la respuesta social e institucional ante esas violaciones.

Desde noviembre del 2007 el ANM funciona en el Espacio para la Memoria, Promoción y Defensa de los Derechos Humanos -Av. Del Libertador 8151 (ex ESMA)-, en la Ciudad de Buenos Aires.

El acervo que integra el ANM está constituido por el fondo documental de la Secretaría de Medios de la Presidencia de la Nación desde 1940 hasta 1983; los archivos CONADEP (Comisión Nacional sobre la Desaparición de Personas) y SDH (Secretaría de Derechos Humanos); la documentación relacionada con las leyes de reparación a las víctimas del terrorismo de Estado, y otros fondos documentales.

A su vez, se encuentra en marcha un relevamiento orientado a la búsqueda y recuperación de documentos dispersos en diversas esferas de la Administración Pública -tanto de las Fuerzas Armadas y de Seguridad como en los distintos ministerios y agencias gubernamentales-, e igualmente se recupera la información producida en las causas judiciales, con el objetivo de esclarecer el funcionamiento de la represión ilegal del Estado para exterminar la resistencia y disciplinar a la sociedad. Existen acuerdos de cooperación con otros poderes del Estado y con instituciones no gubernamentales como medios de comunicación, asociaciones políticas, gremiales, profesionales y empresarias, que permitan acceder y/o duplicar material gráfico y audiovisual que se encuentre en sus respectivos archivos.

A partir de convenios con países latinoamericanos se promueve el intercambio de documentación relacionada con acciones represivas coordinadas internacionalmente con el objetivo de avanzar en la conformación de un archivo regional de derechos humanos.