Creado el 5 de junio de 1974 por decreto número 71 del gobernador del estado Carmelo Contreras Barboza, con el fin de atender la valoración, el estudio, la conservación y la proyección de lo histórico-geográfico, para imprimirle dinamismo al complejo desarrollo de la comunidad zuliana, según el reglamento de la Secretaría de Gobierno del 12 de julio de ese mismo año.
Tenía que localizar, catalogar, cuidar y conservar los documentos, los monumentos y las estatuas de valor histórico y, así mismo, localizar y rescatar los nuevos valores históricos, como las ruinas, cementerios, objetos y similares, entre otros fines.
Fue precedido por el Archivo Histórico del estado Zulia, creado el 23 de febrero de 1944, por el presidente del estado Zulia, Dr. Héctor Cuenca.
La institución tiene a su cargo varias dependencias, entre ellas, el Archivo General del Estado «Carlos Medina Chirinos», el Museo Histórico «General Rafael Urdaneta» y la Casa de la Capitulación.