哈尔滨工程大学档案工作始于1978年哈尔滨船舶工程学院时期开始设立的文书档案岗位。1982年，学院成立了科技档案室，成为学校第一个档案工作常设机构。1991年3月，学院正式成立档案馆，是学校直属的处级单位。哈尔滨工程大学档案馆既是学校档案工作的行政管理部门，又是提供档案利用服务的业务部门, 同时，也是哈军工历史文化展示、传承、研究的部门。档案馆现设有综合档案服务利用中心、教学档案服务利用中心、科研项目档案服务利用中心、校史资源开发编研中心、档案宣传与信息技术中心6个职能科室，现有专职工作人员15人，其中高级专业技术职务5人，博士4人，硕士7人。总馆舍面积近5000平方米，其中库房面积2000多平方米。目前，档案馆有两个档案全宗，即哈军工海军工程系和哈尔滨工程大学全宗。馆藏档案19万余卷，包含党群、行政、科研、基建、设备、产品、出版、教学、财会和实物、声像十余门类，国家级文物530件。学校档案管理工作于2001年晋升为国家一级，荣获学校文明单位称号，多次获得学校保密工作、安全工作先进集体等荣誉称号，多次被评为全省档案管理先进单位。档案馆现主要提供成绩证明、学历学位证明、在读证明等认证服务以及查档服务、展馆（展览）参观预约服务等。档案馆全体工作人员牢记工作使命、心系学校发展大局，本着“对历史负责、为现实服务、替未来着想”的宗旨，坚持和发扬老一辈革命家倡导培育的“哈军工精神”，不断提升服务质量和水平，推动优秀文化研究与传播，力争为研究型大学的建设贡献自己的一份力量。