독일 중북부 에르첸(Aerzen)의 농가에서 태어난 하이스마이어는 학교를 졸업한 후 제1차 세계 대전이 발발하자 1914년8월에 프로이센 왕국군에 입대해 1916년8월 6일에 예비역 중위로 승진했다. 1917년6월까지 보병부대에 있었던 그는 이후 보급부대의 장교와 기습부대 지휘관을 거쳐 1918년3월에 비행부대에 배속되어 조종사가 되었다.
1935년5월부터 1940년10월 초까지 친위대 본부장관으로 일하면서 하인리히 힘러를 보좌한 하이스마이어는 1936년에 친위대 대장으로 승진하여 1939년9월부터 친위대 상급지구 동부지도자와 슈플레 친위대 및 경찰고급지도자로 임명되었다. 그의 임무는 베를린과 브란덴부크르 지역을 감독하는 것이었다.
1940년에 하이스마이어 친위대 대장본부가 만들어지면서 그 본부장으로 임명된 하이스마이어는 나치 사관생도들의 군사교육과 사상교육을 담당했다. 1940년8월 5일에 강제수용소 총감으로 취임한 그는 친위대 해골부대 사령관도 겸직했다. 하지만 1942년에 강제수용소가 친위대 경제관리본부로 이관되면서 자리에서 물러났다.
대전말기인 1945년4월에 국민돌격대와 히틀러 유겐트를 모아 만든 <하이스마이어 전투단>의 사령관으로서 비행장 방어에 나섰지만 독일의 패전 후 아내와 함께 숨어살다가 1948년2월 29일에 프랑스 점령지구인 튜빙겐 근교에서 체포되었다. 3년의 징역형을 선고받고 재산을 몰수당한 하이스마이어는 석방 후 서독코카콜라 공장의 중역을 지낸 후 사망했다.