В августе 1941 года А. П. Константинов был утверждён заведующим военным отделом Кашинского райкома ВКП(б). 
Старшая дочь Ина в июне 1942 года окончила среднюю школу и  добровольно вступила в партизанский отряд. Узнав об этом, 15 августа 1942 года написал заявление о добровольном вступлении в ряды народных мстителей и А. П. Константинов.  Был направлен во 2-ю Калининскую партизанскую бригаду. А через несколько дней бригада в составе 1-го Калининского партизанского корпуса вновь ушла в тыл противника и действовала на территории Пустошкинского, Идрицкого, Кудеверского и других районов до встречи с частями Красной Армии.
С сентября 1942 г. по октябрь 1943-го А. П. Константинов воевал в должности заместителя командира бригады по разведке. Осенью 1943 года представлен к воинскому званию «майор».  2 октября 1943 года назначен комиссаром 2-й бригады, в начале ноября штаб бригады и три отряда её соединились с частями Красной Армии. 
Был ранен и эвакуирован в тыл. После излечения,  был заместителем начальника отдела связи Калининского партизанского движения. В сентябре 1944 года направлен в распоряжение Кашинского райкома партии, возглавил военный отдел райкома.  До выхода на пенсию  преподавал в Кашинском зооветтехникуме.
Награжден орденами Отечественной войны I степени, Красной Звезды, медалью «Партизану Отечественной войны» I степени и другими медалями.