그는 어린 시절부터 군인이 되어 독립운동에 참여하겠다는 뜻을 밝혀 왔고 1919년 만세운동 이후 상하이로 가 군인이 되기로 한다.[1] 상하이에 임시정부가 세워지고 그는 휘문고보를 졸업하고 중국으로 건너가 운남강무당에 입학하였다.
운남강무당 졸업 이후 그는 대한통의부[2]에 가입했고 3부[3]가 조직되고 3부 중 정의부에서 활동했다. 그는 정의부 군사위원장에 임명된다.
1929년 5월 조선혁명군이 창설되자 조선혁명당 군사위원장 및 조선혁명군 총사령관이 되었다. 창설 당시 양세봉은 이준식 휘하의 중대장으로 활약했다.[4] 1929년 12월 조선혁명군 총사령에 이진탁으로 바뀐 것으로 보았을 때 이 즈음 만주를 떠나 중국 본토로 건너간 것으로 보이며, 임시정부와 연계하여 국민혁명군에 입대해 장교로 복무하며 독립운동을 전개했다. 이후 김구 선생이 이끌던 한인애국단의 이봉창[5] 의사의 의거에 감동받아 한국군인회를 조직했다. 하지만 그의 활동이 일본 경찰에 알려져 조사를 받던 중 윤봉길 의사의 홍커우 의거가 일어났고 이때 이준식은 상하이를 탈출했다.
상하이를 떠난 그는 중국군 고급장교로 활동하며 여러 전쟁을 치렀다. 그 때에도 임시정부를 위해 노력했다. 1939년 한국광복군이 조직되기 전에 그는 국민혁명군에서 자진 예편하고 의정원 의원에 선출되었으며, 1940년 광복군이 창설되자 총사령부 참모로 임명되었다. 1941년 제1지대장으로 옌시산 군과 연합해 일본군과 여러 전투를 벌였으며, 1943년 광복군 고급참모이자 한국독립당 중앙집행위원으로 활동하는 등 해방이 될 때 까지 임시정부 및 광복군 활동을 하였다.
해방 이후 이범석이 창설한 조선민족청년단 부단장을 맡았고, 1948년 김홍일, 권준, 김석원 등 광복군, 일본군 고급장교 출신들과 함께 육군사관학교 8기 특1반[6]을 졸업하고 대한민국 국군 대령으로 임관되었다. 1949년 2월 7여단 초대 여단장이 되었고, 5월 7여단이 수도사단으로 승격되자 초대 사단장이 되었으며, 준장으로 진급했다. 수도사단장 부임 당시 지리산 공비토벌 및 38선 경계임무에 공을 세웠으며, 이 과정에서 선우기 등 휘하 광복군 장교 출신 부하를 잃기도 했다.
1950년 6월 10일 육군사관학교 8대 교장에 부임했으며, 6.25 전쟁이 발발하자 육군사관학교 생도들을 이끌고 내촌-태릉 전투를 지휘했고, 1950년 7월 제3보병사단 사단장으로 영덕지구 전투에서 후퇴와 탈환을 반복하며 영덕-강구 일대 방어에 성공해 1954년 태극무공훈장을 받았다. 인천 상륙 작전 이후 서울이 수복되자 경인지구계엄사령관으로 서울 및 경기 지역의 치안 유지 및 안정에 힘썼고, 제1군단 부사령관으로 전장을 누볐다. 1.4 후퇴 이후 전장이 교착화되자 육본 전방지휘소장, 작전참모부장, 행정참모부장, 국방부 제1국장을 역임하며 지휘참모 및 정책분야를 담당했으며, 1952년 소장으로 진급했다.
휴전 이후 1954년 교육부장, 제1훈련소장, 1956년 제5관구사령관을 역임하였고 1959년 육군 중장으로 예편했다. 예편 후 1960년 고희동과 함께 김구선생 11주기 추도회를 주도회 섭외부장을 맡았고, 재향군인회장, 한국전력공사 고문, 광복회 회원으로 활동하다 1966년 4월 6일 사망했다.
[1] 당시 상하이는 약소민족 혁명가들이 활동하던 거점이었다.[2] 1922년 만주에서 조직된 항일독립군 연합 단체이다.[3] 참의부, 정의부, 신민부[4] 조선혁명군은 총사령부 휘하 7~8개 중대로 편성되어 중대장의 영향력이 강했다.[5] 독립운동가이지만 과거에는 창시개명을 하고 일본인이 되기 위해 노력했던 인물이다. 하지만 많은 차별을 받고 생각을 바꾸게 되었다.[6] 육군사관학교 8기 특1반을 고급군사훈련반이라고도 한다.