Родился в 1913 г. на ст. Будагово Тулунского района. Учился в Иргейской и Нижнеудинской школах, окончил 10 классов. В 1933 г. призван в армию, окончил артиллерийское отделение Омской пехотной школы в 1937 г. Участник советско-финской войны.

Перед Великой Отечественной войной служил в артиллерийских частях Прибалтийского округа.

С первых дней Великой Отечественной войны — на фронте. Командир 1177-го истребительно-противотанкового артиллерийского полка майор Алексей Шалимов особо отличился при отражении атак неприятеля на белгородском направлении в ходе Курской битвы. Только за 6 и 7 июля 1943 вверенный майору Шалимову полк подбил восемьдесят девять танков, в том числе тридцать пять тяжёлых.
2 октября 1943 фашистам удалось потеснить советские войска на правом берегу Днепра в районе села Лепляво Каневского района Черкасской области УССР. 3 октября 1943 г. полк Шалимова занял оборону на берегу Днепра с задачей прикрыть наши части на правом берегу. Гитлеровцы с утра начали наступление. Тяжелый бой продолжался несколько часов. Ураганный огонь обрушили артиллеристы на ползущие вперед вражеские танки. Когда они оказались близко, орудия перешли на стрельбу прямой наводкой. Благодаря, мужественным и решительным действиям командира атака была отражена. В этом бою майор Шалимов погиб.

Похоронен в селе Леплява Каневского района Черкасской области Украины.

Указом Президиума Верховного Совета СССР от 24 декабря 1943 за умелое командование артиллерийским полком, образцовое выполнение боевых заданий командования и проявленные при этом мужество и героизм майору Шалимову Алексею Алексеевичу посмертно присвоено звание Героя Советского Союза. Вскоре пришёл приказ о присвоении майору Шалимову А. А. воинского звания «подполковник».

Также награждён двумя орденами Ленина, орденом Красного Знамени.