Участник Первой мировой войны. Отличился в боях под Тарнополем в августе 1914. В феврале 1915, организовав упорное сопротивление австрийцам у села Беднары, сорвал их попытку захватить Галич. Получил тяжелое ранение, но уже в августе вернулся в строй, став командиром 12-го армейского корпуса. В 1916 произведен в генералы от кавалерии. В апреле 1916 назначен командующим 8-й армией. В мае 1916 сыграл решающую роль в Брусиловском прорыве, разгромив под Луцком 4-ю австрийскую армию. За боевые заслуги награжден Георгиевским оружием и орденами Св. Георгия 4-й и 3-й степени. Прозван "второй шашкой России".

Февральскую революцию встретил враждебно. Препятствовал демократизации армии и деятельности солдатских комитетов. В начале мая 1917 отстранен от командования и уехал на Дон. 17 (30) июня 1917 на Донском Войсковом Круге избран войсковым атаманом (первый выборный атаман со времен Петра I).Представлял российское казачество на Московском Государственном совещании (август 1917), где выступил с требованием продолжения войны до победы, упразднения советов и восстановления дисциплины в армии. Активно поддержал выступление генерала Л.Г.Корнилова. 31 августа (13 сентября) 1917 Временное правительство издало указ о смещении его с должности и аресте. Однако твердая позиция Войскового правительства и Донского Войскового Круга, отказавшихся выдать своего атамана, заставила А.Ф. Керенского оставить указ без исполнения. 

Решительно осудил Октябрьскую революцию. Приход к власти в Петрограде большевиков, свергнувших Временное правительство, Алексей Максимович оценил как государственный переворот и преступление. До восстановления порядка в России он возложил на Донское войсковое правительство всю полноту исполнительной государственной власти в крае. Но деятельность всевозможных советов и комитетов, находившихся под влиянием большевистской пропаганды, расшатывала устои твердого управления на Дону. На настроениях казачества сказывались ожидания экономических реформ, широкие обещания большевиков. Морально подавленными и склонными верить большевикам прибывали на Дон казаки, возвращавшиеся с фронта.

Каледин давал убежище на Дону всем отверженным, изгнанным и преследуемым новой центральной властью. На Дон потянулись бывшие члены Временного правительства. Государственной Думы, представители политических партий, офицеры.В ноябре - начале декабря в Новочеркасск прибыли генералы Алексеев, Корнилов, Деникин - соратники Каледина по мировой войне. Здесь они получили приют и возможность приступить к формированию Добровольческой белой армии. Но когда в Новочеркасск явился Керенский, генерал Каледин его не принял, объявив "шельмой".  
При нем Дон стал центром притяжения всех антибольшевистских сил; именно здесь в ноябре 1917 началось формирование Добровольческой армии (первоначально Алексеевской организации). 18 (31) декабря вместе с генералами М.В.Алексеевым и Л.Г.Корниловым возглавил Донской Гражданский Совет, созданный для руководства Белым движением на всей территории бывшей Империи и претендовавший на роль всероссийского правительства. Открывая путь Белому движению в России, Каледин, по сути, жертвовал собой: против непокорного Дона, первым поднявшего знамя борьбы, большевики сразу же бросили все наличные военные и пропагандистские силы

28 января (10 февраля) 1918 отряды красных заняли Таганрог и начали наступление на Ростов. Решение Алексеева и Корнилова увести Добровольческую армию на Кубань лишило Каледина последней надежды. 29 января (11 февраля) 1918 в Новочеркасске он сложил с себя полномочия войскового атамана и в тот же день застрелился. Его могила в ограде Димитриевской кладбищенской церкви была уничтожена большевиками. Так ушел из жизни бывший командующий 8-й армией, герой "Луцкого прорыва". Смерть Каледина стала упреком и толчком для казачества в его взаимоотношениях с большевиками. "Круг спасения Дона", новый атаман П. Краснов поднимут знамя борьбы, оставленное Калединым, и Дон вновь станет участником великой белой борьбы.

"Заклятый враг Советской власти" - с таким именем вошел атаман Каледин в официальную историографию СССР, "атаман-печаль" - таким он остался в памяти близко знавших его людей и белого казачества. До рокового выстрела, оборвавшего его жизнь на 57-м году от рождения, генерал от кавалерии Каледин прошел большой боевой путь, достойный русского офицера, защитника Отечества.