Родившись в маленьком немецком городке, Михаэль попал в футбольный клуб, который играл во второй бундеслиге. В 1995 играл за «Хемницер ФК». С детства его хорошие физические данные помогали выстоять в силовой борьбе на поле. Через сезон игрок стал лидером клуба, и ему пришло приглашение из «Кайзерслаутерна» и летом 1998 года он перешел в новый клуб. Именно с этой командой он завоевал свой первый трофей. Интересно то, что у Михаэля не было четкой позиции на поле, он перепробовал себя почти во всех амплуа. В Лиге чемпионов со своим клубом футболист доходил до четвертьфинала. Параллельно с этим его приметило руководство сборной Германии и вызвало его в молодежную команду. В 1999 году Баллак продолжил свою карьеру в более титулованном клубе — «Байере». Здесь он играл на любимой позиции опорного полузащитника. Очень теплые взаимоотношения у него сложились, а игроками и тренерским составом клуба. Некоторое время футболист не смог играть в Лиге чемпионов из-за травмы, и его клуб не очень удачно выступил на этом турнире. Череда разочарований некоторое время преследовала клуб футболиста: ускользнул из рук трофей чемпиона Германии из-за автогола Баллака, из команды вынужден был уйти главный тренер.

Сезон 2001/02 стал для футболиста самым удачным. Его высокие результаты на уровне клуба и сборной дали ему возможность превратиться в звезду мирового уровня. Его отличали внезапные резкие атакующие действия, а мощнейшие удары по воротам стали неприятными воспоминаниями в жизни вратарей соперников.

В 2002 году футболист подписал контракт с мюнхенской «Баварией». Ему не нравилось то, что много приходилось действовать в обороне, а он рвался в атаку. Футболиста обвиняли в безволии и нехватке лидерских качеств. В 2006 он перешел в «Челси», где через четыре года контракт не продлили из-за разногласий в размере зарплаты. После полученной травмы в 2010 году Баллак вернулся в «Байер» на правах свободного агента.

Послужной список футболиста очень большой: в составе «Кайзерслаутерна» и «Баварии» он становился чемпионом бундеслиги, с разными немецкими клубами выигрывал Кубок Германии (2002, 2003, 2005, 2006). С «Челси» игрок становился Чемпионом Премьер-лиги (2010), обладателем Кубка (2007, 2009, 2010) и Суперкубка Англии (2009), Кубка Футбольной лиги (2007). В составе сборной становился серебряным призером чемпионатов мира (2002) и Европы (2008).