Во 2-й половине 1-го тысячелетия до н. э. обитали на территории современной Саксонии и Тюрингии.
В конце II — начале I веков до н. э. продвинулись в район среднего и верхнего Майна.
В 58 до н. э. маркоманы, вероятно, входили в союз племён, возглавлявшийся Ариовистом, и приняли участие в походе на Галлию.
В 8 году до н. э. после вторжения римлян (под командованием Нерона Клавдия Друза) в Северную Германию маркоманы, потерпев поражение, переселились на территорию современной Чехии, где вошли в союз племён, возглавленный Марободом (лат.Maroboduus). При этом маркоманы вытеснили с этой территории группу кельтских племён — бойев (от которых происходит название Богемия). Маркоманы занимали господствующее положение в союзе племён, куда также входили квады, лангобарды, семноны и гермундуры. Союз, однако, оказался недолговечным.
Маробод, выходец из знатного рода, юношей воспитывавшийся при дворе императора Августа, организовал войско по римскому образцу (70 тысяч человек пехоты и 4000 конницы). В 17 году н. э. войско Маробода было разбито вождём херусковАрминием. Маркоманы были вынуждены отступить к Дунаю. Сам Маробод в 19 году н. э. был свергнут знатью и был вынужден просить убежища у римлян.
В I—II веках маркоманы и квады, зачастую выступая вместе, постоянно угрожали римлянам на дунайской границе.