Les Monts Brumeux s'étendaient selon un axe nord-sud, du Forodwaith au nord jusqu'à la Trouée de Rohan au sud. Ses principaux sommets, le Caradhras, le Celebdil et le Fanuidhol, se trouvaient environ à mi-chemin de ces deux extrémités ; on peut encore citer le Methedras, sommet le plus méridional, et le Mont Gundabad, le plus septentrional. Peu de passes permettaient de les franchir : il y avait le Haut Col, situé à peu près à la latitude d'Imladris, et le Col du Caradhras, aussi appelé Passe du Rubicorne.

Lorsque Melkor découvrit les Quendi, vers l'année des Arbres 1080, il ne souhaitait guère qu'Oromë, qui se rendait souvent en Terre du Milieu, ne les découvre à son tour. Aussi éleva-t-il une puissante chaîne de montagnes, censée arrêter le Vala dans sa course : les Monts Brumeux. Toutefois, ce plan échoua, et Oromë rencontra les Quendi en 1085 AA. Il les guida peu de temps après vers Valinor, et ils durent franchir les Monts Brumeux ; certains, découragés, préférèrent rester dans la vallée de l'Anduin : ce furent les Nandor.

Peu après son éveil sous le Mont Gundabad, Durin Ier vint s'établir sous le Caradhras, jetant les bases de la puissante cité naine de Khazad-dûm, qui en vint à contrôler toute la partie septentrionale des Monts durant la première moitié du Second Âge. Les Nains furent toutefois affaiblis par la guerre des Elfes contre Sauron (1693 – 1701 2A), durant laquelle Sauron ordonna à ses Orques d'infester les Monts Brumeux : vers cette époque, le Mont Gundabad tomba entre leurs mains. La libération du Balrog par les mineurs de Durin VI, en l'an 1980 du Troisième Âge, sonna le glas de la puissance de la Moria : les Nains durent l'abandonner, et elle ne fut recolonisée qu'au Quatrième Âge par Durin VII.

Durant la seconde moitié du Troisième Âge, les Orques furent les maîtres incontestés des Monts Brumeux, malgré leur quasi-anéantissement lors de la Guerre des Nains et des Orques, qui se déroula exclusivement dans les Monts.