Дія розгортається на початку XX століття (в роки, що безпосередньо передували початку першої світової війни) в Швейцарії, в розташованому поблизу Давосу туберкульозному санаторії. Назва роману викликає асоціації з горою Герзельберг (Гріховна, або Чарівна, гора), де, згідно з легендою, мінезінгер Тангейзер провів сім років в полоні у богині Венери.
Герой роману, молодий німець на ім'я Ганс Касторп, приїжджає з Гамбурга в санаторій «Берггоф» відвідати свого двоюрідного брата Йоахіма ЦІМС, що проходить там курс лікування. Ганс Касторп має намір провести в санаторії не більше трьох тижнів, але до кінця наміченого терміну відчуває нездужання, що супроводжується підвищенням температури. В результаті лікарського огляду у нього виявляються ознаки туберкульозу, і за наполяганням головного лікаря Беренса Ганс Касторп залишається в санаторії на довший термін. З самого моменту приїзду Ганс Касторп виявляє, що час в горах тече зовсім не так, як на рівнині, а тому практично неможливо визначити, скільки днів, тижнів, місяців, років пройшло між тими чи іншими описаними подіями та який термін охоплює дію всього роману. У самому кінці роману, правда, кажуть, що Ганс Касторп провів в санаторії в цілому сім років, але навіть цю цифру можна розглядати як певну художню умовність.
Власне кажучи, сюжет і події, які трапляються в романі, абсолютно не важливі для розуміння його сенсу. Вони лише привід для того, щоб протиставити різні життєві позиції персонажів і дати автору можливість висловитися їх вустами по багатьом хвилюючим його проблем: життя, смерть і любов, хвороба і здоров'я, прогрес і консерватизм, доля людської цивілізації на порозі XX століття. У романі низкою проходять кілька десятків персонажів - в основному пацієнти, лікарі та обслуговуючий персонал санаторію: хтось одужує і залишає «Берггоф», хтось помирає, але на їх місце постійно надходять нові.
Серед тих, з ким Ганс Касторп знайомиться вже в перші дні свого перебування в санаторії, особливе місце займає пан Лодовіко Сеттембрини - нащадок карбонаріїв, масон, гуманіст, переконаний прихильник прогресу. При цьому, як справжній італієць, він пристрасно ненавидить Австро-Угорщину. Його незвичайні, часом парадоксальні ідеї, висловлені до того ж в яскравій, часто уїдливою формі, мають величезний вплив на свідомість молодої людини, який починає почитати пана Сетгембріні як свого наставника.
Важливу роль в історії життя Ганса Касторпа зіграла і його любов до російської пацієнтці санаторію мадам Клавдії Шоша - любов, якої він в силу отриманого ним суворого виховання в кальвіністської сім'ї спочатку противиться всіма силами. Проходить багато місяців, перш ніж Ганс Касторп заговорює зі своєю коханою - це відбувається під час карнавалу напередодні великого посту і від'їзду Клавдії з санаторію.
За час, проведений в санаторії, Ганс Касторп серйозно захопився безліччю філософських і природничо-наукових ідей. Він відвідує лекції з психоаналізу, серйозно вивчає медичну літературу, його займають питання життя і смерті, він вивчає сучасну музику, використовуючи для своїх цілей новітнє досягнення техніки - грамзапись і т. Д. По суті справи, він вже не мислить свого життя на рівнині, забуває про те, що там його чекає робота, практично пориває зв'язку зі своїми нечисленними родичами і починає розглядати життя в санаторії як єдино можливу форму існування.
З його двоюрідним братом Йоахімом справа йде якраз навпаки. Він давно і наполегливо готував себе до кар'єри військового, і тому розглядає кожен зайвий місяць, проведений в горах, як прикру перешкоду на шляху здійснення життєвої мрії. У якийсь момент він не витримує і, не звертаючи уваги на застереження лікарів, залишає санаторій, надходить на військову службу і отримує офіцерський чин. Однак минає зовсім небагато часу, і його хвороба загострюється, так що він змушений повернутися в гори, але на цей раз лікування йому не допомагає, і він незабаром помирає.
Незадовго до цього в коло знайомих Ганса Касторпа потрапляє новий персонаж - єзуїт Нафта, вічний і незмінний опонент пана Сеттембрини. Нафта ідеалізує середньовічне минуле Європи, засуджує саме поняття прогресу і всю втілює в цьому понятті сучасну буржуазну цивілізацію. Ганс Касторп виявляється в деякому сум'ятті - слухаючи довгі суперечки Сеттембрини і Нафти, він погоджується то з одним, то з іншим, потім знаходить суперечності і у того, і в іншого, так що вже не знає, на чиєму боці правда. Втім, вплив Сеттембрини на Ганса Касторпа настільки велике, а вроджене недовіру до єзуїтів настільки високо, що він цілком стоїть на боці першого.
Між тим в санаторій на деякий час повертається мадам Шоша, але не одна, а в супроводі свого нового знайомого - багатого голландця Пеперкорна. Майже всі мешканці санаторію «Берггоф» потрапляють під магнетичний вплив цієї безумовно сильної, загадкової, хоча й трохи недорікуватий, особистості, а Ганс Касторп відчуває з ним деякий спорідненість, адже їх об'єднує любов до однієї і тієї ж жінки. І це життя обривається трагічно. Одного разу невиліковно хворий Пеперкорн влаштовує прогулянку до водоспаду, всіляко розважає своїх супутників, ввечері вони з Гансом Касторпом п'ють на брудершафт і переходять на «ти», незважаючи на різницю у віці, а вночі Пеперкорн приймає отруту і помирає, Незабаром мадам Шоша залишає санаторій - на цього разу, мабуть, назавжди.
З певного моменту в душах мешканців санаторію «Берггоф» починає відчуватися якийсь неспокій. Це збігається з приїздом нової пацієнтки - датчанки Еллі Бранд, яка має деякими надприродними здібностями, зокрема вміє читати думки на відстані і викликати духів. Пацієнти захоплюються спіритизмом, влаштовують сеанси, до яких залучається і Ганс Касторп, незважаючи на дошкульні глузування і застереження з боку свого наставника Сеттембрини. Саме після таких сеансів, а може бути, і в результаті їхньої колишньої розмірений хід часу в санаторії виявляється порушеним. Пацієнти сваряться, раз у раз виникають конфлікти по самому незначного приводу.
Під час одного з суперечок з Нафтою Сеттембрини заявляє, що той своїми ідеями розбещує юнацтво. Словесна перепалка призводить до взаємних образ, а потім і до дуелі. Сеттембрини відмовляється стріляти, і тоді Нафта пускає кулю собі в голову.
І тут грянув грім світової війни. Мешканці санаторію починають роз'їжджатися по домівках. Ганс Касторп також їде на рівнину, навчена паном Сеттембрини битися там, де близькі йому по крові, хоча сам пан Сеттембрини, схоже, в цій війні підтримує зовсім іншу сторону.
У заключній сцені Ганс Касторп зображений біжить, повзе, падаючим разом з такими ж, як він, молодими людьми в солдатських шинелях, які потрапили в м'ясорубку світової війни. Автор свідомо нічого не говорить про остаточну долю свого героя - повість про нього закінчена, а його життя цікавила автора не сама по собі, а лише як фон для розповіді. Втім, як наголошується в останньому абзаці, надії вижити у Ганса Касторпа невеликі.