На зорі з панського кінного двору виганяють на луг коней. З усього табуна виділяється серйозним, задумливим виглядом старий рябий мерин. Він не виявляє нетерпіння, як всі інші коні, покірно чекає, поки його осідлає старий Нестер, і з сумом спостерігає те, що відбувається, знаючи наперед кожну хвилину. Пригнавши табун до річки, Нестер рассёдливает мерина і чеше його під шиєю, вважаючи, що коні це приємно. Мерін ж не любить цього чесання, але з делікатності прикидається вдячним людині, закриває очі і мотає головою. І раптом, без будь-якої причини, Нестер боляче б'є мерина пряжкою вузди по сухій нозі. Цей незрозумілий злий вчинок засмучує мерина, але він не подає вигляду. На відміну від людини, поведінка старої коні виконано гідності і спокійної мудрості. Коли молоді коні дражнять мерина і роблять йому неприємності - бура кобилка каламутить воду перед самим носом, інші штовхають і не дають проходу, - він прощає своїх кривдників з незмінним гідністю і мовчазною гордістю.
Незважаючи на відразливі ознаки маразму, фігура пегого мерина зберігає в собі спокій колишньої краси і сили. Його старість - велична і бридка одночасно. І це викликає у коней обурення і презирство. «Коні шкодують тільки самих себе і зрідка тільки тих, в шкурі кого вони себе легко можуть уявити». І всю ніч на кінному дворі, підкоряючись стадному інстинкту, весь табун ганяє старого мерина, чуються удари копит об худі боки і важке кряхтение. І мерин не витримує, зупиняється в безсилій розпачі і починає розповідь про своє життя. Розповідь триває п'ять ночей, а в перервах, днем, коні вже шанобливо звертаються з мерином.
Він народжений від люб'язно першого і Баби. За родоводу його ім'я - Мужик перший, а по-вуличному - Холстомер. Так люди називають його за довгий і розгонистий хід. З перших днів життя він відчуває любов матері і то здивування, яке викликає в оточуючих. Він рябий, незвичайний, не такий, як усі. Перше горе в житті - втрата любові матері, яка вже носить в собі меншого брата. Перше кохання до красивої кобилці Вязопуріхе обривається, закінчившись найважливішою зміною в житті Холстомера - його вихолощують, щоб не продовжувати в роду пегости. Його відмінність від всіх породжує схильність до серйозності і глибокодумності. Молодий мерин зауважує, що люди керуються в житті не справами, а словами. І головне серед слів - «моє». Це слово змінює поведінку людей, змушує їх часто брехати, прикидатися і не бути тим, чим вони є насправді. Це слово було виною тому, що мерина передають з рук в руки. Хоча він обходить знаменитого рисака Лебедя, Холстомера все-таки продають баришник: через те, що він рябий і належить не графу, а конюшому.
Його купує гусарський офіцер, у якого мерин проводить кращий час свого життя. Господар гарний, багатий, холодний і жорстокий - і залежність від такої людини робить любов до нього Холстомера особливо сильною. Господарю потрібна саме необьіная кінь, щоб ще більше виділятися в світлі, їздити до коханки, нестися по Кузнецькому, щоб все цуралися і озиралися. І Холстомер служить беззавітно, думаючи: «Убий, загони мене, <...> я тим буду щасливішим». Він милується господарем і собою поруч з ним. Але в один чорний день коханка кидає офіцера, їде з іншим. Гусар, в гонитві за нею, заганяє Холстомера. Той тремтить всю ніч і не може їсти. На ранок йому дають води, і він навіки перестає бути тією конем, якою був. Холстомера продають баришник, потім старенькій, краснорядцу, мужику, цигана і, нарешті, тутешньому прикажчика.
Коли табун в наступний вечір повертається з луки, господар показує кращих, найдорожчих коней приїхав гостю. Гість знехотя хвалить. Проходячи повз Холстомера, він ляскає його по крупу і каже, що такий же «писаний» мерин був і у нього колись. Холстомер впізнає в обрезклому старого свого колишнього улюбленого господаря-гусара.
У панському будинку, в розкішній вітальні, за чаєм сидять господар, господиня та гість. Колишньому гусарина Микиті Серпуховскому тепер за сорок. Колись дуже красивий, зараз він опустився «фізично, і морально, і грошово». Він розтринькав стан в два мільйони і ще повинен сто двадцять тисяч. І тому вид щастя молодого господаря принижує Серпуховського. Він намагається вести розмову про своє минуле, коли був гарний, багатий, щасливий. Господар перебиває його і говорить про своє нинішнє життя, хвастаючи тим, що має. Цей нудний для обох розмова, в якому вони не чують один одного, триває до ранку, поки Серпуховской не напиватися і, хитаючись, не йде спати. У нього не вистачає сил навіть роздягнутися до кінця - в одному незнятої чоботі він валиться на ліжко й хропе, наповнюючи кімнату запахом тютюну, вина і брудною старості.
Вночі табунник Васька на Холстомер їде в шинок і тримає його до ранку на прив'язі поруч з мужицької конем, від якої до меринові переходить короста. Через п'ять днів Холстомера не гонять в поле, а ведуть за сарай. Коли йому перерізають горло, йому здається, що разом з великою струменем крові виходить з нього вся тяжкість життя. З нього знімають шкуру. Собаки, вороння і шуліки розтягують конину, вночі приходить і вовчиця; через тиждень у сараю валяються тільки кістки. Але і ці кістки забирає потім мужик і пускає їх у справу.
«Ходило по світу, евшее і п'ючи мертве тіло Серпуховського прибрали в землю набагато після». І сховати туди гниє, що кишить хробаками тіло в новому мундирі і вичищених чоботях, - було зайвим, непотрібним ускладненням для людей.