Події повісті «Знак чотирьох» розгортаються в Лондоні в 1888 р Під час вимушеного неробства, пов'язаного з відсутністю замовлень, відомий сищик-консультант Шерлок Холмс, що проживає на Бейкер-стріт в будинку 221-6 разом зі своїм другом доктором Ватсоном, викладає йому суть свого дедуктивного методу, який він використовує при розкритті злочинів. Шерлок Холмс переконаний, що по краплині води наглядова людина здатна шляхом логічних висновків довести існування Атлантичного океану і Ніагарського водоспаду, навіть якщо ніколи раніше їх не бачив і нічого про них не чув. Необхідно помічати найдрібніші деталі і факти, оскільки вони здатні внести неоціненний внесок у відтворення повної картини подій, характеру людини і обставин злочину.
Будучи геніальним сищиком, Шерлок Холмс має енциклопедичними знаннями в області кримінальної хроніки і хімії, добре грає на скрипці, відмінно фехтує і боксує, розбирається в англійських законах, обізнаний в геології, анатомії, ботаніки, володіє неабияким акторським талантом, але зате в сфері літератури, філософії, астрономії його знання дорівнюють нулю. У години, коли йому нічим зайнятися, його охоплює вбивча нудьга і він знаходить розраду в морфії і кокаїні.
Доктор Ватсон, друг і компаньйон Шерлока Холмса, колишній військовий лікар, який служив при англійської армії у війні Індії з Афганістаном і поранений в цій війні, проживає з Холмсом в одній квартирі і є літописцем усіх розкритих його другом справ.
До велику втіху Шерлока Холмса, його тимчасове неробство переривається якоїсь міс Морстен, особливої двадцяти семи років з натхненним і добрим обличчям, що свідчить про шляхетність і чуйності душі. Вона розповідає детективові про дивні події, що трапилися нещодавно в її житті, і просить у нього допомоги. У дитинстві вона втратила матір. Батько, який служив офіцером в Індії, відправив дочку в пансіон до Англії. У 1878 р, тобто десять років тому, він приїхав до Англії, про що попередньо повідомив в телеграмі. Однак, коли міс Морстен прийшла в готель, вона дізналася, що її батько несподівано зник. Чи не повернувся він і на наступний день, не повернувся більше ніколи. Потім починаючи з 1882 р, вона раптом стала щорічно отримувати від кого-то по одній дуже красивою і великої перлині. А в день візиту до Холмсу їй прийшов лист, в якому її просили приїхати ввечері до театру «Лицеум», повідомляли, що з нею обійшлися несправедливо і хтось бажає цю несправедливість виправити.
Шерлок Холмс і доктор Ватсон відправляються в вказане місце разом з нею. Перед виходом вона показує Холмсу дивну записку, знайдену в речах зниклого Морстена, на якій був зображений план якогось приміщення, з намальованими там же в ряд чотирма хрестами, дотичними один з одним перекладинами і з претензійною підписом: «знак чотирьох». Зустрінутий ними людина везе їх в кебі в південну частину Лондона. Там вони знайомляться з маленьким рудим людиною з блискучою лисиною на голові. Виявляється, що він - один із синів-близнюків помер шість років тому майора Шолто - Тадеуш Шолто. Його батько і батько міс Морстен колись разом служили в Індії в колоніальних військах. Там майор Шолто, таємничим чином розбагатівши, подав одинадцять років тому у відставку і повернувся в Англію з багатою колекцією східних рідкостей і цілим штатом тубільних слуг. Таємницю придбання скарбів і то, де вони зберігалися, майор не відчиняв нікому до самої своєї смерті, Відчувши її наближення, він покликав до себе синів і розповів їм, як помер капітан Морстен. Виявилося, що, приїхавши десять років тому в Лондон, він прийшов до Шолто і у них виникла суперечка з приводу поділу скарбів, про які Морстен знав і половина яких йому належала. У нього, який страждав хворим серцем, стався напад. Після чого він впав і, вдарившись головою об кут скриньки з скарбом, помер. Боячись, .що його звинуватять у вбивстві, Шолто приховав тіло капітана і нічого не сказав його дочки, коли кілька днів по тому, розшукуючи зниклого батька, вона прийшла до нього додому. Перед смертю він хотів відкрити синам також і те, де захований сам скриньку, проте зробити це йому завадило страшне обличчя за вікном. Він помер, забравши таємницю з собою в могилу. Його сини, вдячності до міс Морстен і бажаючи позбавити її хоча б від потреби, стали посилати їй щорічно по одній перлині з перлинних чоток, свого часу вийнятих їхнім батьком зі скриньки. До пори до часу Тадеуш Шолто і його брат Бартоломью навіть не здогадувалися, де заховані самі багатства. Однак напередодні, після багаторічних безуспішних пошуків, Бартоломью виявив їх на горищі свого будинку, в потаємному замурованому приміщенні. Він повідомив про це Тадеушу. Той, незважаючи на заперечення брата, який успадкував від батька його скупість, вирішив поділитися скарбами з міс Морстен. Всі четверо їдуть до Бартоломью. Однак виявляють, що він убитий пущеної йому в шию отруєної колючкою, що скарби викрадено і що на місці злочину залишений клаптик паперу зі «знаком чотирьох».
Дрібні деталі змушують Шерлока Холмса припустити, що злочинцями є дві людини - побіжний каторжник на ім'я Джонатан Смолл, у якого дерев'яний протез замість правої ноги, і Номер перший, дикун з Андаманських островів, маленький, дуже злий і моторний. Після того як він допоміг Смолл разом з скринькою спуститися з вікна по мотузці, він закрив віконниці зсередини і вибрався через горище. При втечі він забруднив ногу в креозот, і Холмс за допомогою собаки-шукачі Тобі дійшов по його слідах до річки. Там він дізнався, що злочинці сіли на найнятий катер «Аврора». Коли план Холмса вистежити катер з допомогою найнятої ним ватаги хлопчаків зривається, він сам, переодягнувшись старим матросом, відправляється на пошуки «Аврори» і намагається розшукати її в доках. Це йому вдається. Він викликає на допомогу інспектора Скотленд-Ярду Етелні Джонса, що розслідує це вбивство, і вони разом з доктором Ватсоном пускаються в погоню на поліцейському катері і наздоганяють злочинців з скринькою. При гонитві дикуна доводиться вбити, тому що він починає стріляти в переслідувачів своїми отруйними колючками. Доктор Ватсон відвозить скриньку до міс Морстен, проте врешті-решт виявляється, що він порожній, чому доктор надзвичайно радий, оскільки перешкода, що виникла, на його думку, між ним і молодою жінкою через її передбачуваного багатства, зникає. Тепер він може вільно зізнатися їй у коханні і запропонувати свою руку і серце. Міс Морстен знаходить його пропозицію досить привабливим. Смолл, зрозумівши, що його неминуче наздоженуть, викинув коштовності до Темзи, бо не хотів допустити, щоб вони дісталися комусь іншому. Смерть Бартолом'ю Шолто не входила в його плани, і вбив його не він, а злісний дикун без відома Смолл. Щоб переконати в цьому Шерлока Холмса і Етелні Джонса, він розповідає їм історію свого життя. В молодості він завербувався солдатом в полк, що йшов до Індії. Однак незабаром зі службою йому довелося розлучитися: коли він купався в Танге, крокодил відкусив йому ногу вище коліна, і він став безпорадним калікою. Потім, коли він працював наглядачем на плантації, в країні раптом почався бунт. Смолл поспішив до Агри і приєднався до сховався в Агрской фортеці загону англійців, Йому було доручено охороняти один з входів у фортецю і дано в розпорядження два сикха. На третю ніч сикхи схопили Смолл і поставили його перед вибором: бути з ними або замовкнути навіки. Вони розповіли йому про свій план: в північних провінціях жив один дуже багатий раджа. Частину своїх багатств він наказав слузі Ахмету сховати в Агрской фортеці до кінця війни, щоб в разі перемоги англійців зберегти хоча б цей скриню. Сикхи і супроводжуючий Ахмета їх спільник хотіли його вбити і заволодіти скринькою. Смолл вирішив до них приєднатися і поклявся їм у вірності. Свій план все четверо привели у виконання. Вбитого Ахмета вони сховали в одному із залів старої фортеці, куди ніхто ніколи не заходив. Скринька замурували в стіні того ж залу. Кожен з них отримав записку з планом і що символізує їх вірність один одному «знаком чотирьох». Однак згодом їх усіх за вбивство засудили до довічного ув'язнення. Відбуваючи покарання, вони не могли скористатися своїм багатством. Тоді Смолл домовився з Шолто і Морстеном, охороняли в'язницю, що повідомить їм, де захований скриньку, вони отримають свою частку, а натомість організовують для чотирьох ув'язнених втечу. Шолто, що відправився за скринькою, всіх обдурив і повернувся в Англію один. З тих пір Смолл став жити тільки думкою про помсту. Він втік з в'язниці за допомогою свого друга - тубільця на ім'я Тонго. В Англії він встановив контакт з одним із слуг майора Шолто і став чекати слушної нагоди. Це саме Смолл заглянув у вікно до вмираючого майору. Дочекавшись своєї години, він викрав скарби. За смерть Бартоломью він відшмагав Тонго мотузкою. Такою виявилася історія Джонатана Смолл.
Скарби не достались нікому. Доктор Ватсон отримав в дружини міс Морстен, Етелні Джонс - славу за розкритий злочин, а Холмс задовольнився ампулою з кокаїном.