Відомий лондонський сищик Шерлок Холмс, який живе на Бейкер-стріт разом з другом доктором Ватсоном, детально викладає йому суть дедуктивного методу, який він використовує при розкритті злочинів. Потрібно, в першу чергу, помічати все найдрібніші деталі і факти.
Шерлок Холмс володіє відмінними знаннями в області кримінальної хроніки, хімії, розбирається в геології, анатомії, ботаніки, має акторські здібності і навіть грає на скрипці. Доктор Ватсон, колишній військовий лікар, є літописцем усіх розкритих іншому справ.
З проханням про допомогу до детектива прийшла міс Морстен і розповіла про вельми дивних подіях, що відбулися недавно в її житті.
Після того, як вона втратила матір, батько відправив дівчинку в пансіон до Англії. Десять років тому він сам приїхав до Англії, попередньо повідомивши в телеграмі. Прийшовши до готелю, міс Морстен дізналася, що батько несподівано зник. Він так і не повернувся, а дівчина стала щорічно отримувати по одній великій перлині. Вранці вона отримала лист, в якому було прохання приїхати ввечері до театру «Лицеум». Ще міс Морстен показала записку, яку знайшла в речах зниклого батька. У ній був зображений план якогось приміщення, намальовані чотири хрести з підписом: «знак чотирьох».
Коли сищик і інші поїхали до Бартолом'ю, побачили, що він убитий, скарби викрадені, а на місці злочину залишена записка з «знаком чотирьох».
Шерлок Холмс припустив, що це могли зробити побіжний каторжник Джонатан Смолл, який має дерев'яний протез замість правої ноги, і дикун з Андаманських островів. З'ясувалося, що злочинці сіли на катер. На поліцейському катері Холмс разом з Ватсоном пускаються в погоню за злочинцями з скринькою і наздоганяють їх. Під час погоні дикуна вбивають. Скринька виявляється порожнім.
Смолл викинув коштовності в річку, не бажаючи, щоб вони комусь дісталися. Він розповів, що коли служив в Індії, крокодил відкусив йому ногу. Розпочатий в країні бунт змусив його приєднатися до сховався у фортеці загону англійців. Сикхи схопили Смола. Разом з ними він заволодів скринькою зі скарбами. Скринька замурували в стіні залу. Кожен отримав записку з планом і «знаком чотирьох», який символізував їх вірність один одному. Згодом за вбивство їх усіх засудили до довічного ув'язнення. Хитрий Смолл домовився з Морстеном і Шолто, охороняли в'язницю, що вони отримають свою частку, якщо організують втечу чотирьох ув'язнених. Шолто обдурив всіх і приїхав до Англії один. Смолл втік з в'язниці за допомогою тубільця на ім'я Тонго. Дочекавшись своєї години, він викрав скарби, які в результаті не достались нікому.
Запропонувавши міс Морстен руку і серце, доктор Ватсон одружується на ній.