Первые упоминания о его ратных делах относятся к 60-м годам XVI века. По некоторым данным в 1571 году вместе со своей дружиной отражал под стенами Москвы набег крымского хана Давлет-Гирея, принимал участие в Ливонской войне. Это то, что касается его, скажем так, публичной деятельности в роли защитника государства российского. Но Ермак Тимофеевич входил в число знаменитых волжских атаманов того времени и основной "бизнес" у него был соответствующий - война с ногайскими мурзами и грабежи их улусов, а при первой возможности и караванов русских купцов. Кстати, часть волжских атаманов так же принимала участие в походе Ермака, например, Иван Кольцо и Никита Пан вместе с 500 казаками, скрываясь от карательных отрядов русского царя (их преследовали за ограбление в начале августа 1581 года русского и ногайского посольств), пришли к Ермаку Тимофеевичу и составили костяк его "сибирской дружины". Пришедший с ними Матвей Мещеряк продолжал дело Ермака и после его гибели, а через некоторое время ушел опять на Волгу, где объединился с другими атаманами и на Яике основал Кош-Яицкий городок, положивший начало Яицкому казачеству, и принял деятельное участие в разгроме Большой Ногайской орды.

К моменту появления Ермака во владениях купцов Строгановых политика татарских князей была крайне запутана, а их отношение к Московии колебалось от принятия присяги до разграбления русских поселений. Отряд Ермака нанимался преимущественно для охраны строгановских владений, но, не видя возможности, прекратить грабежи, только обороняясь, Ермак Тимофеевич начал свой поход вглубь владений сибирского хана. По пути следования отряд Ермака выиграл ряд мелких сражений с местными феодалами (в устье реки Туры, на Тоболе, у Березового и Караульного яров). Взяв городок советника хана Кучума - Карачи, Ермак отправился к столице хана - городку Искеру на Иртыше. 21 октября 1582 г. произошла решительная битва дружины с отрядом хана Кучума на подступах к Искеру, у Чувашьего мыса (в 15 км от Тобольска). 25 октября отряды Кучума были разбиты, и Ермак занял столицу. Отсюда он в 1582-85 гг. будет совершать походы в южные районы Сибирского ханства. Однако ввиду малочисленности отряда Ермака закрепиться на захваченных огромных пространствах было невозможно и Ермак Тимофеевич направляет посольство в Москву просить помощь. Царь наградил всех участников Сибирского похода, простил преступников, примкнувших к Ермаку, и обещал послать 300 стрельцов, а самому Ермаку присвоил титул "князь Сибирский". Отряд стрельцов под руководством князя Волховского по пути движения умудрился растерять почти все припасы и когда стрельцы добрались до Искера, "запасу у них не было никакого". А между тем казаки Ермака, приняв решение о новой зимовке в Сибири, успели заготовить лишь столько продовольствия, сколько им надо было для своего пропитания. Имевшиеся запасы быстро закончились, начался великий голод. Стрельцы вымерли поголовно. Их воевода князь Волховский тоже не перенес невзгод и лишений.

После голодной зимы численность отряда Ермака катастрофически сократилась. Чтобы сберечь уцелевших людей, атаман старался избегать столкновений с татарами, но сражений удавалось избегать не всегда и в таких тяжелейших условиях Ермак, командуя оставшимися казаками, одержал несколько блестящих побед. Летом 1585 года отряды Ермака, несмотря на недостаточную численность, предприняли несколько походов в южные пределы Сибирского ханства, преследуя отряды Кучума.

Из этого похода Ермаку не было суждено вернуться. Обманутый слухами о задержании татарами каравана бухарских купцов, отряд Ермака продолжил преследование татар и попал в ловушку. В ночь с 5 на 6 августа татары напали на его дружину. Атаман вступил в бой, пробился сквозь ряды врагов, но, не сумев достичь струга, утонул в Вагае. Согласно летописным источникам, тело было обнаружено татарами через несколько дней после гибели. Шесть недель продолжался "праздник мести" татар над Ермаком: в его тело пускались стрелы. Сохранилось предание, что до погребения татарам являлись видения и снились страшные сны. Погребен был Ермак Тимофеевич на татарском "Баишевском кладбище под кудрявой сосной" (согласно С. У. Ремезову). Опечаленные гибелью атамана оставшиеся в живых казаки вернулись на Русь.
Согласно последним данным, после того, как Ермак утонул в Иртыше, ниже по течению (по сибирско-татарским сказаниям) его выловил сетью татарский рыбак недалеко от места кровопролитной битвы, где он пал. Посмотреть на тело атамана съехалось много знатных мурз, а также сам Кучум. Татары несколько дней стреляли в тело из луков и пировали, но, по словам очевидцев, его тело пролежало на воздухе месяц и даже не начало разлагаться. Позже, поделив его имущество, в частности, взяв две кольчуги, подаренные царем московским, его захоронили в деревне, которая ныне называется Баишево. Захоронили в почетном месте, но за кладбищем, так как он не был мусульманином. В настоящее время рассматривается вопрос о подлинности захоронения.