В юности Поликарп жил в Эфесе и учился у апостола Иоанна Богослова, который в 110 году поставил его в епископы Смирны. Как пастырь он имел огромный авторитет и считался христианским вождем «всей Азии», а как человек обладал огромным личным обаянием. По рассказу агиографа, даже римские солдаты, пришедшие арестовать Поликарпа, оробели и прониклись к нему большим почтением. За год до своей смерти Поликарп посетил Рим, чтобы обличить гностическую ересь и обсудить с римской папой Аникитой вопрос, в какой день следует праздновать Пасху: 14 ниссана, когда состоялась Тайная вечеря, или на три дня позже, в воскресенье, когда произошло Воскресение Христа. Оба церковных предстоятеля ссылались на предание, доставшееся им от предшественников, и не хотели уступать друг другу, но это не помешало им сохранить между собой общение и мир.
После возвращения Поликарпа в Смирну в городе начались сильные гонения на христиан. Святых подвергали неимоверным истязаниям: одних секли бичами с такой силой, что в разрезанной плоти открывались внутренние жилы, других растягивали на усеянных шипами раковинах, называемых «лезвиями», третьих бросали на съедение зверям. Страдания мучеников были настолько ужасны, что даже смотревшие на них язычники плакали от жалости, но сами истязаемые не издавали ни стона: невозмутимые и спокойные, как бы совсем потерявшие чувствительность, они переносили пытки с нечеловеческим терпением. Поразительную стойкость этих людей авторы послания объясняли тем, что их души в это время находились вне тела, и пока их плоть испытывала немыслимые муки, сами они мирно беседовали с Господом, который ради укрепления их духа показывал им адское пламя и небесные блаженства, «так что были они уже не человеки, но ангелы».
На казнях присутствовал лично проконсул Азии Стаций Квадрат, который то ли по человеколюбию, то ли по долгу службы уговаривал христиан отречься от Иисуса. Иногда эти старания имели обратный эффект: один из христиан по имени Германик, раздраженный уговорами Стация, сам бросился к зверям, раздразнил их и заставил себя съесть.
Когда расправа закончилась, разгоряченная публика потребовала новых жертв, и тут вспомнили о Поликарпе, предводителе местных христиан. Услышав, что его разыскивают, христиане упросили Поликарп скрыться в одну из соседних деревень, где он прятался несколько дней, проводя время в молитве. Незадолго до ареста, увидев во сне свое ложе, объятое огнем, епископ догадался, что скоро его сожгут живьем. Его выдал мальчик-раб, живший по соседству; когда солдаты ворвались в дом, Поликарп спокойно вышел к ним, предложил гостям выпить и поесть и попросил предоставить ему один час на молитву. Получив это разрешение, он молился непрерывно в течение двух часов. В город его повез начальник местной полиции Ирод, который по дороге принялся уговаривать его принести жертвы цезарю, а когда епископ ответил, что не может следовать таким советам, грубо вытолкал его из повозки. «Упав, он ободрал себе голень, — сообщает рассказчик, — но тут же встал и бодро пошел дальше, как будто ничего не произошло».
На площади, где снова собралась толпа, Поликарпа встретил сам проконсул. Он упомянул о почтенной старости епископа и напомнил, что ему очень легко избежать ненужных пыток: для этого надо только поклясться фортуной цезаря и сказать «смерть безбожникам». Старец, обведя взглядом собравшихся зрителей, поднял руку и мрачно произнес: «Смерть безбожникам». «Похули Христа», — продолжал проконсул. Поликарп возразил, что он всю жизнь служил Христу, Который ничего дурного ему не сделал, и ему не за что Его хулить. Не стоит притворяться, продолжал епископ, будто вы не знаете, кто я такой, потому что я сам открыто объявляю себя христианином; если же проконсул хочет побольше узнать о его учении, то пусть назначит удобное для этого время. Стаций, не то серьезно, не то в насмешку, предложил ему убедить в своей истине народ; Поликарп возразил, что он беседует с ним, уважая в нем начальство, а защищаться перед толпой не считает нужным. На угрозы бросить его зверям и в огонь, если не изменит своих мыслей, Поликарп ответил, что мысли надо менять с дурных на хорошие, а не наоборот, и посоветовал ему больше не медлить и поскорее делать то, что он намерен.