По прибытии трибунала на место его работы инквизиторы выступали перед духовенством и жителями с проповедями, объяснявшими опасность ереси. Объявлялся «период милосердия», в течение которого любой виновный мог прийти и тайно покаяться в преступлении перед трибуналом — в этом случае на него накладывалось обычное церковное покаяние за грех, и он не подвергался уголовному преследованию. Инквизиционные процедуры были подробно описаны в специальных руководствах, которым обычно тщательно следовали. Эти руководства мало напоминают известный «Молот ведьм» (о нем позже) — это были скрупулезные юридические инструкции, созданные профессиональными юристами. Сомнительные показания не принимались в расчет, обвиняемый имел право на защиту, он мог представить трибуналу список своих врагов, показания которых после этого не использовались в процессе. Никто не мог быть осужден без доказательств. Многие дела прекращались за недостаточностью улик. Пытки использовались лишь в незначительном числе случаев и дозволялись лишь в ситуациях, когда налицо были убедительные доказательства того, что обвиняемый лжет. В ряде случаев (например, в исследованиях, проведенных известным ученым Карло Гинзбургом в итальянской местности Флиулия) вообще нет никаких указаний на использование пыток. Дело редко кончалось обвинительным приговором, но даже из этого небольшого числа приговоров лишь около 2 % вели к смертной казни, когда она предусматривалась государственным законодательством за установленные судом преступления обвиняемого. Нередки случаи, когда обычные преступники намеренно богохульствовали, чтобы предстать перед судом инквизиции, поскольку она гуманнее относилась к подследственным, чем государственные дознаватели. Преступник всегда имел возможность принести покаяние, исповедать свое преступление и, получив сравнительно мягкое наказание, избежать предусмотренной законом суровой кары — в то время как светские законы не предусматривали подобной возможности.
Однако тот факт, что инквизиционные процессы все же находились в ведении местных властей, часто приводил к злоупотреблениям, когда невиновные в силу политических причин осуждались, а виновные, напротив, оправдывались. Следуя наиболее прогрессивным для того времени юридическим представлениям, Церковь в XIII веке учредила инквизиционные трибуналы, подотчетные не местным епископам, а Риму. Это привело к повышению тщательности и аккуратности инквизиционных процессов. Фактически нет исторических доказательств тех искаженных образов жестоких и страшных инквизиторов, которые предстают перед нами во многих фильмах и художественных произведениях (таких как «Имя Розы» Умберто Эко). Светские правители нередко обвиняли инквизиторов в том, что те слишком мягко относились к обвиняемым и слишком гуманно вели следствие. В позднее Средневековье короли, пользуясь поддержкой местных ученых, стали захватывать в свои руки инквизиционные процессы, выводя их из-под власти папы (такое произошло, к примеру, во Франции). Собственно церковная римская инквизиция утрачивала свое влияние и почти потеряла его после 1500 года.
На этой волне захвата светской властью инквизиционной юрисдикции возникла и испанская инквизиция, которую обычно считают самой жестокой и которую следует отличать от церковной епископской и папской средневековой инквизиции. Историкам известно, что с XVI века в государствах — врагах Испании намеренно создавались тексты, призванные опорочить ее, и расхожее мнение об ужасах испанской инквизиции — это отзвук одной из частей этой «черной легенды». Факты сильно отличаются от мифов.
В Испании жило очень много иудеев, которые начиная с конца XIV века начали часто обращаться в католичество. Под влиянием распространившихся в народе подозрений, что многие обратившиеся в действительности не являются католиками, оставаясь тайными иудеями, испанская монархия с разрешения Церкви учредила инквизиционный трибунал, призванный выявлять такие притворные обращения, считавшиеся преступлениями против государства. Инквизиционные трибуналы, особенно в первый период существования испанской инквизиции, допускали злоупотребления. Помимо этого, христиане нееврейского происхождения, недолюбливавшие обратившихся евреев, и оставшиеся в старой вере иудеи нередко старались использовать возможности трибуналов в целях личной мести. Эти злоупотребления вызвали реакцию папы Сикста IV, который писал: