Повествование произведения, рассказанного средним братом Карамазовым Иваном, ведется о событиях шестнадцатого века в Севилье в период массового распространения инквизиции.
На площади города появляется человек, исцеляющий больных и воскрешающий малышку, в котором народ узнает Иисуса Христа по его светящимся глазам и творящимся по его воле чудесам. Высший руководитель святой инквизиции отдает приказ о заключении Христа в темницу. С наступлением ночи Великий Инквизитор спускается к арестованному спасителю, желая побеседовать с ним.
Легенда представляет собой монолог инквизитора перед Иисусом Христом, который все это время молча слушает посетившего его кардинала. Инквизитор пытается обвинить Христа в его бесполезном учении, требующих от людей применения усилий и ответственности на пути к духовному совершенству, тем самым обрекая их на земные страдания и беспокойное существование после смерти. Вся речь инквизитора направлена против действий спасителя, направленных на сохранение свободы человека вместо помощи ему в виде хлеба насущного. Тем самым кардинал пытается найти оправдание своим поступкам, которые полностью противоречат учению Христа, хотя и представляют в качестве человеколюбия.
Инквизитор в душе желает, чтобы Христос вступил с ним в диалог, однако спаситель совершает неожиданный для кардинала поступок, подойдя к нему безмолвно и поцеловав мужчину в глаза. Ошарашенный инквизитор распахивает перед Христом дверь и, выпуская спасителя, просит больше никогда не появляться.
Рассказывая легенду устами Ивана Карамазова, писатель передает раздвоенную жизненную позицию героя, который не может поверить, также, как и великий инквизитор, в возможность человеческого существования в согласии с божественным учением.