元朝统一中国后，疆域空前辽阔，为加强对广大地区的控制和管理，元朝在中央设中书省作为全国最高行政机构，元大都及其邻近地区，由中书省直接管理。其他地区设“行中书省”，由中央委派官吏前去管辖。“行中书省”简称“行省”或略称“省”，是地方最高行政机构。元朝的监狱设置，既沿袭了前代，又有重大变化。

第一，中央监狱。元朝的中央司法机构为大宗正府、刑部、御史台和宣政院。大宗正府，是类似前朝大理寺的中央审判机构，负责审理蒙古、色目人和宗室案件。刑部，“掌天下刑名法律之政令。凡大辟之按复，系囚之详，孥收产没之籍，捕获贡赏之试，冤讼疑罪之辨，狱具之制度，律令之拟议，悉以任之”，是元朝的中央司法行政机关。御史台，是元朝的中央司法监督机构。宣政院，是元朝的全国宗教管理机关和宗教审判的最高机关，官员由僧侣担任，形成宗教与世俗权力并行的特殊司法制度。

元朝的中央监狱包括大宗正府狱、御史台狱、刑部狱、京畿狱。元朝开始在刑部设狱，不仅进一步增强了刑部的司法职能，而且对以后朝代的监狱设置产生了直接影响。大宗正府狱主要关押诸王驸马、蒙古、怯薛军（皇帝禁卫军之一）及色目人犯，监狱职官有司狱、典吏等。御史台狱主要关押皇帝交办的重大案犯，监狱职官有检法二员、狱丞一员。刑部狱主要关押汉人犯罪者。京畿狱是元朝统治者在京畿之地设置的监狱，金朝完颜亮改燕京为中都，元世祖忽必烈至元九年（1272 年）改中都为大都，把原来的和林改称为上都，上都狱与大都狱相同，具有中央与地方监狱的双重性质。

第二，地方监狱。元朝行省以下路、府、州、县都设监狱。路设监狱是元朝监狱设置的又一个重大变化，路设推官专掌治监狱；路以下府、州、县各级监狱“设司狱司司狱一员，狱丞一员、狱典一人”，专门掌治地方狱政。另据史书记载，元朝的狱官还有吏目，从九品。

第三，兵马司监狱。元朝兵马指挥使司之下，设置司狱司，附有三狱，一属大都路、一属大都北城兵马司，一属南城兵马司，反映了元朝封建军事专制主义统治的特点。兵马司监狱实际上是一个宽仅有八尺，深三丈二尺，四面都是泥墙的地牢。只在北墙开一单扉小门。地牢内夏天暑气蒸腾，虫咬蚊吮，群蝇乱飞，尤其是大雨过后，牢内积水盈尺。这牢内充满着水气、土气、日气、火气、米气、人气、秽气。文天祥以孱弱之躯处在七气的包围之中，竟未染重病，写下了千古传颂的《正气歌》。兵马司监狱的黑暗是元朝狱制落后的重要表现。蒙古族是一个游牧民族，生活在漠北草原，地牢的形式是其拘押罪人的传统形式。