据相关资料显示，中国的铁路司法机构设立模式借鉴的是苏联模式。我国的铁路司法机构经历了“两立两撤”的历史进程。第一次是在上世纪50年代初期。1953年，我国建立铁路运输法院，1954年，建立铁路运输专门检察院。后，1957年，铁路两院被撤销。

1982年，我国又开始重新组建铁路司法机构，设立铁路运输高级、中级、基层法院三级。检察院也一样，分为全国铁路运输检察院、铁路局一级的铁路运输检察分院和铁路分局一级的基层铁路运输检察院三级。

此后，1987年4月15日，最高人民法院和最高人民检察院联合发文，撤销铁路运输高级法院和全国铁路运输检察院，铁路运输中级法院和铁路运输检察分院的工作改由所在省一级法院、检察院领导，但铁路基层两院与铁路运输中级法院、检察分院之间的业务关系不变。

与此同时，最高人民法院设立交通运输审判庭，最高人民检察院设立铁路运输检察厅，分别对铁路运输法检两院进行业务指导。

直到2001年我国加入WTO，关于司法体系公正、独立的要求形成合力，铁路司法改制踏上了破冰之旅。2012年1月12日，太原打响铁路两院“回归司法”第一枪。此后，全国各地的铁路运输法院、检察院开始陆续移交地方。