國家司法考試的前身是律師資格考試，先于法官、檢察官資格考試而建立。1986年全國舉行了首次律師資格考試，以后1988—1992每兩年舉行一次考試，1993以后改為每年舉行一次考試，先后共舉行了11次考試，通過人數達18萬人左右。

　　1995年前，我國的法官、檢察官由法院、檢察院直接提名報同級人大任命。1995年《法官法》、《檢察官法》頒布實施后，兩院系統分別建立起初任法官、初任檢察官考試制度。規定通過考試者方能提請人大任命為法官、檢察官。法院系統于1995、1997、1999進行了三次初任法官考試。檢察系統亦同樣舉行了三次初任檢察官考試。

　　上述三種考試具有三個明顯區別：

　　第一，在試卷與題型上，律考為四卷，題型包括選擇題和案例分析題；初任法官和檢察官考試為三卷，試題形式包括選擇題、判斷題、改錯形式的客觀題，簡答題、材料分析、案例分析、文書寫作等主觀題。后兩者的主觀題比前者占的比重大，形式多。

　　第二，在應試人員的范圍上，律師資格考試面向社會，符合規定條件的人員均可報名；初任法官和初任檢察官考試面向系統內部，只有法院、檢察院的人員才有資格參考。

　　第三，在考試科目上，律考的內容與范圍最廣，基本涵蓋了法學的主干學科。初任法官考試比律師考試科目要少，不包括國際法、國際私法。初任檢察官考試面則更窄，主要限于刑事法律，民事和經濟法律相對較少。

　　2001年6月30日，九屆全國人大常委會第22次會議，通過了《中華人民共和國法官法》和《中華人民共和國檢察官法》修正案，兩法修正案附則明確規定：“國家對初任法官、檢察官和取得律師資格實行統一的司法考試制度，國務院司法行政部門會同最高人民法院、最高人民檢察院共同制定司法考試實施辦法，由國務院司法行政部門負責實施。”這一規定，標志著統一國家司法考試制度在我國正式確立。