據史料記載，古代調解最早可追溯到奴隸制社會的周代。《周禮‧地官》記載的官名中就有「調人」，是專門負責調解事務的官員，他的作用是「掌司萬民之難而諧和之」。

秦漢時，縣以下設鄉，鄉設有秩、嗇夫和游徼三老，掌管道德教化和調解事務，調解不成再到縣衙起訴。漢代司法調解程序比較複雜，先由受理訴訟的司法機關依據原告訴狀寫成狀書，將狀書發往被告所在地的縣廷或者戌所侯官，再由縣廷或者戌所侯官將狀書交由鄉嗇夫或者期限層侯長負責驗門口調解以息訟。三國兩晉南北朝時期，官府大多根據「禮」的內容，調解民事糾紛。唐代，基層分設鄉正、里正和村正，有權處理地方上的輕微刑事案件，並對民事糾紛進行調解仲裁，不能取決方交府縣處理。

元代時調解的方式有民間調解和司法機關調解，調解結果對當事人具有法律約束力。明代將儒家「無訟」觀念付諸實踐。明初，各地各鄉設立「申明亭」，由本鄉人推舉公直老人並報官備案，民間糾紛小事由老人主持，在申明亭調解。調解不能和息的，再向官府起訴。

清代民事糾紛的調解分為訴外調解和訴內調解。訴外調解又稱民間調解，主要有宗族調解和鄉鄰調解。據清代《順天府檔案》中記載，天津寶坻縣嘉慶十五年至二十五年中自理的案件二百四十四件，其中有百分之九十的案件以調解方式解決。