早在幾千年前，中國古人就產生了實現“和諧大同”社會的理想，併爲此設計了一整套較爲完善的保障體系。其核心莫過於採用一套有效的爭議調處機制，即今天所謂之調解制度。調解，作爲一種有效的爭議解決機制，在我國的歷史可謂源遠流長。今天能夠看到的關於調解的最早記載是舜主動出面對“歷山之農者侵畔，河濱之漁者爭坻”(《史記·五帝本紀》)進行有效調處的故事。
另據考證，早在奴隸社會的西周時期，在地方官吏中就有“調人”之職，其職能即爲“司萬民之難而諧合之”(《周禮·地官·司徒》)。可見，華夏先民很早就認識到調解對社會和諧的作用。之後在漫長的封建社會，調解制度在我國得到了充分的實踐和發展，幾乎在歷朝歷代都設有專門負責調解的機構或人員。
秦漢時，在鄉一級設“秩、嗇夫和三老”專司調解事務(《漢書·百官公卿表》)，調處不成再到縣廷起訴。唐代則於基層分設“鄉正、里正和村正”，而且還明確規定調解是將糾紛交府縣處理的'前提。到元朝時調解已被廣泛應用於解決民事糾紛。元代還爲調解及其他非訴訟爭議解決機制取了一個特殊的名稱——“告攔”。
元朝法律同時規定透過審判官調解達成和解而再次起訴的案件，不允許有司再行受理(《元典章·刑部·訴訟》)。這就賦予調解達成的和解協議以既判力和法律約束力，這是傳統調解發展史上一個重要的里程碑。
到明清時期，我國古代調解制度發展到了極致。明代將儒家“無訟”觀念付諸社會管理實踐，調解自然繼續充當民事訴訟的法定前置程序。朱元璋就曾頒佈敕令規定：“民間戶婚、田土、鬥毆、相爭一切小事，不許輕便告官，務要經本管裏甲老人理斷。若不經由者，不問虛實，先將告人杖斷六十，仍發裏甲老人量斷。”(《教民榜文》)清代在沿襲明朝做法的同時，還將調處率納入地方官員的政績考覈，這從某種程度上導致調解適用範圍被不適當地擴大。
據載，清嘉慶十五年至二十五年間，天津寶坻縣自訟案的調解結案率竟高達 90% (《順天府檔案》)。從上述調解演進的歷史可以看出中國古代調解在一步步制度化的過程中，還逐漸形成了較爲明顯的強制性特徵。這種強制調解模式體現了統治者以此進行社會治理的重要考慮。中國古代調解也因此帶有濃厚的政治色彩和道德教化功能。