伊斯兰教不是从兴起之时便立即流行于土耳其人或突厥民族，阿拔斯王朝在751年对中国唐朝的怛罗斯战役中取得胜利，但没有强迫突厥人放弃其所信奉的萨满教和佛教，从而确保阿拔斯王朝在中亚的影响力。只是在战后，许多突厥人部落，包括塞尔柱王朝及奥斯曼王朝的祖先乌古斯人在往后几个世纪才渐渐转改奉伊斯兰。在十一世纪，他们将这种宗教带入安那托利亚。
奥斯曼帝国容许基督徒及犹太人(古兰经所说的“有经人”)保持原有信仰，而不接纳多神教，与沙里亚法规一致。奥斯曼帝国会向非穆斯林征收吉兹亚税(保护税)。
在米利特制度下，非穆斯林人和穆斯林一样都是帝国的臣民，但不受伊斯兰信仰及法律约束或管制，例如东正教米利特受民法大全约束，民法大全早在拜占庭帝国时实施了九百年。作为帝国最大的非穆斯林族群，东正教米利特在政治及商业上能享有特权，但须缴纳较穆斯林为高的税项。
1453年，穆罕默德二世征服君士坦丁堡后允许当地的基督徒在缴纳特别税款的情况下留居，并运行他们原有的体制，如君士坦丁堡普世牧首。1461年，穆罕默德二世设君士坦丁堡亚美尼亚牧首。在此前，拜占庭帝国视亚美尼亚教会为异端，禁止他们在君士坦丁堡城墙内兴建教堂。1492年，摩尔人及塞法迪犹太人被西班牙宗教裁判所驱逐出西班牙，奥斯曼帝国苏丹巴耶塞特二世派遣以凯马尔·莱伊斯(Kemal Reis)为首的舰队护送他们，并让他们在奥斯曼帝国定居。
奥斯曼帝国与君士坦丁堡东正教教会的关系大致和平，纵使偶尔也会有一些针对希腊教会的压迫性政策。教会的组织制度依旧不变，在紧密的监督下可独自行事，除了1821年至1831年爆发的希腊独立战争及19世纪初奥斯曼帝国君主立宪的崛起。其他的东正教教会，如保加利亚东正教教会，被解散并将其置于希腊教会的管辖，直到1870年阿布杜勒阿齐兹设立保加利亚主教，并恢复保加利亚教会的自治权。
奥斯曼帝国的犹太人社区亦有设立米利特，归哈哈姆·巴舍(Haham Ba，犹太人教会领袖)或首席拉比(Chief Rabbi)'所管;亚美尼亚东正教社区则归一名总主教所管，其他社区亦然。
