基督教於公元一世紀在羅馬帝國東部興起，最初主要在下層民眾中傳播，信徒之間平等互助，同甘共苦，信徒不拜偶像，並有着拒絕與統治者合作的傾向。因此，基督教一度遭到敵視和迫害。儘管如此，由於這種信仰深得人心，基督教在逆境中仍得到蓬勃發展，到三世紀末已經傳播到羅馬帝國社會各階層。公元313年君士坦丁大帝與李錫尼烏斯共同發布“米蘭敕令”，基督教在羅馬帝國境內獲得合法地位，392年更成為羅馬帝國唯一合法的宗教。

教會史家一般認為，公元64年羅馬城大火後，羅馬皇帝尼祿屠殺基督徒是羅馬帝國迫害基督教的開端。 據記載，尼祿起初只是下令搜捕縱火犯，後來發展為搜捕敵視羅馬帝國的所有人。不敬拜羅馬皇帝，只敬拜耶穌基督的基督徒被認為是社會公敵，要予以處死。 這次鎮壓主要發生在羅馬，也蔓延到東方各行省。

羅馬人相信萬物有靈論，信仰類似於薩滿教的萬神教。主管戰爭、生育、農耕等的諸神各司其職， 此外灶有灶神，道有道神。這些神靈被塑成形態各異的神像，供奉在羅馬的萬神廟中。而基督教教義則反對偶像崇拜。摩西十誡的第一條就是“除我以外，你不可有別的神”。新約馬太福音中也說：“當拜主你的神，單要事奉他”。因此，基督信仰與羅馬原始信仰發生衝突是必然的。

羅馬帝國統治者對基督徒只信仰一個“將來的國度”感到好奇，皇帝圖密善曾親自審問兩個基督徒，問他們有多少財產，兩人答道:“九千銀幣而已，分屬兩人；但這筆產業不是錢，而是一塊三十九畝的土地。我們從中收租，並用勞力養活自己。”圖密善於是問他們，什麼是基督的國度，他們回答:“那不是短暫的國，也非屬地的國，而是神聖屬天的國。它會在世界末日時，顯現於榮耀中。神會審判活人死人，照各人所行的報應各人。”圖密善覺得他們無知且愚蠢，便打發他們走了，然後下令停止迫害基督徒。

此後，圖拉真皇帝開始把基督徒與猶太教徒加以區別，屠殺反抗羅馬統治的猶太人，寬容願做羅馬帝國順民的基督徒。

從2世紀末到3世紀中葉，除了202-211 年、235-238年這兩段共12年曾對基督徒進行過鎮壓外， 羅馬統治者基本上採取懷柔加限制的方針。直至狄西烏斯統治時期(249-251年在位)，情況才發生變化。

狄西烏是由軍隊擁立的皇帝。羅馬自奧古斯都以來，就把皇帝視為“神”，大搞“皇帝崇拜”，而基督徒只崇拜上帝，這在狄西烏看來，簡直是大逆不道，是叛國，是瀆神。當時羅馬軍隊中已有很多基督徒，他們能否效忠皇帝，也已成為一個很嚴重的問題。此外，狄西烏認為道德墮落和宗教信仰自由是羅馬帝國衰落的根本原因，為了保證統治，必須在帝國內實現思想上的統一，於是開始大肆迫害基督徒。狄西烏斯明令所有基督徒必須放棄信仰，參加多神教的獻祭儀式。狄西烏斯逮捕拒絕獻祭的高級教士並處決了教皇法比安，要求所有人必須向諸神獻祭或參加奠酒祭神儀式。那些拒絕獻祭的基督徒要麼被殺，要麼被監禁。但在狄西烏斯死後，迫害就停止了。257 年瓦勒良又開始對基督徒進行迫害，強迫所有牧師向眾神獻祭。第二年他頒布了更為嚴厲的敕令: 處死不獻祭的高級牧師，許多人殉道，包括迦太基主教塞普里安。這次迫害因瓦勒良被波斯人俘虜而中止。

284年戴克里先即位後，為鞏固政治統治繼續尋求思想上的統一，強化對傳統多神教的崇拜，並從303年起開始對基督教進行空前迫害。他頒布了第一道敕令: 將教堂夷為平地，焚毀聖經，那些居高位的基督徒失去所有公民權利。於是，生來自由的基督徒被剝奪了羅馬公民權。在政治上，這意味着基督徒不能在帝國各級政府中擔任官職；在法律上，他們喪失上訴權，不再免於酷刑。戴克里先將許多基督徒從宮廷中驅逐，將堅持基督教信仰的士兵從軍隊中開除。

這道敕令頒布後不久，尼科米底亞皇宮發生了第二場大火，並在敘利亞發生了動亂。這導致了迫害基督徒行動的升級。宮廷中的反基督教團體將大火和內亂的發生歸咎於基督徒的反抗。隨後戴克里先又頒布第二道敕令：逮捕和監禁主教，強迫牧師向諸神獻祭，目的是破壞基督教的教會組織，降低教會領導人的威望。結果，各地監獄人滿為患，本來預備囚禁殺人犯和盜墓者的監獄住滿了主教、長老、牧師和學者，再沒有地方監禁那些真正的罪犯。所以，戴克里先又頒布第三道敕令: 如果被囚禁的基督徒獻祭，就釋放他們；如果他們拒絕獻祭，就將他們長期關在獄中，讓他們遭受各種酷刑，甚至將他們處死。戴克里先希望用這種方式使基督徒失去領袖，放棄基督信仰。304年戴克里先頒布第四道敕令，命令所有基督徒必須向羅馬諸神獻祭。

野火燒不盡，春風吹又生。儘管多次受到迫害，基督教並未被撲滅，反而得到蓬勃發展。基督教會努力在帝國上層中發展教徒， 很多政府官員和皇室成員加入教會。最重要的是，基督教已經深入到軍隊，早在馬庫斯-奧理略統治時期(161-180年) ，軍隊中就有一支“雷鳴”軍團，士兵全部信仰基督教。

那麼，羅馬帝國基督徒所占人口比例有多大呢？人言人殊，分歧比較大。據英國史家愛德華-吉本估計，公元3世紀末，在100萬羅馬城人口中，基督徒約有5萬人，只占0.5%，但重要的是連皇帝戴克里先的妻子和女兒都信仰基督教。根據施陶德林的說法，基督徒占羅馬帝國總人口一半，可能有點誇張；根據麥特(Matter) 的說法，占1/5；但據吉本推算，只有1/20；而拉巴斯蒂認為占1/12，這可能最接近真相。比較準確的估計是：基督徒的比例在羅馬帝國西部占1/15，在帝國東部占1/10。

羅馬帝國是迄今為止世界史上歷時最長久的帝國，同時也是公元5世紀之前古代世界幅員最為遼闊（邊界長達一萬多英里，其版圖比印度孔雀帝國和中國漢帝國之和還大）、人口最為眾多（達1億2千萬人，超過漢朝的兩倍）、囊括的民族成分最為複雜（達一百多個民族）、文化種類最為繁複（從希臘到埃及、從西班牙到西亞、從日耳曼到北非、從凱爾特到黑海周邊）的巨型帝國。但是，這個帝國最後竟然被起源於帝國一隅的基督教所征服，並從中孕育出了引導現代文明發展走向的“西方文明”。其中的奧秘究竟何在呢？