从明朝末年西方传教士利玛窦发现开封存在犹太人开始，国内外很多学者都在研究这个问题。很多西方人专程到开封访问，调查研究，伦敦、上海，以及美国的犹太人都试图挽救开封犹太社团。研究成果到出了不少，但是重振开封犹太社团的希望最终还是破灭了，开封犹太人终于被同化了。

犹太人什么时候到中国的？说法有好几种，最早是周朝，其次是汉朝，再次是唐朝，最后是宋朝。周朝说纯属误解，毫无根据；汉朝说有道理，也有犹太人口头传说为据，但无文字记录；唐朝中西交流频繁，生活在中国的犹太人肯定很多，但汉文资料缺乏记载；唯一记载的是《唐书》，说唐末黄巢起义，在广州屠杀“胡人”十几万人，其中应该就包括犹太人，也得到了外文资料的佐证；宋朝说有犹太人碑文为证，但汉文史料仍无准确记载。现在汉文史料中大量记载犹太人的是在元朝。著名历史学家陈垣就认为，在元代犹太人才见诸汉文史料。

明朝时开封犹太人开始树碑立传，记载他们的信仰传统，据说也有犹太人出书阐明他们的信仰，但书已失传。弘治碑碑文中说，开封犹太人在宋孝隆兴元年就建立了犹太礼拜堂，这里有点儿曲笔，因为当时的宋朝朝廷已经南迁到杭州，开封处于女真金朝统治之下，因此准确记载应该是金世宗大定三年。金朝是异族统治，宋朝和明朝都是正宗汉人王朝，犹太人不敢得罪汉人，因此仍采用南宋纪年。

中国学者在谈到开封犹太人时，都爱强调他们一直生活在一个宽松、平等的环境中，没有受到歧视和压力，因此，他们渐渐被汉文化吸引，直至最后被同化。这种说法太简单化，缺乏说服力。事实上，开封犹太人一直处于同化的压力之下。

犹太人在他们的碑文中记载，他们的祖先是一个进贡使团，从印度（天竺）奉命来中国进贡的，他们的贡品是西洋布。可是，奇怪的是，这个使团却请求宋朝皇帝，让他们在宋朝首都开封定居下来。远人来归，宋朝皇帝当然高兴，于是发布一道圣旨，曰: “归我中夏，遵守祖风，留遗汴梁。” 据说有李、俺、艾、高、穆、赵、金、周、张、石、黄、李、聂、金、张、左、白，七十姓等。有人推算下来，这可能是一个上千人的庞大犹太人集团，在当时闹的动静应该不小，可是，宋史上居然没有明确记载。最近有人考证宋史，似乎隐约有记载，大约在宋朝初年，但还是不能确定。也有人认为，开封犹太人是陆陆续续进驻的，一开始人数可能不是太多，打下根据地后，后来渐渐增多。不管怎么说，这批犹太人算是获得了中国绿卡，可以在开封定居下来了。只是一开始似乎他们并没有打算建圣殿，也许经济实力还不够，但是更可能的是，他们想建圣殿，但是未获批准。因此直到开封落入了女真人之手的1163年，即金大定三年，可能限制解除，他们才得以建殿。

蒙古人建立元朝之后，“色目人”大批进入中国，来华的犹太人肯定不少。犹太人颇有实力，在中国各地都有犹太富商，比如他们就控制了杭州的蔗糖制造和销售。但是开封犹太人在元朝的身份不太清楚，是归入二等的“色目人”还是三等的“汉人”，还有待进一步考证。

犹太人进入明朝似乎活跃起来了，他们不仅刻碑立传，而且拼命把犹太信仰和儒家思想挂上钩。这似乎有点很奇怪，但是如果联系到明初的同化政策，就不会觉得奇怪了。

事实上，犹太人进入中国后，一直承受着政府的同化压力，即使在蒙古元朝，政府也曾下令干涉犹太人的生活，比如不允许犹太人自相婚娶，要求他们和外族通婚。到了明朝就更不得了了。朱元璋建立汉人正统以后，立刻下令强行同化国内各少数民族，大明律颁布了非常严格的法律，胡服、胡语、胡饰一律被禁止。犹太人说的希伯来语自然也在禁止之列。

犹太人为求得自己宗教信仰的生存，不得不采取折衷的办法，将犹太教义中国化，用中国老百姓熟悉的“天”代替他们的独一真神雅赫维，把犹太教仪与中国的礼仪融为一体， 并在教堂正殿的贡桌上摆上皇帝万万岁牌。犹太人鼓励本族精英研究儒家经典，参加科举考试，走上层路线，以维护自己社团的生存。他们派人打入朝廷，参加军队，请来圣旨，邀请当地权贵名流为教堂题词，无非是为了得到有力保护。值得注意的是，犹太教堂内外的匾额和对联漾溢着儒家圣道的气氛，比如匾额上书有《诗经》 的“ 昭事上帝”，“钦若昊天”。对联则有“ 识得天、地、君、亲、师, 不远道德正路;修在仁、义、礼、智、信, 便是圣贤源头 。”在他们立的石碑上，更是把犹太教说得和儒教没有什么两样，“儒教与本教, 曾大同小异， 然其主心制行， 亦不过敬大道、尊祖师、重君臣、孝父母、和妻子、序尊卑、交朋友, 而不外于五伦矣……”

但是，越往教堂内部，犹太教气氛越浓。大殿后的两侧分别为教祖殿和圣祖殿。教祖殿为尊崇亚伯拉罕的场所，圣祖殿为尊崇摩西的场所。里面设有“尊经龛”，龛前有匾书曰“教法天真”，为河南分守大梁道左参政王原朊题；尊经龛右有一匾 “奉天宣化” ，落款为当时河南的最高行政长官贾汉复所题。尊经龛后的大殿西墙上刻有希伯莱文字的十戒 。尊经龛的顶部也悬有两段希伯莱文的犹太教经文，经文说道: “ 以色列啊!你要听耶和华我们的神, 他是唯一的主。 神! 他是万神之神， 万主之主， 至大的神， 大有能力， 大而可畏， 不以貌取人， 也不受贿赂 。” 在尊经龛的前面还摆设着一把摩西椅。

从宋元到明末，即使面对着同化的压力，开封犹太人基本上保持着自己的信仰，延续了传统的犹太礼仪，比如守安息日、割礼，过逾越节、住棚节、转经节、普珥节等。1613- 1770年来访河南的耶稣会士， 不少人注意到开封严格守犹太人的安息日。比如骆保禄 ( Paul Gozani) 在1772年8月25日的书简中提到， 开封犹太人非常谨慎地保持着安息日仪礼, 以至于在这一天不生火煮饭，而应在前一天煮煎和烹调好。

开封犹太社团没落是天灾人祸的结果。开封地处黄河岸边，历史上黄河多次决口，淹没开封。 明朝末年，闯王李自成率农民军攻打开封，因为久攻不下，遂决黄河水倒灌开封城。城中居民饿死、淹死不计其数，犹太人死的死，逃的逃，礼拜堂被毁，犹太社团急剧衰落。

鸦片战争之后，中国人排外情绪高涨，开封犹太人也遭冲击。一些中国文人误认为开封犹太人就是天主教徒或者景教徒，横加攻击。其中比较典型的是一个自称“天下第一伤心人”的人的说法，“犹太国乌合利之党，于宋隆兴元年贡五色棉、五色布,借此勾结匪徒，插足中国。佯以劝善为名，袭后稷诞生事。谓伊教祖耶稣为其国童女玛利亚所生，教人崇奉天主为事。且能赎罪致福，有求必应，以此惑人。始得私建清真妖神等寺于河南开封府，名其教曰天竺。因乌合利初从北天竺来后改名挑筋。”

义和团运动时对外国人的肆意屠杀肯定使得开封犹太人更加恐惧。因此，在多重压力下，犹太人为求自保，不得不主动融入汉人或穆斯林社区。1850年邱天生和蒋荣基代表伦敦犹太人布道会来开封访问时，发现开封犹太人之中已无人认识希伯来文，已经快50年没有自己的掌教了，已出现严重的信仰危机，完全丧失了对救世主弥赛亚的盼望。1866年，美国传教士丁韪良来到开封时，看到的开封犹太清真寺已成为一片废墟，唯有一块6英尺高的石碑(弘治碑)立在污水池旁边。几乎所有的犹太家庭都与当地居民通婚，已无人认识希伯来文，他们正处在被回教或其他异教快速同化，其中一个犹太人甚至当了和尚，并取名本道。此后又经过战乱、革命，多数开封犹太人完全丧失了自己的宗教， 融入了当地汉人和穆斯林中。