从公元1世纪起，法国(当时称高卢)就开始有少量犹太人。罗马帝国镇压了巴勒斯坦犹太人几次起义后，很多犹太人被作为奴隶运到欧洲，高卢地区的犹太人也因此日益增加。到公元3世纪，在马赛等商业中心已有为数不少的犹太人，并溶入当地包括农业在内的经济生活中。加洛林王朝时期(751—987)犹太人已遍布法国各地，并在各地建立了犹太居住区。他们利用与地中海沿岸以及东方的关系，在很大程度上担负着法国与这些地区的商业贸易。由于早期犹太人在商业贸易中很活跃，对法国经济的发展和繁荣起了很大作用，所以犹太人受到国王政权的鼓励和保护，双方保持着密切的关系。但自9世纪以后，随着天主教会势力的上升，犹太人的经济和社会地位开始恶化。
除了从事商业外，法国犹太人中还有很多人从事葡萄种植和酿酒(葡萄酒是犹太宗教仪式中的必需品)。11世纪以前法国有很多犹太人的葡萄种植园。虽然当时地中海地区犹太人手工业很发达，但由于法国的手工业行会处于教会控制之下，所以犹太人被排除在这一行业之外。早期法国每个地方的犹太居住区都是一个独立的自治社区，有着各自选举出的管理机构和宗教法庭。社区内的宗教生活也很活跃，有一些塔木德学院，这一时期产生过格索姆和拉希等对后世有深远影响的著名宗教学者。
12世纪后，由于基督教会的商业行会的建立和对商业的垄断，犹太人被逐渐从商业中排挤出去，很多犹太人便开始转为从事放债。当时教会禁止基督教徒放债和收取利息，犹太人作为“异教徒”则不受此限制，而经济生活中又不能缺少借贷活动，于是越来越多的犹太人便进入了这一行业。尽管当时并不只有犹太人从事放债活动，但在基督教会的宣传和影响下，他们作为“高利贷者”的形象已在一般人心目中形成，并受到鄙视和攻击。
十字军运动在西欧兴起后，基督教的势力急剧扩张，对犹太人的迫害也逐渐升级。洛林、鲁昂等地的犹太居住区被洗劫，一些犹太人被屠杀。1171年布洛瓦发生的“血祭诽谤”是欧洲最早的“血案”之一，教会认为犹太人在逾越节谋害基督教儿童，用他们的血来祭神。这次“血案”后，31名犹太人被绑在柱子上烧死。此后，“血案”和犹太人玷污圣饼案在法国时有发生。1240年在巴黎，由于犹太人在与基督教会的辩论中失败，证明《塔木德》是“应遭诅咒”和“亵渎神明”的，因而发生了大规模焚烧《塔木德》的事件。
12世纪在法国的封建制度下，各地的犹太人被视为附属于领地的财产，领主可将他们随土地一起转让，也可把他们驱逐出去。1182年法王菲力浦·奥古斯特从其领地(现巴黎及周围地区)驱逐了所有犹太人，没收了他们的财产，并宣告天主教徒欠犹太人的债务一笔勾销。1198年犹太人又被召回，但增加对他们的税收。从1182年到1359年法国曾五次驱逐犹太人，但每次驱逐后又把他们召回来。每次召回的目的主要是经济上需要他们。如1361年法王约翰被英国俘虏，为了筹集一批巨额赎金，于是就允许犹太人返回法国。但是，1394年犹太人被从法国大部分地区驱逐后就没有再让他们返回。被驱逐的犹太人或是经德国流向东欧，或是向南去北非和土耳其奥斯曼帝国。法国只有少数地区，如王权较弱的普罗旺斯，南部教皇领地阿维尼翁，以及阿尔萨斯—洛林等地还有数量不多的犹太人。16世纪后，一些从伊比利亚半岛来的马兰内犹太人在法国西部定居下来。到18世纪末法国大革命时，全法国大约有近5万名犹太人。
法国大革命给犹太人带来了解放。1791年国民大会规定赋予法国犹太人国家公民的全部权利。拿破仑更进一步于1806年召开了一次犹太知名人士大会，并在第二年召集了犹太长老议事会。这个议事会是一个具有宗教权威的机构，它仿照古代犹太长老议事会设71名成员。长老议事会做出决议，要求法国犹太人在不违背犹太教法的情况下，遵守国家所有的世俗法律。这意味着法国犹太人放弃了传统的拉比审判权、社区自治权和返回故国以色列的理想，使他们自己完全溶入法国社会。法国犹太人的解放运动对整个欧洲犹太人的解放和社会地位的改善产生了极大的影响。
尽管犹太人在法律上获得了与其他人一样的平等权利，许多犹太人也真心诚意热爱他们居住的国家，愿意溶入居住国社会，但千百年来人们对犹太人的偏见根深蒂固，许多法国人始终把犹太人视为“异己”和“外国人”，反犹和排犹的思想始终存在。这种情况在19世纪末的德雷福斯事件中反映得极为明显。一位犹太裔法军上尉阿尔弗雷德·德雷福斯遭到诬陷并被严厉地判处叛国罪，后来证明他是无罪的。之所以发生这样的情况，在很大程度上因为他是一名犹太人。在案件的审理过程中，暴露出法国社会各阶层中深深的反犹情绪和对犹太人溶入法国社会的不予认同。很多犹太人由此对“溶入所在国社会”的前途失去了信心和希望，包括当时正在法国的西奥多·赫茨尔，正是德雷福斯事件促使他成为坚定的犹太复国主义者。
第二次世界大战中，法国被纳粹德国占领。德国与维希傀儡政权共同执行了希特勒的灭犹政策。许多地区的犹太人遭到驱逐或隔离，当时法国32万犹太人中有8．3万被屠杀或迫害致死，占26%。与维希政府相反，许多法国人却拯救了许多犹太人。仅1944年，就有近8千名犹太儿童被藏在修道院或私人家中而幸免于难。在各方面的努力和协助下，数万名犹太人越过阿尔卑斯山和比利牛斯山，经瑞士和西班牙、葡萄牙逃出纳粹魔爪。另外，还有大约20%的犹太人在法国参加了抵抗运动。
本世纪以来，法国接受了两股较大的犹太移民。一股是本世纪初的东欧犹太移民，另一股是第二次大战后来自北非穆斯林国家的犹太移民。尤其是后者，因数量大，特征明显，给法国犹太社区带来了极大的影响。自50年代以来，有30多万犹太移民进入法国，其中阿尔及利亚12万，突尼斯8万，摩洛哥6．5万，埃及2．5万，另外还有一些来自叙利亚、黎巴嫩。到80年代，法国犹太人总数已达67万，成为世界上犹太人口第四多的国家，仅巴黎市就有犹太人近30万。
第二次世界大战前，法国犹太人同化程度已很深，在很多进入中上阶级的人中已不容易看出他们的犹太特征。第二次世界大战前后，法国曾有4位总理出身犹太家庭，如勒内·梅耶、米歇尔·德勃雷和罗伦特·法比尤思。但大批塞法迪犹太人的到来，使法国犹太人的特征又明显起来，给世俗化程度较深的法国犹太社区又注入了新的宗教活力。一些新的犹太会堂在犹太人集中的地方被建立起来，犹太教学校和犹太组织也在一些地方出现。80年代以来，个别地区出现了反犹迹象，如涂写反犹标语和毁坏犹太墓地等。以色列建国后，大约有2．4万犹太人从法国移居以色列。