犹太人最早随同罗马军团来到德国。他们从事贸易，住在罗马人兴建的莱茵河畔的一些城市中。公元4世纪的文献中，提到科隆的犹太社区。10世纪的文献中提到犹太人的定居点。犹太人主要住在莱茵河西岸、洛林和一些古老的贸易中心。11世纪，德国南部出现了犹太社区。12—14世纪，犹太人由于受迫害而迁往德国东部和北部。13世纪初，犹太人来到慕尼黑和弗劳兹莱夫，13世纪末来到柏林。犹太人在许多城市的经济发展中起到重要作用。在1096年第一次十字军东征以前，德国犹太人除了1012年暂时被逐出美因兹外，未曾遭到迫害。美因兹和沃尔姆斯的伊希瓦曾是中欧所有犹太人的精神中心。在耶希瓦学习和任教的有犹太世界的一些著名学者。十字军东征时期残酷的迫害和大规模屠杀，使莱茵河畔一些繁华的犹太社区凋蔽衰颓，某些犹太人被迫接受洗礼。
12—13世纪，德国犹太人的经济状况和社会状况严重恶化。在十字军东征时期成长起来的德国商人把犹太人从贸易领域中排挤出去。城市行会阻挠犹太人从事手工业，不允许他们进入自己的领地。经济活动中的限制迫使犹太人从事贷款业务。由于基督教徒禁止放高利贷，所以，放贷成为犹太人的主要职业之一，这造成了社会上很多人对犹太人的憎厌。14世纪，300个犹太社区被摧毁，犹太人从德国大部分城市中被赶走或者被消灭。
经济发展的需要使国王和市政当局很快邀请犹太人重返先前他们被驱逐的地方。15世纪，德国许多犹太社区恢复了。犹太人重操贸易和金融行业，掌握了新的经济活动领域(德国南部的葡萄酒贸易，以及经营农业品、皮毛和亚麻)。15世纪虽然没有发生以前对犹太人的那种迫害和屠杀，但德国人的经济竞争以及摆脱犹太人高利盘剥的愿望，往往成为把犹太人从某些地区和城市逐出去的原因。
艰难的外部条件妨碍了中世纪德国犹太人文化生活的发展。在驱逐和迫害的年代里，许多犹太书面文献资料毁灭了。不过，文学创作、主要是宗教文学创作没有停止。十字军东征时期犹太人的苦难在文学作品里得到反映。15世纪最终确立了阿什肯纳兹犹太人的祈祷规则。杰出的《塔木德》研究者力图使《塔木德》教规适应基督教欧洲的生活条件。16世纪的人道主义和宗教改革运动未能改善犹太人的处境。宗教改革巩固了国王的权力。在以后数百年期间，犹太人的命运同德意志各个公国的历史相联系。
专制主义时代给犹太人的状况带来影响深远的变化。德国当权者执行重商主义政策，对犹太人、特别是拥有资本和丰富的商业经验和银行经验的犹太人的经济活动感兴趣。他们邀请犹太人进入自己的领地，以发展工业和内外贸易。同时，建立了监察系统，调节犹太社区生活的各个方面，为犹太人规定了居住地、从事职业的范围、开设银行的数量，甚至确定了他们必须购买的商品。违反这些规定，会处以很重的罚款和其他严厉的处罚。社区的自治和拉比的权威逐渐失去了意义。随着犹太人享有平等公民权，拉比失去了履行司法职能的可能性。
18世纪末期，犹太人密集的波兰领土并入普鲁士，波兰犹太人在某种程度上阻滞了这段时期中的犹太人、特别是殷实的犹太人中明显加强的同化过程。启蒙运动促进了同化，M·门德尔松和柏林启蒙运动家的活动拉开了这场运动的帷幕。在法国革命(1789)和拿破仑战争(1806—1812)的影响下，犹太人与德国领土上的其他民族一律平等。不过，在复辟之后，这种权利丧失殆尽。许多犹太人、主要是富裕阶层的代表和知识分子(包括门德尔松的子女，以及著名作家L·伯尔尼和海涅)改信基督教。部分犹太人号召犹太人同周围其他民族相接近。在受启蒙运动影响的犹太人中，产生了犹太教改革运动。它的活动家们企图淡化犹太教规的严格性，使祈祷仪式接近于基督教的仪式，同时强调犹太教的精神方面和伦理方面。为了使德国犹太人和知识分子了解自己民族的历史，汉斯(1798—1839)、莫泽尔(1796—1838)和聪茨于1819年成立了犹太人文化科学协会，海涅参加了协会的工作。犹太教改革派遭到传统犹太教领袖们的猛烈抨击。在许多地方产生了平行的犹太社区：改革社区、正统社区和一般社区(包括两派的代表)。德国犹太人生活中的社会派别和宗教派别引起对犹太问题的兴趣，促进了犹太宗教、历史和文化研究中的新流派——犹太教科学的出现。19世纪末和20世纪初，德国成为以欧洲科学制定的方法研究犹太教的中心。
19世纪，德国犹太人在经济和社会领域中获得长足的发展，也为解放进行了顽强的斗争。19世纪末期，大部分犹太人住在大城市，属于富裕阶层。除了从事商业和银行业以外，犹太人对德国工业的发展也作出了很大的贡献。自由职业对犹太人敞开大门。除了上面提到的伯尔尼、海涅以外，还有许多犹太人在19—20世纪初的德国文化生活、文学和科学的发展中起到显著作用。其中有哲学家科亨和胡塞尔，哲学家和社会学家齐美尔(1858—1918)，数学家坎托尔(1845—1918)和闵科夫斯基(1864—1909)，医生和细菌学家P·欧利希(1854—1915，1908年获诺贝尔奖)，化学家F·哈伯(1868—1934，1918年获诺贝尔奖)，画家M·李卜曼，作家A·茨韦格、路德维希、L·福伊希特万格(1884—1958)，导演和戏剧活动家M·赖因哈特(1873—1943)。1869年通过了不分民族和宗教的公民平等法。不过，19世纪末—20世纪初，在社会、政治和科学生活的各个领域里，实际上保留着对犹太人的歧视。19世纪70年代末期，德国出现了反犹党派，在德国社会的广泛范围内，传播着反犹意识形态，出版反犹书刊。1871年德国犹太人为512158名(占全国人口的1．25%)，1890年为567884名(占1．15%)，1910年为615021名(占0．95%)。
20世纪初期，同化波及到越来越广泛的犹太阶层。反犹主义和东欧犹太人的涌入妨碍了同化。1912年德国建立了第一个犹太青年组织——布劳·瓦依斯，它力图复兴和巩固犹太传统。犹太复国主义运动产生于1897年，虽然没有成为群众性的，但它组织良好，并产生了一系列著名的犹太复国主义活动家，像D·沃尔夫佐恩、O·瓦尔堡(1883—1970)、A·鲁宾、K·布留闵尔德(1884—1963)。
在两次世界大战期间，德国犹太人的历史可以分为两个阶段：第一阶段为1918—1932年，犹太人的文化和经济繁荣；第二阶段从1932年开始，这是西欧最大的犹太社区遭到破坏和消灭的时期。1919年魏玛宪法取消了对犹太人的任何歧视，犹太社区的地位受到法律承认，社区活动得到巩固，产生了许多犹太文化机构和科学机构。与此同时，同化也加强了。与异族通婚的比例非常高(1921—1927年为44．8%)。皈依基督教的情况经常发生(每年约500起)。一切社会活动领域向犹太人敞开。某些犹太人如伯恩斯坦、哈泽等成为社会民主党的领袖。许多犹太人在政府里担任重要职务，如W·拉特瑙(1867—1922，1922年任外交部长)，G·朗道埃尔(1870—1919，曾任巴伐利亚政府人民教育部长)。
德国在第一次世界大战中的失败，以及战后的经济崩溃和失业，为民族主义情绪和反犹主义培育了土壤。德国犹太人的政治影响和社会影响的增长，他们的政治和社会事业的成就也促进了反犹主义的增强。纳粹执政(1933年1月30日)导致了德国犹太生活整个结构的瓦解。犹太人从经济、社会和文化生活的一切领域中被驱逐出去。1933年4月1日，纳粹宣布了犹太贸易机构和工业机构的限额。一周以后，“非雅利安人”的术语被合法化，犹太人开始从国家机关、社会组织、大学和研究所中被清洗出去。
1935年9月通过的纽伦堡法令标志着第三帝国反犹政策的新阶段。犹太人迁居国外变成大规模逃亡，他们逃到邻国，然后去美国、加拿大、南非和澳大利亚。根据国联的官方统计，1933年—1939年，32．9万犹太人离开德国。1939年5月，德国剩下21．4万犹太人。在第二次世界大战中，主要在1941—1942年，德国成为被占领的西欧国家犹太人转运到东欧死亡集中营的中心。成千上万的德国犹太人还是在战争爆发之前就被关在集中营中。1941年3月，希特勒下令通过肉体消灭“最终解决”犹太问题。1941年9月犹太人获得命令，必须在衣服上佩带黄色标志。1941年10月，在帝国保安总局犹太事务处头目埃希曼的监督下，犹太人被大规模地押解到东欧的隔都、强制劳动集中营和死亡集中营中，德国仅剩下16．4万犹太人。被押解出境或者自杀身亡的犹太人的财产，被政府作为“人民和国家敌人的财产”而没收。1943年9月，德国宣告成为“净化于犹太人”的国家。1944年9月1日，德国还剩下14574名犹太人没有被关入集中营中，他们中大部分(97．8%)是非犹太人的妻子或者是根据纽伦堡法令确定的半犹太人。被纳粹在德国屠杀或者由于驱逐而致死的犹太人为16—18万。
纳粹垮台后，许多人认为，纳粹屠犹导致德国犹太人历史的终结，犹太人再也不会返回德国。战争结束时，德国集中营中有数十万来自东欧各国的犹太人。战后，约20万犹太人作为流动移民来到德国。他们中大部分人不认为自己是德国犹太人的一部分，不参加残留的或者返回的原本德国犹太人着手的犹太社区的重建。他们建立了“幸存者”组织，旨在移居以色列。当50年代初期出现大规模阿利亚浪潮时，德国的犹太流动移民仅剩下1．2万人左右。
在战后最初几年，许多犹太人确认，他们居住在这个“该死的国家”具有临时性，他们很快就会离去。50年代初期，可以听到另一种意见，有人呼吁在犹德人民之间“架设桥梁”。这种观点得到西德政府的广泛支持。西德第一任首相阿登纳认为，在德国建立新的犹太社区，以及确立犹太社区同德国人民之间的友好关系，有助于德国在世界舆论面前恢复道德和政治名誉。
西德大部分犹太居民不是原来的德国犹太人。西德犹太人数相对稳定，同时有某种增长趋势。1950年，作为西德犹太社区成员登记的人数为22431人。1964年增加到25064人，1980年1月增加到27768人。不是社区成员的犹太人约1—1．5万人。1980年1月，大部分犹太人集中在5个大城市：西柏林(6145人)，法兰克福(4931人)，慕尼黑(3920人)，汉堡(1375人)和科隆(1248人)。西德犹太人、特别是西德出生的犹太人与异族通婚的比例最高(除了奥地利)：1951—1958年男性为72．5%，女性为23．6%；而1901—1930年分别为19．6%和12．2%。关于犹太社区的职业结构和社会结构，没有准确的资料。许多犹太人属于中产阶级；不少人靠退休金、纳粹造成的损失的赔款或者社会保障机构的津贴生活。许多犹太人由于在各个城市买卖不动产而致富。
总的说来，犹太社区组织良好。它们中大部分属于犹太教中的自由主义流派。犹太社区的最高机构是德国犹太人中央委员会(1950年成立)。犹太教育显得薄弱。在法兰克福和慕尼黑建立了犹太小学。1962年在某些犹太社区建立了犹太成人学校，上学的也有非犹太人。1973年夜校共有4千名学生。在西柏林、慕尼黑和科隆，有犹太星期日学校。出版两种德文犹太周刊和一种意第绪语周刊。法兰克福有一所犹太剧院。犹太复国主义运动于1954年恢复。科隆建立了德国犹太学图书馆——德国犹太史方面最为完备的图书馆。1966年在汉堡大学建立了德国犹太人历史研究所。
在前东德，作为犹太社区成员登记的犹太人在1980年为900人，其中东柏林400人。许多犹太出生的人不是社区成员。他们中某些人在社会领域里出类拔萃，曾分别担任艺术科学院院长、副院长、作曲家和音乐家协会第一书记、作家协会主席、美术家协会主席等。从1970年起，前东德没有拉比。节日时拉比从匈牙利来到前东德。