1927 年 “四一二政变” 后，国民政府在南京建立政权，与武汉国民政府经历短暂分裂后重新合作，于 1928 年 4 月发起 “二次北伐”，目标是推翻奉系军阀张作霖控制的北京政权，实现全国形式上的统一。至 5 月初，北伐军（主要为蒋介石率领的第一集团军）一路北上，顺利攻克泰安、兖州等地，兵临山东首府济南，奉系军阀部队节节败退，中国统一进程出现重要进展。
而日本对中国山东早有觊觎 ——1914 年一战期间，日本就以 “对德宣战” 为名强占山东，1919 年巴黎和会更是强行将德国在山东的权益转交日本，引发中国 “五四运动”。1928 年北伐军北上时，日本担忧中国统一后会损害其在山东的殖民利益（如胶济铁路控制权、矿产资源掠夺权等），于是以 “保护日侨” 为借口，蓄意出兵干涉中国内政。
早在 1928 年 4 月 19 日，日本内阁就决定派遣第六师团（师团长福田彦助）进驻山东，从青岛、大连等地调兵，抢先于北伐军进入济南。至 5 月初，驻济日军已达万余人，不仅在济南城内划定 “警备区”，修筑工事、架设机枪，还禁止中国军队进入济南核心区域，为后续冲突埋下伏笔。
从摩擦挑衅到血腥屠杀：
1. 日军蓄意制造摩擦
1928 年 5 月 1 日，北伐军先头部队进入济南，军纪严明、秩序井然，与济南民众关系融洽。然而，驻济日军却不断蓄意挑衅：
5 月 2 日，日军以 “北伐军士兵靠近日侨区” 为由，无故扣押北伐军士兵，双方发生小规模冲突；
同日，日军第六师团师团长福田彦助向国民政府提出 “最后通牒”，要求北伐军撤出济南周边地区，遭到国民政府拒绝 ——此时的日军已完成军事部署，蓄意扩大冲突。
2. 血腥屠杀与外交羞辱
1928 年 5 月 3 日，日军以 “中国军队破坏日侨财产” 为借口，向济南城内的北伐军和无辜民众发动突然袭击，制造了震惊世界的 “五三惨案”：
军事屠杀：日军凭借优势火力，对北伐军驻地、平民街区进行无差别射击，甚至动用坦克、重炮轰击。北伐军因未做好大规模作战准备，虽有抵抗但损失惨重，仅当天就有千余名中国士兵和民众遇害；
外交暴行：日军公然违背国际法，闯入国民政府驻济南交涉署，将交涉员蔡公时等 17 名外交人员捆绑殴打。蔡公时因怒斥日军暴行，被日军割去耳鼻、挖掉双眼，最终与其他外交人员一同被杀害，交涉署也被日军焚毁；
持续暴行：此后数日，日军在济南城内展开疯狂屠杀，焚烧房屋、抢劫财物，甚至对妇女实施暴行。据不完全统计，济南惨案中中国军民死亡人数超过 6000 人，受伤 2000 余人，财产损失达数千万元。
3. 国民政府的妥协与日军的进一步侵略
面对日军的血腥暴行，国民政府当时采取了 “妥协退让” 政策 —— 蒋介石一方面命令北伐军 “避免与日军冲突”，绕道济南继续北上；另一方面请求英美等国 “调停”，但西方列强出于自身利益，对日本暴行采取纵容态度。
日军则得寸进尺，于 5 月 11 日完全占领济南，随后在山东各地扩大军事控制，进一步巩固其在山东的殖民统治，直至 1929 年 3 月，在全国反日浪潮压力下，日本才被迫与国民政府签订《济案协定》，但协定中并未追究日军责任，反而要求中国 “保障日侨安全”，实质是对中国主权的再次践踏。
1933年（民国22年），日本关东军纠集伪满和内蒙古伪军发动了热河战役，兵锋直达河北最北端长城一线，这就是中国抗战史中所称的“长城抗战”。虽然中国军队大多数参战部队奋勇抵抗，但终因实力不济被日军突破长城各口。
5月31日，中日双方签订《塘沽协定》。协议规定中国军队撤至长城线以南、平津以北地区，冀东地区22个县成为没有中国军队防守的“非武装区”。协议还使得伪满洲国的南部“国境”直抵河北北部，大量国土沦入敌手。
1935年（民国24年），为从政治、经济上将华北地区从中国分离出去，日本驻华特务机构、关东军、天津驻屯军多次召开会议策划具体实施方案。随后数月，日方在河北、天津多地策划事端，引发局势紧张。