由於德國在山東的侵略行徑，使得山東人民對外國侵略者極爲反感。早在1897年就發生了鉅野教案，山東巡撫李秉衡因此被貶職。在此之後，山東的民教矛盾有增無減。1897年，山東冠縣飛地梨園屯(今邢臺市威縣)村民與教堂因歷史上的土地糾紛引起衝突。威縣梅花拳師趙三多應村民閻書勤等的邀請，前往援助。後趙三多將梅花拳改名爲義和拳。1898年6月，山東巡撫張汝梅上奏朝廷，認爲義和拳本屬鄉團，建議“改拳勇爲民團”。並明確說義和拳就是“義和團”，在清朝官員中首次提出了“義和團”的概念。同年10月趙三多等人在冠縣飛地蔣家莊(今邢臺市威縣)豎起“扶清滅洋”的旗幟“起義”，遭清軍鎮壓而失敗。
次年(1899年)，山東平原縣知縣蔣楷鎮壓義和團，當地義和拳首領李長水請求荏平、高唐等地的義和拳首領朱紅燈支援，朱紅燈在槓子李莊整齊隊伍正式豎起了“天下義和拳興清滅洋”旗幟。10月11日，蔣楷率領勇役數十人前來鎮壓，被義和拳打敗。這次事件後來被稱爲“平原起義”。
後來清廷加派袁世敦等人前來鎮壓，在森羅殿戰鬥中擊敗義和拳。其後清軍遊擊馬金敘活捉義和拳首領朱紅燈、心誠和尚等人。當時的山東巡撫是毓賢，他仇視外國侵略者，對民衆反基督教情緒比較同情。他罷免了蔣楷、袁世敦等，對義和拳採取剿撫兼施，以撫爲主的措施，有說法指出正是毓賢改拳爲團，還向朝廷上奏將民教矛盾的責任歸結於教會一方。其態度遭到外國敵視，在列強交涉下毓賢被革去職務。但毓賢對義和拳也進行了鎮壓，在其離職前下令將朱紅燈、心誠和尚、於清水等義和團首領殺害。1899年12月，袁世凱代替毓賢署理山東巡撫。
1899年，袁世凱在濟南就任山東巡撫後，對義和團始終持敵對態度，在其任山東巡撫後嚴格限制義和團的活動，並從1900年6月開始血腥鎮壓復起的義和團。在山東遭遇不利情況後，義和團開始向直隸等地轉移。清政府嚴禁義和團，先後派出多批軍隊參與鎮壓。1900年5月12日，淶水縣高洛村發生教案，練軍分統楊福同前往彈壓。5月22日，數千義和團在石亭設伏擊斃楊福同，被稱爲“淶水大捷”。這次戕官事件使清廷大爲震驚。隨後的1900年5月27日，直隸中部蘆保鐵路沿線約3萬義和團佔據了涿州城，知州龔蔭培無計可施，便絕食坐以待斃，這是義和團佔據和控制的第一個州城。在此之後，清政府又派出聶士成等參與鎮壓，與義和團多次交戰。但此時直隸地區的義和團運動已呈現出“誅不勝誅”的局面。
