1838年山東堂邑縣，也就是今天的冠縣柳林鎮武家莊的一戶貧苦人家降生了家中的第七個孩子，父母并沒有因為新生命的降生而有絲毫喜悅，因為對于本就快揭不開鍋的家人來說，這無異于雪上加霜，多一口人就多一張嘴吃飯。心煩意亂的父母甚至連名字都懶得給他起，僅按家中的排行稱之為武七。

屋漏偏逢連陰雨，船破還遇打頭風。在武七大概七、八歲那年，父親因病去世，四個姐姐也相繼做了人家的童養媳。小小的武七，只得白天出去行討，晚上編些麻繩換幾個錢，買幾個饅頭填飽自己和母親的肚子。十六、七歲時，母親安排武七去一位遠方姨父家做長工，負責看果園和喂豬。后來又給當地一位地主家打工，卻屢屢受到欺辱，白白干了三年。雇主欺負武七不識字，做假賬謊稱工錢已結，武七極力爭辯卻反而招致一頓毒打。氣得武七病倒三日。在三天不語不食的思考中，他意識到自己被人欺辱是因為不識字，沒讀過書。于是他下定決心靠乞討興學，幫助窮苦人家的孩子接受教育，通過知識來改變自身的命運。

從20多歲開始，到此后的30多年間，武訓行乞的足跡遍布，山東、河南、河北、江蘇等省。每每討得一些衣物他總是想方設法變換成現錢。為了能夠吸引過往路人，他還時常表演錐刺身、刀破頭等節目。還給自己剃了在現在看來相當“朋克”的發型，把左邊的頭發剃光，留右邊的一半頭發，等左邊的頭發長出來了，又把右邊的頭發剃了。他自己還編了一首歌謠：“左邊剃，右邊留，修個義學不煩愁;右邊留，左邊剃，修個義學不費力。”把婦女們扔掉的布絮線頭撿起來，搓成繩子賣。在那個年代，底層老百姓的謀生活計，武七幾乎全做過。后來幫助過武七興辦義學的當地鄉紳楊樹坊曾如此描述：“以傭工之錢所入無多，凡計日價工，凡挑擔、拉車、推磨、拉砘，即極艱苦之事，茍可以獲利者，無一不為。”

慢慢地，武七終于積攢下一些錢財。因不識字恐有被人騙，他將所有的存款都尋找可信任的鄉紳來代理置辦田產、存款放息。楊樹坊就是武七跪求了兩天才答應幫他的。當然在這個過程中他也不是沒有被人騙過。1875年，山東省一些地區大旱，武七曾拿出40擔紅高粱，請鄉紳郜若純替自己放賑，郜氏在放賑中行事公正，獲得了武七的信任，于是又拿出一筆錢讓郜氏替自己存款生息，結果卻被郜氏中飽私囊。

武七49歲那年，總共已經購置了田產230多畝。這在當時，已然是很相當可觀的一筆財富。但武訓仍然堅持乞討的生活，鄉紳楊樹坊勸他說不孝有三，無后為大，應該娶妻生子，被他拒絕了，自謂：“街死街埋，路死路埋”。

1888年，武七在自己的家鄉柳林鎮東門外建起了第一所義學，取名為“崇賢義塾”。武訓終于實現了自己的人生目標。據周拔夫《武訓先生年譜》記載，“義塾共建瓦屋20間，大門二門各座，四周的垣墻也都修齊，總共用錢4378串，這建筑費除先生自己積存的2800串外，下欠之數，全由當地的紳耆捐助彌補”。

學校建成之后，武七親自到跪請當地有學問的進士、舉人到學校任教，并跪請貧寒人家送子女到義塾上學，學費全免，所需費用全部由武七置辦的田產獲利所得承擔。開學那天，宴請老師，他請了幾位鄉紳作陪，自己則侍立左右，說自己是乞丐，不識字，不敢入席，等到大家都散席了，才吃些殘羹剩飯匆匆離去。

武七雖然不識字，不可能像雷鋒叔叔一樣寫日記，但他的事跡依舊“上達天聽”。當時的山東巡撫張曜得知武七的義舉之后，特意召見了武七，并為其取名為“武訓”。同時奏請光緒帝，授以“義學正”名號，賞穿黃馬褂。從此武訓聲名大振。

1890年，第二所義學在館陶縣楊二莊成立。1896年，第三所義學在臨清縣御史巷辦起。同年4月，武訓在臨清去世。據《清史稿》記載，武訓死時“聞諸生誦讀聲，猶張目而笑”。出殯當天，各鄉縣自發參加葬禮者達數萬人，義塾師生無不紛紛落淚，失聲痛哭。

民國時期的教育家陶行知、黃炎培等人都深受武訓影響，甚至作為軍閥的段繩武將軍，在武訓祠參觀了武訓的事跡之后，搞起了鄉村建設，把武訓當成了自己的精神導師。1934年，在武訓誕辰97周年的紀念活動中，蔣介石親筆題寫《武訓先生傳贊》：“以行乞之力，而創成德達才之業。以不學之身，而遺淑人壽世之澤……”