在抗日战争烽火连天的河北白洋淀，一个顽皮而冲动的少年张嘎，眼睁睁目睹了奶奶为掩护八路军撤退而惨遭日军杀害。悲痛欲绝的他，孤身一人来到县城，决心找到游击队的排长罗金宝，以求得他的帮助，为奶奶复仇。然而，当他真的遇见罗金宝时，却将他误认为汉奸，闹出了笑话。误会澄清之后，张嘎立志成为一名小八路，渴望拥有一把属于自己的枪。然而，由于对枪的渴望太过迫切，他在与胖墩打赌时耍了小聪明，甚至在一次战斗中，不顾纪律，将缴获的真枪偷偷藏匿于树上的鸟巢之中，再次闹出了笑话。然而，张嘎并未将这当作笑话，心中困惑不已的他，与胖墩再次来到县城，决心亲自为奶奶报仇。在县城，张嘎与日军的小队长龟田以及翻译官展开了一场斗智斗勇的较量，两人并未从他身上得到任何便宜。经过这一系列事件的磨砺，张嘎从一个鲁莽顽皮的少年，蜕变成为了一名真正的八路军小侦察员。