抗日战争时期的河北白洋淀，调皮莽撞的少年张嘎（安吉斯）目睹奶奶为掩护八路军逃跑被日寇杀害后，只身来到县城要找到游击队排长罗金宝（张莹），好让他帮忙为奶奶报仇，哪想真遇见罗金宝时，他将对方当作了汉奸，闹了笑话。

误会解除后，张嘎梦想成为一名小八路，并想拥有一把枪，结果因为太想得到枪，他不但在和胖墩（吴克勤）打赌时耍赖，还违反纪律将某次战斗中收缴到的真枪偷偷藏在了树上的鸟窝里，再闹笑话。张嘎可没将笑话当笑话看，想不通的他约上胖墩又来到县城，要自个替奶奶报仇。

在县城，张嘎遇到鬼子龟田（葛存壮）和胖翻译（王澍），一番斗智斗勇，两人没从张嘎身上捞得什么好处。一些列事情经历后，张嘎由鲁莽捣蛋的少年成长为真正的八路军小侦察员。