心地善良的邢老汉孤身一人，与世无争，闲暇时总是蹲在炕头一口一口地抽着他的烟袋锅，老人还有一条最听话的大黄狗，他们就在这西北农村相依为伴，倒也其乐融融。突然有一天，从邻省逃荒的灾民中有一个自称叫女女的女人来到邢老汉家，好心的邢老汉收留了她。

年届花甲的老汉终于有了一个真正的“家”，从此老汉红光满面，精神焕发。原来，女女家是富农成分，她是偷跑出来的，家中还有老母亲和一个孩子，女女要给他们找回粮食去。邢老汉和女女已是形影不离了，老汉劝她别回去，并让她把孩子也接来。

但女女接到一封家信，还是趁老汉外出时独自走了。邢老汉回家时已是人去屋空。老汉终日盼望女女能回来，但只有幸福的回忆和老黄狗陪伴着他。为了所谓的节约粮食，县工作组打死了与老汉朝夕相伴的大黄狗。

老汉的精神彻底崩溃了。在一个寒冷的冬天，邢老汉的烟囱没了往日的炊烟…… 六十年代西北农村，善良的邢老汉一直与黄狗相依为命，在某天遇到一个30多岁蓬头垢面的讨饭女人。邢老汉可怜她，将女人领进屋中并为她下面条，令女人十分感激。

第二天清晨，本欲离去的女人在队长魏天贵的撮合下留了下来，并帮邢老汉圆了他的媳妇梦，二人草草成亲。女人带着报恩的心理和邢老汉认真过日子，但却总透着几分忧郁。后当邢老汉鼓足勇气要她将她和孩子的户口迁来时，女人哭着讲出了原因。

邢老汉要赶车进城拉三天砂子，女人为他准备了三天都吃不完的干粮，而当邢老汉回来时，发现屋子格外整洁，女人却已不见踪影。又过了一季，女人始终没有回来，邢老汉似乎比以前更家孤寂了，只有温顺的黄狗始终陪着他。

但不久县里下命令，要求在三天内消灭所有的狗。邢老汉无奈将狗喂饱后送到了工作组。冬季来临，天气格外寒冷，邢老汉的屋顶上却再也没有冒出炊烟……