圣地亚哥是一个独自在湾流里的一条小船上打鱼的老渔夫。如今已经过去了84天，他还是没有捕到一条鱼。在头40天里，还有个男孩和他在一起。可是，过了40天老人还没有捕到一条鱼，男孩的父母便将男孩送到了另外一条船上。在那条船上，头一个礼拜，男孩就捕到了3条大鱼。
每当看到老人空手而归时，男孩就会感到很难过——是老人教会了这男孩捕鱼，男孩敬爱他。这一天，老人告诉男孩，自己要驾船到远方，等风转向再回来。
第二天清晨，老人驾着他那条小船驶出了港口。当太阳出来的时候，老人已经将小船划到了距离海岸很远的大海中。他放下了4根钓索，每个钓钩上都挂着一条鲜美的沙丁鱼，那是男孩为他找来的。中午，老人发现其中一根钓索猛地沉到了水中，他知道，是大鱼咬饵了！他用力地往回收钓索，可是，一点儿用也没有。那条大鱼只顾慢慢地游着，拖着小船向前驶去。
夜晚来临了，那大鱼丝毫没有停下来的意思。老人又累又饿，却下定决心，要跟那条大鱼斗争到底！
第二个白天到来了，大鱼突然一歪，滑出去的钓索将老人的右手勒破了，而他的左手也抽筋了！即使这样，老人依旧与那条大鱼周旋着。为了坚持下去，他不断地和大鱼、鸟儿、大海说话，不断地回忆往事，想着那个男孩。
第二天中午，大鱼露出了水面！这是老人第一次看到它，尽管早有准备，老人还是惊呆了！因为，它比小船还要长两英尺！
在僵持中，老人迎来了第三个黎明，大鱼终于现出了疲劳的迹象，围着小船打起转来。老人趁机快速收着钓索，终于，大鱼游到了小船边。老人举起鱼叉，用力将它扎进了大鱼的身体！
可是，就在老人返航的途中，大鱼的血腥味引来了大批鲨鱼！老人奋力保护自己的大鱼：鱼叉丢了，就将刀子绑在桨上；刀子折了，就用桨把；桨把断了，就用棍子！然而，面对数量庞大的鲨鱼，老人终究没有保住自己的大鱼。当小船返回港口时，大鱼只剩下了鱼头、鱼尾和一根光秃秃的脊骨。
第二天，人们来到码头，观看老人的“战利品”。而这时，老人正一边喝着咖啡，一边和男孩计划着以后的生活。是啊！人不是为了失败而生的，一个人可以被毁灭，但不能被打败！
