Die Filmhandlung beginnt während der Hochzeitsfeier von Elizabeth Swann und Will Turner in Port Royal. Noch bevor sich beide das Ja-Wort geben können, werden Elizabeth und Will von Lord Cutler Beckett, einem hochrangigen Repräsentanten der Britischen Ostindien-Handels-Gesellschaft, verhaftet. Beide verhalfen – in Teil 1 – dem Piraten Captain Jack Sparrow zur Flucht, weshalb sie jetzt hängen sollen. Elizabeths Vater, Gouverneur Weatherby Swann, ist machtlos. Beckett ist ein alter Feind Captain Sparrows: In einem Nebensatz erfahren wir, dass er es war, der einst dem gefangenen Captain das "P" (für "Pirat") mit einem glühenden Eisen auf den Arm brennen ließ. Lord Beckett zeigt sich diesmal jedoch ungewöhnlich milde: Er verspricht, Elizabeth und Will nicht zu bestrafen, wenn ihm Will Jacks geheimnisvollen Kompass herbeischafft, der stets in Richtung des vom Kompassträger meistgewünschten Gegenstands oder Lebewesens zeigt.
Jack macht sich unterdessen nach seiner Flucht aus einem Gefängnis, in dem er die Umrisszeichnung eines Schlüssels gestohlen hat, auf die Suche nach dem Schlüssel. Allerdings funktioniert der Kompass bei ihm nicht mehr. Dies wird später von der Wahrsagerin Tia Dalma erklärt: „Jack weiß nicht, was er will!“ Ein Wiedersehen an Bord der Black Pearl gibt es auch mit dem Affen Jack, der in der letzten Abspannszene von Teil 1 („Fluch der Karibik“) zu sehen war, als er aus der wieder vollständig gefüllten Schatzkiste ein Azteken-Goldstück mitgehen lässt, so dass er in Teil 2 als untoter Affe mit seinem Schabernack Captain Jack des Öfteren zur Weißglut treibt.
Will findet Jack auf einer Insel, die von einem Kannibalen-Stamm bewohnt wird. Die Kannibalen haben Jack als ihren Gott anerkannt, wollen ihn jedoch töten, um ihn aus seiner körperlichen Hülle zu befreien. Die Piraten Pintel & Ragetti, den Zuschauern bereits aus Teil 1 bekannt, kommen ebenfalls auf die Insel, nachdem sie dem Gefängnis in Port Royal entkommen sind. Will, Jack und ihren Begleitern gelingt nach vielen turbulenten Szenen die Flucht zur Black Pearl.
An Bord der Black Pearl erfährt Captain Jack Sparrow von Wills Vater, Stiefelriemen Bill (inzwischen als ständiges Besatzungsmitglied der Flying Dutchman ein Untoter), dass Davy Jones, der Kapitän des berüchtigten Geisterschiffs, nach ihm sucht. Davy Jones half Jack, für 13 Jahre Kapitän der Black Pearl zu werden. Nach Ablauf dieser Zeit muss Jack ein Jahrhundert lang ein Mitglied der Crew der Flying Dutchman werden. Die Macht von Davy Jones beruht nicht nur auf der grausamen Schlagkraft seiner untoten Halbwesen aus Mensch und Meeresgetier, sondern auch auf seiner Kontrolle über einen Riesenkraken, der allein und zuverlässig ganze Schiffe versenken kann.
Davy Jones kann nur getötet werden, indem sein Herz zerstört wird. Will und Jack erfahren, dass Davy Jones’ Herz allerdings in einer Truhe auf einer einsamen Insel versteckt ist. Die beiden finden die Flying Dutchman. Davy Jones gibt Jack drei Tage Zeit, ihm 99 Seelen anstatt seiner eigenen zu besorgen, während er Will – der als 100. Seele gilt – gefangen hält. Will ist für Jones interessant, weil der junge Mann ein beseelter Liebender ist.
Will trifft auf Jones' Schiff auf seinen Vater, Stiefelriemen Bill. Nach einem schweren Start finden Vater und Sohn unter diesen schwierigen Bedingungen wieder zusammen, und gemeinsam ziehen sie Wills Flucht von der Flying Dutchman durch. Vorher stiehlt Will jedoch Davy Jones Schlüssel, der die Truhe mit seinem Herzen öffnnet. Bevor er jedoch von Bord geht, schwört Will, seinen Vater von der Sklaverei unter Davy Jones zu befreien. Bill wird am nächsten Morgen von Jones' Mannschaft als Verräter gefangengenommen und in die Brigg gesperrt.
Mittlerweile gelingt Elizabeth die Flucht. Sie trifft in Tortuga auf Jack, dessen Suche nach den 99 Seelen eher bescheiden verläuft. Elizabeth kommt ihm gerade recht, da er ihre starke Sehnsucht nach ihrem geliebten Will dadurch nutzen kann, dass er in ihr den Wunsch weckt, zunächst die Truhe mit dem Herz von Davy Jones zu finden. Erst nachdem das Herz von Jones durchstochen wurde, ist es möglich, Will aus den Klauen von Jones zu befreien. Erschwert wird die Suche jedoch dadurch, dass Elizabeths Wünsche und damit auch die Kompass-Anzeige sich im Laufe der Fahrt ändern: In ihrer Hand zeigt der Kompass allmählich in Richtung Jack.
Einer der Männer, die als Crewmitglied bei Jack anheuern wollen, ist der mittlerweile völlig heruntergekommene ehemalige Royal Navy-Kommodore James Norrington. Norrington verlor auf der Jagd nach Jack Schiff und Mannschaft in einem Hurricane und wurde deswegen als unfähig entlassen. Zusammen fahren sie zur Insel, auf der sich Davy Jones’ Herz befindet. Auch Will ist unterwegs zu dieser Insel, verfolgt von Davy Jones und der Crew der Flying Dutchman; dabei muss er auch den Kraken in Aktion erleben, der das Handelsschiff zerstört, das ihn aus dem Wasser gefischt hatte.
Während Jack Davy Jones’ Herz benutzen möchte, um sich selbst von seinem Fluch freizukaufen, hat Will vor, damit seinen Vater freizubekommen. Als Will das Herz durchstechen möchte, erinnert Jack ihn jedoch an den Kraken, der nur Davy Jones' Befehlen gehorcht und ohne dessen Kontrolle völlig unberechenbar würde. Norrington verfolgt demgegenüber eigene Pläne: Er will Jones’ Herz stehlen und Lord Beckett übergeben, um damit seine eigene Rehabilitation und damit eine Verbesserung seiner sozialen Stellung zu erreichen. Beckett selbst möchte das Herz bekommen, um die Macht über den Ozean zu erlangen.
Auf der Insel treffen Jack, Norrington und Elizabeth Will wieder. Doch auch Elizabeth kann die Degenkämpfe zwischen den drei Konkurrenten um den Schlüssel der Truhe, in der das Herz von Jones liegt, nicht verhindern. Pintel und Ragetti versuchen inzwischen, die Truhe zu stehlen, um selbst wenigstens etwas von der ganzen Sache zu haben, und werden von Elizabeth verfolgt. Als dann noch Davy Jones' Mannschaft auf die Insel kommt, entwickelt sich eine wilde Verfolgungsjagd, deren Höhepunkt ein fortlaufender Zweikampf zwischen Will und Norrington (und zeitweise auch Jack) auf einem losgebrochenen Wasserrad ist, das quer durch die ganze Insel rollt.
Jack, Elizabeth, Will und die Crew fliehen schließlich zur Black Pearl, als diese von dem Riesenkraken angegriffen wird. In diesem Kampf sind die Ideen von Elizabeth und Will sehr hilfreich. Als sich abzeichnet, dass der Riesenkrake nicht besiegt werden kann, flirtet Elisabeth mit Jack Sparrow, um ihn heimlich mit Handschellen an einen Mast der Black Pearl zu fesseln, während sie sich küssen. Der Kuss wird von Will beobachtet, der noch nicht weiß, dass Elizabeth Jack gefesselt hat, um den Kraken abzuwimmeln, der es in erster Linie auf Jack abgesehen hat. Als Elizabeth, Will und der Rest der Crew in einem Rettungsboot die Black Pearl nebst dem dort gefesselten Jack zurücklassen, werden sie und auch die Untoten auf der Flying Dutchman Zeugen, wie der Krake die Black Pearl zerstört. Jack kann sich zwar von den Handschellen befreien, allerdings erst, als schon der Krakenschlund vor ihm aufragt. Jack sieht keine andere Wahl, als sich mit erhobenem Entermesser in den Schlund des Untiers zu stürzen. Davy Jones glaubt zwar nun, dass sein Herz mit Jack Sparrow im Kraken verschwunden ist, jedoch hat Norrington das Herz heimlich in seinen Besitz gebracht. In einem Beutel übergibt er Lord Beckett das pulsierende Herz und hofft, zum Lohn wieder in die Royal Navy aufgenommen zu werden.
Unterdessen kehren Will, Elizabeth, Gibbs, Pintel und Ragetti sowie einige andere zu Tia Dalmas Hütte zurück, wo sie von ihr erfahren, dass sie den nun für tot gehaltenen Jack Sparrow doch noch retten können. Hierfür müssen sie jedoch bis ans Ende der Welt reisen, und dafür benötigen sie einen Kapitän, der schon einmal dort gewesen ist. Der Film endet mit dem Auftritt des totgeglaubten Piraten Barbossa (Jacks untoter Gegenspieler in Teil 1). Mit seiner Hilfe wollen die Gefährten Jack Sparrow wieder zurückholen.
Nach dem Abspann sieht man den Hund, der bei Jacks Flucht vor den Kannibalen auf der Insel zurückgeblieben ist. Er wurde nun an Jacks Stelle zum Gott ernannt und sitzt mit einem großen Knochen im Maul auf dem Thron.
