A helyszín ezúttal New Bordeaux, amit a pezsgő zenei életről és kultúrájáról ismert New Orleansról mintáztak. A főszereplő a Vietnami háborúból visszatért Lincoln Clay, egy félvér árva, aki a családját az utcán találja meg. Szövetséget köt az olasz maffia elnyomása alá került három figurával - a Mafia 2 főszereplőjével, Vito Scalettával, valamint Cassandrával és Burke-kel -, és együtt egy új birodalom kiépítését kezdik meg. A feladatunk tehát a város meghódítása, aminek egyik fő módja a búvóhelyek elfoglalása, amivel nem csak a hatalmunkat bővíthetjük, hanem mindenféle, a küldetések során használatos bónuszokat kapunk pajzs, extra emberek vagy mesterlövész kíséret formájában.
A három alvezér természetesen nem csak dísznek van jelent a történetben, hanem fontos játékmenetbeli feladatok is rájuk hárulnak: ők felügyelik a családunk alá tartozó területeket. Ezeket okosan taktikázva kell kiosztanunk nekik, mert egyrészt, így kapjuk meg értük az általuk kínált bónuszokat, másrészt, ha valamelyikük elégedetlenné válik a helyzetével, könnyen ellenünk fordulhat.