Mannheim asub Reini kaldal Neckari suudmes 97 m kõrgusel merepinnast Baden-Württembergi piiril. Rein eraldab teda Rheinland-Pfalzis asuvast Ludwigshafenist, linna põhjaservas on Baden-Württembergi ja Hesseni piir.