En service dans l'USAF, l'USMC et l'USN le F-4 fut utilisé intensivement dans chacun des corps durant leurs opérations au Vietnam. Le F-4 Phantom entra en service en 1960 dans un rôle à l'origine d'avion de combat dédié à la défense de la flotte de chasse de l'USN.
En 1963 il fut également adopté par l'USAF dans un rôle de chasseur bombardier. Malgré ses dimensions imposantes et sa capacité à décoller avec une charge maximum de 27 000 kg, le F-4 pouvait dépasser le mach 2 et battit d'ailleurs plusieurs records du monde de vitesse et d’altitude entre 1959 et 1962, qui ne furent cassés qu'après 1975.
Le F-4 pouvait transporter 8480 Kg d'explosifs sur 9 points d'attache externes incluant des missiles air-air, air-sol et des bombes nucléaires.
La première sortie de combat au Vietnam fut réalisée par des F-4 du porte-avions USS Constellation le 5 aout 64 durant l'opération Pierce Arrow.
Durant la guerre, 71 Phantom de l'USN furent perdus au combat (5 en combat aérien, 13 par des SAM, et 53 à cause des AAA) et 54 autres dans des accidents.
L'USMC de son côté reçut son premier F-4 en juin 1962.
Au départ opposé à l'adoption du F-4 en provenance de la Navy, l'USAF s'appropria le modèle Phantom et en fut en définitive le plus grand utilisateur. Ses premiers F-4 arrivèrent au Vietnam en 1964 mais contrairement à la Navy, ils volèrent avec 2 pilotes l'un derrière l'autre en double commandes et non avec un pilote et un officier en charge des systèmes d’armement. Le modèle F-4C de l'USAF était quasi identique au modèle F-4B de la Navy. Cependant l'USAF développa une nouvelle version sur mesure le F-4D qui arriva au Vietnam en juin 1967. Il utilisa un autre système de missile, le AIM-4 Falcon qui ne tint pas ses promesses. En conséquence l'USAF retourna dès début 68 au missile Sidewinder développé par l'USN.
En 1972 le missile AIM-7E-2 "Dogfight Sparrow" devint le missile de référence au sein de l'USAF. Comment les autres modèles de F-4 au Vietnam les modèle F-4D furent également munis d'un système de radar RHAW pour détecter les missiles guidés soviétiques SAM SA-2.
Dès le déploiement initial des modèles F-4C en Asie du Sud-Est les Phantom de l'USAF jouèrent leur rôle dans les combats aériens mais aussi dans les attaques au sol supportant non seulement les troupes au sol au Sud-Vietnam mais également en conduisant des bombardements au Laos et au Nord-Vietnam.
16 escadrons de Phantom de l'USAF étaient déployés en permanence au Vietnam entre 1965 et 1973 et 17 autres le furent temporairement en renfort.
Le F-4 atteint son pic de combat en 1972 lorsque 353 unités étaient basées en Thaïlande. Un total de 445 Phantom furent perdus au sein de l'USAF, 370 en situation de combat dont 193 au-dessus du Nord -Vietnam (33 abattus par des MIG, 30 par des SAM, et 307 par AAA)
Durant tout le conflit vietnamien et sur l'ensemble des modèles de F-4 engagés dans les 3 corps d'armée, 761 F-4/RF-4 furent perdus.