In 1954 werd Oliva als tweede luitenant in het Cubaanse leger aangesteld na zijn afstuderen aan de Cubaanse Militaire Academie, "de Cadet School". Na zijn afstuderen aan de Artillerie Academie in 1955 werd hij tot 1958 benoemd tot hoogleraar Artillerie aan de Cadetschool. Van 1958 tot 1959 was hij een student, ook afgestudeerd met onderscheiding, en een instructeur aan de US Army Caribbean School in de Canal Zone, Panama.
Ik weet het. Eind 1959, nadat de Castro-revolutie generaal Batista had omvergeworpen, werd het Cubaanse leger "zuiverd", maar Oliva werd benoemd tot inspecteur-generaal bij de INRA. In mei 1960 was hij een van een groep voormalige Cubaanse officieren die een campagne plannen tegen het Castro-regime. Ze waren allemaal afgestudeerd aan de Cubaanse militaire academie. Hij verliet het leger begin augustus 1960 en vloog naar Miami. Op 29 augustus 1960 werden Oliva en ongeveer 40 jonge Cubaanse ballingen, gerekruteerd door de Central Intelligence Agency, via een CIA C-54-vliegtuig naar San José, Guatemala vervoerd om een guerrilla-training uit te voeren die later conventionele werd.