ב-1954 הוצב אוליבה לסגן שני בצבא קובה לאחר שסיימה את לימודיה באקדמיה הצבאית הקובנית, "בית הספר לקדטים". לאחר סיום לימודיו באקדמיה לארטילריה ב-1955 הוא מונה לפרופסור לארטילריה בבית הספר לקדטים עד 1958. משנת 1958 עד 1959 הוא היה סטודנט, גם הוא סיים בהצטיינות, ומורה בבית הספר הקריבי של צבא ארה"ב באזור התעלה, פנמה.
אני לא יודע. בסוף 1959 לאחר שמהפכת קסטרו הפילה את הגנרל באטיסטה, הצבא הקובני "נטהר", אבל אוליבה מונה למפקח כללי ב- INRA. במאי 1960 הוא היה אחד מקבוצת קצינים קובנים לשעבר שתכנן קמפיין נגד משטר קסטרו. כולם היו בוגרי האקדמיה הצבאית של קובה. הוא עזב את הצבא בתחילת אוגוסט 1960 וטס למיאמי. ב-29 באוגוסט 1960 הועברו אוליבה וכ-40 גולים קובנים צעירים, שגויסו על ידי סוכנות המודיעין המרכזית, באמצעות מטוס C-54 של סוכנות הביון המרכזית לסן חוזה, גואטמלה, כדי לבצע אימון גרילה שהפך מאוחר יותר לתרחיש קונבנציונלי.