Philippos II lên ngôi vua khi ông mới 24 tuổi vào năm 359 TCN. Bằng tài ngoại giao khéo léo, ông đã có thể thuyết phục người Thraci dưới sự cai trị của Berisades ngừng ủng hộ cho Pausanias, một người tranh giành ngai vàng, và đối với người Athen là ngừng sự ủng hộ cho một người tiếm vị khác. Ông đã thực hiện được những việc này bằng cách hối lộ người Thraci và đồng minh người Paeonia của họ và thiết lập một hiệp ước với Athens mà trong đó từ bỏ yêu sách của ông đối với Amphipolis. Ông cũng đã có thể giảng hòa với người Illyri mà đã đe dọa biên giới của ông.Philippos II đã dành hoàn toàn những năm đầu tiên của mình để thay đổi quân đội Macedonia. Một sự cải cách về tổ chức, trang bị, huấn luyện của nó, bao gồm cả việc giới thiệu đội hình phalanx Macedonia được trang bị với những cây giáo dài (tức là sarissa), nó đã chứng tỏ sự thành công ngay lập tức khi được thử nghiệm chống lại các kẻ thù người Illyri và Paeonia của ông. Những ghi chép lẫn lộn trong các nguồn cổ đại đã dẫn tới việc các học giả ngày nay tranh cãi về việc những vị tiên vương của Philippos II đã đóng góp đáng kể như thế nào cho những cải cách này và sự phát triển của những ý tưởng của ông đã chịu sự ảnh hưởng từ những năm tháng tuổi trẻ khi đang bị giam cầm ở Thebes như là một con tin chính trị trong thời kỳ quyền bá chủ của Thebes, đặc biệt là sau cuộc gặp với vị tướng Epaminondas.Người Macedonia theo chế độ một vợ một chồng theo truyền thống giống như những người Hy Lạp khác, thế nhưng Philippos II lại thực hiện chế độ đa thê và cưới 7 người vợ với chỉ duy nhất một người không có liên quan tới sự trung thành của các quý tộc thần dân của ông hoặc là các đồng minh mới. Cuộc hôn nhân đầu tiên của ông là với Phila của Elimeia thuộc tầng lớp quý tộc ở Thượng Macedonia cũng như là công chúa người Illyria Audata để đảm bảo một liên minh hôn nhân. Để thiết lập liên minh với Larissa ở Thessaly, ông đã kết hôn với một nữ quý tộc người Thessaly tên là Philinna vào năm 358 TCN, bà đã sinh cho ông một người con trai là Philippos III Arrhidaeos (323-317 TCN). Vào năm 357 TCN, ông đã kết hôn với Olympias để đảm bảo một liên minh với Arybbas, Vua của Ipiros và người Molossoi. Cuộc hôn nhân này sẽ sinh ra một người con trai và sẽ cai trị với tên gọi là Alexandros III (được biết đến nhiều hơn với tên gọi là Alexandros Đại đế), ông ta tuyên bố là hậu duệ của Achilles huyền thoại thông qua huyết thống triều đại của mình từ Ipiros. Chúng ta không rõ liệu rằng các vị vua của nhà Achaemenes Ba Tư có ảnh hưởng đến việc thực hiện chế độ đa thê của Philippos II hay không, mặc dù vậy vị tiên vương Amyntas III của ông đã có ba người con trai với một người vợ hai có thể tên là Gygaea: Archelauos, Arrhidaeos, và Menelaos. Philippos II đã xử tử Archelaos vào năm 359 TCN, trong khi hai người em cùng cha khác mẹ với Philippos II bỏ chạy tới Olynthos, điều này sẽ đóng vai trò như là một casus belli cho cuộc chiến tranh Olynthos (349–348 TCN) chống lại liên minh Chalcidice của ông ta.Trong khi Athens đang bận rộn với cuộc Chiến tranh Đồng Minh (357–355 TCN), Philippos II đã tái chiếm lại Amphipolis từ tay họ vào năm 357 TCN và trong năm tiếp theo là Pydna và Potidaea, thành phố này đã được ông trao lại cho liên minh Chalcidice như đã hứa trong một hiệp ước. Vào năm 356 TCN, ông đã chiếm Crenides, tái thành lập nó lại với tên gọi là Philippi, trong khi vị tướng Parmenion của ông đánh bại vị vua Illyria tên là Grabos của người Grabaei. Trong cuộc vây hãm Methone vào năm 355–354 TCN, Philippos II mất mắt phải của mình từ một vết thương do tên bắn, nhưng ông đã thành công trong việc chiếm thành phố và đối xử với cư dân của nó một cách thân mật, không giống với người Potidaea đã bị bắt làm nô lệ.Philippos II và Macedonia sau đó đã tham gia vào Cuộc chiến tranh Thần Thánh (356–346 TCN). Nó bắt đầu khi Phocis chiếm giữ và cướp phá ngôi đền thờ Apollo tại Delphi thay vì nộp các khoản tiền phạt phải trả, điều này khiến cho Đại nghị liên minh tuyên chiến với Phocis và một cuộc nội chiến đã nổ ra giữa các thành viên của liên minh Thessaly hoặc là đứng về phía Phocis hoặc Thebes. Chiến dịch ban đầu của Philippos II là chống lại Pherae ở Thessaly vào năm 353 TCN theo lời yêu cầu của Larissa đã kết thúc bằng hai thất bại tai hại trước vị tướng người Phocis là Onomarchos. Philippos II sau đó đánh bại Onomarchos vào năm 352 TCN tại Trận cánh đồng Crocus, điều này đã dẫn đến việc Philippos II được bầu làm nhà lãnh đạo (archon) của liên minh Thessaly và cho phép ông có được một ghế trong hội đồng Đại nghị liên minh cùng với đó là một hôn nhân liên minh với Pherae thông qua việc cưới Nicesipolis, cháu gái vị bạo chúa Jason của Pherae.Philippos II đã sớm dính dáng tới đế quốc Achaemenes, đặc biệt là bằng việc trợ giúp các phó vương và lính đánh thuê nổi dậy chống lại chính quyền trung ương của vị vua nhà Achaemenes. Vị phó vương của Hellespontine Phrygia là Artabazos II, người tham gia vào cuộc nổi loạn chống lại Artaxerxes III, đã có thể ẩn náu như là một người bị lưu đày tại triều đình Macedonia từ năm 352 tới năm 342 TCN. Đi cùng với ông ta là gia đình và vị tướng đánh thuê Memnon của Rhodes. Barsine, con gái của Artabazos, và là người vợ tương lai của Alexandros Đại đế đã lớn lên tại triều đình Macedonia.Sau chiến dịch chống lại vị vua người Thrace Cersobleptes, vào năm 349 TCN, Philippos II đã bắt đầu cuộc chiến tranh chống lại liên minh Chalcidice, nó đã được tái lập vào năm 375 TCN sau một thời gian bị giải tán. Bất chấp sự can thiệp của người Athen dưới quyền Charidemos, Olynthos đã bị Philippos II chiếm vào năm 348 TCN, và cư dân của nó đã bị bán làm nô lệ, bao gồm cả một số công dân Athen. Người Athen, đặc biệt là bằng một loạt bài diễn văn của Demosthenes mà được biết đến với tên gọi là Olynthiacs, đã không thành công trong việc thuyết phục các đồng minh của họ phản công và vào năm 346 TCN, họ đã ký kết một hiệp ước hòa bình với Macedonia được biết đến với tên gọi Hòa ước của Philocrates. Hiệp ước này quy định rằng Athens sẽ từ bỏ yêu sách đối với các vùng lãnh thổ ven biển của Macedonia, khu vực Chalcidice, và Amphipolis đổi lại bằng việc giải phóng những người Athen bị bắt làm nô lệ cũng như đảm bảo rằng Philippos II sẽ không tấn công các khu định cư của người Athen ở khu vực Thracian Chersonese. Trong khi đó, Phocis và Thermopylae đã bị quân đội Macedonia chiếm đóng, và những người đã cướp bóc ngôi đền Delphi bị xử tử, Philippos II đã được trao tặng hai ghế của người Phocis trong hội đồng Đại Nghị liên minh và vị trí người chủ trì toàn bộ thế vận hội Pythia. Athens ban đầu phản đối quyền thành viên của ông trong hội đồng và từ chối tham dự thế vận hội để phản đối, nhưng cuối cùng họ đã chấp nhận những điều này, có lẽ sau sự thuyết phục đáng kể của Demosthenes trong bài diễn thuyết Về Hòa bình của ông ta.
Philippos II lên ngôi vua khi ông mới 24 tuổi vào năm 359 TCN. Chiến dịch ban đầu của Philippos II là chống lại Pherae ở Thessaly vào năm 353 TCN theo lời yêu cầu của Larissa đã kết thúc bằng hai thất bại tai hại trước vị tướng người Phocis là Onomarchos.