Lịch sử Phú Yên kéo dài hơn 500 năm, kể từ cuộc Nam chinh của vua Lê Thánh Tông.
Năm 1471, vua Lê Thánh Tông thống lĩnh 26 vạn quân thủy bộ đi Bình Chiêm, hạ được thành Thị Nại và Đồ Bàn, tiến vào đèo Cù Mông, lập nên 3 phủ Thăng Hoa (nay là Quảng Nam), Tư Nghĩa (nay là Quảng Ngãi) và Hoài Nhơn (nay là Bình Định). Còn phần đất từ Cù Mông đến Đèo Cả (tức là Phú Yên ngày nay) là vùng đất Kimi - vùng đệm, tranh chấp giữa người Đại Việt và người Chămpa.
Tiếp giáp về phía tây vùng đất này còn là lãnh thổ của Thủy Xá và Hỏa Xá: "Từ huyện lỵ (Đồng Xuân ngày nay) đi về phía Tây 20 dặm đến xã Phước Đức, lại đi 2 dặm đến thôn Phú Thành, lại đi 1 dặm đến thôn Cự Phú, lại đi thêm 5 dặm đến thôn Vân Hoà, từ đây đi về phía Tây suốt đến địa giới hai nước Thủy Xá và Hoả Xá, hai bên ven đường đều là trại người Man, núi khe hiểm trở lại có nhiều nạn cọp"[1], hoặc "Hai nước Thủy Xá, Hoả Xá ở Nam Bàn. Khi vua Lê Thánh Tông đánh được nước Chiêm Thành, lập dòng dõi người nước ấy làm vua nước Nam Bàn, cắt núi Thạch Bi lấy đất về phía Tây làm địa giới, có hơn 50 làng. Trong nước có núi Bà Nam rất cao, vua nước Thủy Xá về phía Đông, vua nước Hoả Xá về phía Tây núi ấy"[2].
Theo những tài liệu trên thì vua Lê Thánh Tông vẫn chưa chiếm được vùng đất này mà vẫn còn đang tranh chấp. Có những nguồn tin cho rằng vua Lê Thánh Tông đã đặt ranh giới đến núi Thạch Bi và lấy đó làm ranh giới bằng cách đề thơ lên đó. Tuy nhiên, hiện không thấy bút tích này, và được giải thích theo nhiều cách khác nhau:
Năm 1558, Nguyễn Hoàng được vua Lê giao làm trấn thủ xứ Thuận Hóa và sau đó tới năm 1570 kiêm nhiệm trấn thủ Quảng Nam. Lúc này vùng đất Phú Yên vẫn thuộc quyền cai quản của các vua Chăm Pa với tên gọi là Ayaru.
Năm 1578, Nguyễn Hoàng sai tướng Lương Văn Chánh tấn công vào thành Hồ, thủ phủ của người Chăm tại Ayaru, thành Hồ bị thất thủ. Từ đây, Ayaru là nơi tranh chấp thường xuyên giữa người Việt và người Chăm. Theo chính sách của chúa Nguyễn, Lương Hữu Chánh đã đưa dân Việt đến khẩn hoang những vùng đất ở Ayaru. Có đoạn viết: "...dẫn đem theo những hộ dân mới tới đến các xứ Cù Mông, Bà Đài, Bà Diễn, Đà Nông, trên từ vùng sơn cước, dưới thì đến các cửa biển, cùng nhau lập nhà cửa, khai phá đất hoang hoá thành ruộng vườn, trải qua ba vụ thì nộp thuế như lệ. Nếu sinh việc sách nhiễu nhân dân mà bị phát giác sẽ phải chịu tội..."[5]. Lương Văn Chánh phụng mệnh đưa dân vùng Thanh Nghệ, Thuận Quảng vào khai hoang lập ấp và mở mang đất Phú Yên ngày nay.
Giữa năm 1611, Nguyễn Hoàng cử viên chủ sự là Văn Phong tấn công vào Ayaru, quân Chăm Pa bị thua, Nguyễn Hoàng sáp nhập vùng Ayaru vào lãnh thổ Đàng Trong với tên gọi Phú Yên và giao cho Văn Phong cai quản vùng đất mới này, theo lệnh chúa Nguyễn, Văn Phong đã lập cơ quan hành chính và quân sự, lập ra huyện Đồng Xuân và Tuy Hòa thuộc phủ Trấn Biên. Do địa thế quân sự thuận lợi, tới năm 1629 Văn Phong đã nổi lên làm phản, mục đích tiến đánh xuống phía nam và lập vương quốc riêng. Tuy nhiên, ý định này không thành vì chúa Nguyễn Phước Nguyên cử tướng Nguyễn Phúc Vinh xuống dẹp loạn Văn Phong. Sau khi dẹp được loạn Văn Phong chúa Nguyễn thành lập dinh Trấn Biên tại Phú Yên. Giao cho Phúc Vinh cai quản
Sử cũ cũng nói rằng nhà Nguyễn đã đặt một trạm giao dịch tại đây: "Ở xã Thạch Thành phía tây huyện Tuy Hòa có trường giao dịch và thủ sở ở đây, nước từ sông Ba chảy qua phía Nam huyện lị đổ ra trấn Đà Diễn"[6]. Thạch Bàn (nay thuộc huyện Tây Hòa) là cửa ngõ thông thương với Thủy Xá, Hỏa Xá và cũng là nơi buôn bán các hàng hóa quý hiếm giữa miền xuôi và miền ngược.
Cũng trong khoảng thời gian này, Cha Đắc Lộ bắt đầu truyền giáo tại khu vực này.
Năm 1771, anh em nhà Tây Sơn bắt đầu khởi nghiệp tại Tây Sơn thượng và Tây Sơn hạ. Sau đó, quân Tây Sơn đánh hạ thành Quy Nhơn, tiếp tục đem quân đánh chiếm Quảng Nam, Phú Yên, Diên Khánh, Bình Khang, Bình Thuận,...
Phía Tây Phú Yên có dãy La Hiên tiếp giáp với An Khê, là nơi Tây Sơn dựng nghiệp nên người dân ở đấy tham gia rất đông, nhất là người Bana.
Tháng 5 năm 1775, tướng nhà Nguyễn là Tống Phước Hiệp mang quân đánh Phú Yên, đóng quân ở vịnh Xuân Đài. Ngay sau đó, Nguyễn Quang Sáng và Lương Văn Trực (quân Tây Sơn) cùng với chúa Thủy Xá là Ma Khương tụ quân ở núi Ma Hiên. Đồng thời có thủy quân do Lưu Quốc Hùng và Trần Văn Nhâm (cũng là quân Tây Sơn), kết hợp với 2000 quân do Nguyễn Huệ chỉ huy từ Quy Nhơn đánh úp. Bị bao vây bằng 3 mũi tấn công, tháng 7 năm 1775, 2 vạn quân của Tống Phước Hiệp đã bị tiêu diệt.
Cũng vì là cửa ngõ tấn công vào nhà Tây Sơn, nên trong 25 năm sau đó (1775-1800), vùng đất này cũng chứng kiến những trận chiến đẫm máu của Tây Sơn và nhà Nguyễn.
Năm 1858, thực dân Pháp xâm lược Việt Nam.
Năm 1885, hưởng ứng chiếu Cần Vương của vua Hàm Nghi, Lê Thành Phương cùng các sĩ phu yêu nước kéo cờ khởi nghĩa tại núi Một, thôn Tân An (nay thuộc xã An Hòa, huyện Tuy An). Từ năm 1885 đến năm 1886, nghĩa quân đã làm chủ một vùng đất rộng lớn từ Phú Yên đến Bình Thuận. Ngày 11 tháng 2 năm 1887, Lê Thành Phương bị thực dân Pháp bắt và bị chém cùng với một lãnh tụ khác là Nguyễn Hào Sự.
Năm 1892, cuộc khởi nghĩa của Võ Trứ và Trần Cao Vân nổ ra. Năm 1898, Võ Trứ chỉ huy một đạo quân khoảng 1000 người, với vũ khí là giáo mác dao rựa từ trên rừng huyện Đồng Xuân kéo xuống tỉnh lỵ Phú Yên ở Sông Cầu. Do thiếu kinh nghiệm trận mạc nên đã thua, phải rút quân về rừng. Thực dân Pháp đưa quân chém giết người vô tội xung quanh khu căn cứ. Vì không muốn liên lụy đến người vô tội, Võ Trứ tự nộp mình cho thực dân Pháp.
Sau khi Võ Trứ bị Pháp bắt, nghĩa quân người Kinh và người Thượng tiếp tục chiến đấu. Tháng 5/1900, nông dân ở Châu Vào (Đak Giơpan) nổi dậy chống các tên chủ đồn điền Delignon và Paris cướp không 500 mẫu đất để nuôi tằm. Khâm sứ Trung Kỳ điều quân lên dụ dỗ và trấn áp, nhưng không thành. Trước đó, hai bộ tộc Gia Rai và Xơ Đăng lập mưu bắt sống công sứ Odendhal, nhưng bất thành (1893). Tháng 5/1904, Odendhal giả danh đi kinh lý Pleiku, nhưng bị tù trưởng Nước Ôi Át lập mưu trá hàng và bị giết chết cùng với 2 tên bồi bếp Pháp.
Ngày 5-10-1930, tại thôn Đồng Bé, xã Xuân Long, huyện Đồng Xuân, Phan Lưu Thanh (đảng viên thuộc chi bộ Thị Nghè-Sài Gòn) thành lập chi bộ Đảng Cộng sản đầu tiên tại Phú Yên.
Vào những năm 1930 của thế kỷ XX, phong trào chống Pháp của các dân tộc ít người diễn ra mạnh mẽ, mà nổi nhất là "phong trào Săm Brăm". Năm 1936, Săm Brăm bị bắt rồi giam ở nhà lao Thanh Hóa.
Khoảng năm 1945, hưởng ứng cuộc cách mạng Tháng Tám, các tổ chức cộng sản Sông Cầu tuyên bố làm chủ tỉnh lỵ Sông Cầu và lập Ủy ban Nhân dân Cách mạng lâm thời.
Năm 1953, Navarre mở chiến dịch Atlante đánh vào Trung phần trong đó có Phú Yên. Quân cách mạng Phú Yên kiên cường chiến đấu và giành được chiến thắng vào cuối tháng 3 năm 1954.
Sau năm 1954, Phú Yên dưới sự quản lý của Việt Nam Cộng Hòa.
Trong thời kì này nổ ra rất nhiều cuộc tấn công của phe Cộng sản đánh chính quyền Sài Gòn, hòng lật đổ chính quyền.
Từ giữa năm 1964, Vũng Rô được chỉ đạo của Tỉnh ủy cộng sản Phú Yên, trở thành một cảng của đường Hồ Chí Minh trên biển.
Trong những năm 1975, quân đội Việt Nam Dân chủ Cộng hòa Phú Yên thực hiện lối đánh "tiêu hao sinh lực địch", chiếm chính quyền dần dần ở nhiều nơi trong tỉnh. Ngày 1 tháng 4 năm 1975, quân đội Việt Nam Dân chủ Cộng hòa đã chiếm được tỉnh lỵ Phú Yên tại Tuy Hòa.
Sau năm 1975, Phú Yên được hợp nhất với Khánh Hòa để thành lập tỉnh Phú Khánh.
Thời kỳ này, Phú Yên dưới sự lãnh đạo của nước Cộng hòa Xã hội Chủ nghĩa Việt Nam.
Ngày 1 tháng 7 năm 1989, Phú Khánh được tách ra thành Phú Yên và Khánh Hòa.