Setiap tahun, Universitas Negeri Yogyakarta (UNY) memperingati tanggal 21 Mei sebagai tanggal kelahirannya. Tanggal ini adalah tanggal berdirinya Institut Keguruan dan Ilmu Kependidikan (IKIP) Yogyakarta yang merupakan pendahulu UNY. IKIP Yogyakarta diresmikan oleh Menteri Pendidikan Tinggi dan Ilmu Pengetahuan (PTIP) pada tanggal 21 Mei 1964.
Sejarah IKIP Yogyakarta tidak dapat dilepaskan dengan keberadaan Fakultas Pedagogik (FP) Universitas Gajah Mada yang didirikan pada tanggal 19 September !955. pada waktu itu FP UGM memiliki dua bagian, yaitu Bagian Pendidikan dan Bagian Pendidikan Jasmani.
Pada tanggal 2 Februari 1962, Fakultas Pedagogik dipecah menjadi tiga fakultas, yaitu Fakultas Ilmu Pendidikan (FIP), Fakultas Pendidikan Djasmani (FPD), dan Fakultas Keguruan dan ilmu Pendidikan (FKIP). Namun pada 1963 FPD dimasukan kedalam lingkungan Departemen Olahraga dan dijadikan Sekolah Tinggi Olahraga (STO).
Pada masa itu tuntutan terhadap dunia pendidikan semakin tinggi sehingga permintaan tenaga pengajar juga tinggi. FKIP UGM begitu digemari sehingga jumlah mahasiswa pada tahun 1962 mencapai 1469 orang. Untuk mengatasi hal itu maka kemudian muncul Surat Keputusan Menteri Pendidikan dan Kebudayaan No. 92 th 1962 tentang didirikannya Institut Pendidikan Guru (IPG).
Pada 3 Januari 1963 diterapkan penyatuan antara FKIP dan IPG menjadi IKIP. Begitu juga dengan FIP yang kemudian juga disatukan kedalam IKIP.
Saat awal pertumbuhannya dibulan September 1965, IKIP Yogyakarta memiliki lima fakultas, yakni Fakultas Ilmu Pendidikan (FIP), Fakultas Keguruan Ilmu Eksata (FKIE), Fakultas Keguruan Sastra dan Seni (FKSS), Fakultas Keguruan Ilmu Sosial (FKIS), dan Fakultas Keguruan Teknik (FKT). IKIP Yogyakarta juga belum memiliki gedung sendiri. Kegiatan perkuliahan masih menumpang di gedung milik UGM, berbagai sekolah negeri (SD, SMP,dan SMA) di Yogyakarta, dan gedung gedung milik Kraton Kesultanan Yogyakarta. Pada tahun 1977, STO bergabung menjadi bagian IKIP Yogyakarta dengan nama Fakultas Keguruan Ilmu Keolahragaan (FKIK).
Pada tanggal 1 januari 1971, terjadi perkembangan penting di IKIP Yogyakarta yaitu berdirinya Perpustakaan Pusat IKIP Yogyakarta. Sebagai jantung ilmu pengetahuan di perguruan tinggi, pembinaan perpustakaan dilakukan langsung di bawah rektor. Sementara itu, mulai tahun 1972 IKIP Yogyakarta menggunakan Sistem Kredit Semester (SKS) untuk perkuliahan. Dengan berlakunya SKS ini maka mulai 1973 dalam satu tahun ada dua pendaftaran perkuliahan yang dilaksanakan secara semesteran menggantikan sistem sebelumnya.
Mulai tahun 1981/1982 IKIP Yogyakarta mulai membuka program S2 yaitu program studi Penelitian dan Evaluasi Pendidikan. Program ini merupakan hasil afiliasi antara IKIP Yogyakarta dengan IKIP Jakarta. Pada 7 September 1982 juga telah diselenggarakan Program S2 Pendidikan FIsika. Program ini merupakan penugasan dari Ditjen Dikti dan penyelenggaraanya mendapat bantuan dari UGM. Kemudian disusul pembukaan S2 Pendidikan Teknologi dan Kejuruan pada 16 September 1983.
Pada tahun 1999 IKIP Yogyakarta diberi perluasan mandate menjadi Universitas yang diberikan oleh pemerintah melalui Keputusan Presiden RI no 93 th 1999. Seiring dengan itu terjadi perluasan orientasi program yang difokuskan pada upaya sosialisasi IKIP Yogyakarta yang tidak hanya terbatas di dalam negeri saja, akan tetapi menuju wawasan global. Orientasi program pun ditambah dengan program internasionalisasi universitas.
Perubahan IKIP Yogyakarta menjadi Universitas Yogyakarta (UNY) memang mengandung pro dan kontra di dalam masyarakat. Hal ini menunjukan adanya indikasi kuat dan valid bahwa IKIP Yogyakarta memang telah menjadi bagian penting dari sistem kehidupan masyarakat dan sistem pendidikan nasional di Indonesia. Dinamika dan wacana dalam masyarakat menggambarkan adanya kekhawatiran akan terlantarnya pendidikan guru setelah IKIP Yogyakarta berubah menjadi UNY.
Kecemasan masyarakat tersebut justru mempunyai nuansa positif yang memacu UNY untuk dapat meyakinkan semua pihak bahwa di masa yang akan datang tetap mempertahankan pendidikan guru. Perubahan IKIP Yogyakarta menjadi UNY diharapkan meningkatkan sistem pendidikan guru karena para dosen di jurusan dapat melakukan fertilisasi silang keilmuan antara mereka yang berlatar belakang kependidikan dan berlatar belakang ilmu dasar.
Pada tahun 2007, survey dari Ditjen Dikti RI menyatakan bahwa UNY merupakan satu-satunya Lembaga Pendidikan Tenaga Kependididkan (LPTK) diantara 20 universitas di Indonesia yang layak masuk (the most promosing university) ke kelas dunia. Untuk itu UNY segera membentuk tim Pengembang UNY menuju World Class University (WCU) yang di antaranya bertugas menyiapkan kisi-kisi instrument pengembangan UNY menuju WCU.
Kerja keras tersebut menuai hasil pada tahun 2009, sebanyak 11 unit kerja di UNY dinyatakan layak menerima setifikat ISO 9001:2000 yang dikeluarkan oleh PT. Sucofindo Jakarta. Upacara penyerahan Sertifikat ISO 9001:2000 tersebut dilakukan Mendiknas RI, Prof. Dr. Bambang Sudibyo, MBA. Pada 21 April 2009 melalui menteri Keuangan RI No. 130/KMK.05/2009, UNY telah ditetapkan sebagai instansi pemerintah yang menerapkan Pengelolaan Keuangan Badan Layanan Umum (PK-BLU) secara penuh. Pada tahun 2010, UNY menerapkan ISO 9001:2008. Saat ini UNY terus berupaya meningkatkan diri melalui peningkatan kualitas manajemen institusi pendidikan dan dosen, keunggulan dan kepemimpinan, maupun dukungan fasilitas disemua fakultas dan unit-unit bertaraf internasional. Sejak tahun 2007 UNY telah mengembangkan paradigma pembelajaran online terpadu (E-learning UNY) dan berlangganan jurnal elektronik dari proQuest yang memuat tidak kurang dari 700 jurnal internasional di bidang pendidikan. Akses LAN di area kampus melalui nirkabel juga telah tersedia melalui hotspot wifi di 43 titik strategis dengan coverage area mencapai 80% wilayah kampus. Di samping itu, UNY juga tengah membangun networking dengan berbagai universitas dan pusat riset seluruh dunia.
Berdasarkan Peraturan Pemerintah Nomor 35 Tahun 2022 tanggal 20 Oktober 2022, Universitas Negeri Yogyakarta resmi menjadi Perguruan Tinggi Negeri Berbadan Hukum (PTNBH) ke-17.