Pada awalnya sekolah ini bernama SMA ABC Fakultas pedagogik yang didirikan oleh Fakultas Sastra Unirvesitas Gajah Mada Jurusan Pedagogik, pada tanggal 1 September 1952 dengan SK Menteri Pendidikan Pengajaran dan Kebudayaan Republik Indonesia No. 38115/Kab, tanggal 21 Oktober 1952 terus berkembang hingga menempati gedung di Wijilan milik Yayasan Pancasila.

Pada awal berdirinya pimpinan dipegang oleh Prof. Drs. Sutedjo Brodjonegoro ( alm ) dan tokoh-tokoh lainnya, antara lain Prof. Drs. Abdullah Sigit. Dan tahun 1958 jurusan B dipindahkan ke Sekipsehubungan dengan perkembangan sekolah, jurusan AC tetap di jalan Sagan 1 Yogyakarta dipimpin oleh Broto Hamidjojo sedangkan jurusan B di jalan Sekip juga dipegang oleh Broto Hamidjojo, sampai tahun 1966. Pada tahun 1965 berganti nama lagi menjadi SMA FIP IKIP Yogyakarta dan pada tahun 1966 ada pergantian pimpinan SMA FIP II IKIP Yogyakarta dipimpin oleh Drs. Soetomo hanya 1 tahun. Tahun 1967 pimpinan dipegang oleh Hardjono. Tahun 1969 berganti nama lagi menjadi SMA Percobaan II IKIP Yogyakarta,
karena sekolah ini dijadikan percobaan ujian sekolah seperti halnya 8 ( delapan ) SMA IKIP lainnya di Indonesia.

Pada 1971 dengan SK No. 173/1971 tanggal 21 September 1971 berganti nama lagi menjadi SMA Pembangunan dan melaksanakan tugas Proyek Perintis Sekolah Menengah Pembangunan ( PPSP )yang dimulai tahun 1972 terdiri dari jalur stream Akademik, stream Vokasional, stream Kesekretariatan, stream Tata Niaga, dan stream Ketehnikan. Pada tanggal 28 Agustus 1973 SMA Pembangunan pindah dari sagan ke jalan Gadean No. 5 Ngupasan Yogyakarta, tahun 1974 berganti nama lagi menjadi SMA II IKIP Jurusan Eksakta masih dalam program PPSP, maka SMA IKIP memakai kurikulum PPSP klasikal dengan jurusan Pengetahuan Alam, Matematika, IPA ( Palma ) hingga tahun 1983. SMA II IKIP Yogyakarta menurut SK Mendikbud No. 0710/10/0/1986 tanggal 10 Oktober 1986 SMA II IKIP menjadi SMA 10 Yoyakarta.

Rektor IKIP Yogyakarta menyerahkan kepada Kepala Kanwil Debdikbud Prop. Daerah Istimewa Yogyakarta pada tanggal, 22 Januari 1987. Tanggal 1 Februari 1987 sekolah ini resmi menggunakan nama SMA 10 Yogyakarta.

Nama- nama Kepala Sekolah yang pernah menjabat sejak berdirinya adalah :

Tahun 2020 -  2024                                             SRI MOERNI, S.Pd.M.Pd

Tahun 2024 - Sekarang                                       Sugeng, S.Pd.,M.Pd

Perlu dicatat bahwa secara bertahap mulai tahun pelajaran 1984 –1993 diterapkan kurikulum 1984. Mulai tahun 1994 telah dilaksanakan kurikulum 1994, dan yang terakhir dengan kurikulum 1994 yang telah disempurnakan. Saat ini SMA N 10 telah berubah menjadi SMU N10 Yogyakarta dengan keputusan Menteri Pendidikan dan Kebudayaan No.035/0/1997. dengan diundangkannya UU Sisdiknas No. 20 Tahun 2003
tanggal 8 Juli 2003 nama SMU menjadi SMA lagi

mulai tahun 2006 sampai tahun 2014 menggunakan Kurikulum Tingkat Satuan Pendidikan atau kurikulum 2006, pada tahun 2014 selama 1 semester menggunakan kurikulum 2013 dan pada 26 Januari 2015 kembali lagi ke kurikulum 2006