Konya Ilgın’da 5 Eylül 1966’da dünyaya gelen Koç, ilk, orta ve lise öğrenimimi Konya’da tamamladıktan sonra İstanbul Üniversitesi Siyasal Bilgiler Fakültesi Kamu Yönetimi Bölümünden 1988’de mezun oldu.
Ankara İdari Yargı Hakim Adayı olarak 1991’de mesleğe başlayan Koç, sırasıyla Hatay Vergi Mahkemesi Üyeliği, Ankara İdare Mahkemesi Üyeliği, Danıştay Tetkik Hakimliği ve Ankara Bölge İdare Mahkemesi Üyeliği görevlerinde bulundu. Koç, 17 Ekim 2010’da HSYK yedek üyesi olarak seçildi. Sonrasında Ankara 17. İdare Mahkemesi Başkanlığı ve Ankara Bölge İdare Mahkemesi Başkanlığı görevlerini yürüten Koç, 17 Kasım 2011-25 Kasım 2014 tarihleri arasında HSYK asıl üyeliği yaptı. 12 Ekim 2014’te yeniden HSYK Üyesi seçilen Koç, Kurulda 1. Daire Başkanı olarak görev yaptı.
HSYK’nın 15 Temmuz sonrası HSK’ya dönüşmesi ile Cumhurbaşkanı Erdoğan tarafından 19 Mayıs 207’de HSK üyeliğine seçildi
Halil Koç, evli ve iki çocuk babası.