Выпускник МГПИ им. Ленина (ныне МПГУ). Известный правозащитник, педагог, поэт, писатель, сценарист.
После института работал учителем русского языка и литературы. С десяти лет начал писать стихи. При жизни печатался только в самиздате, после 1990 года вышло несколько его книг – в частности, сборник «Посох».
Участвовал в правозащитных митингах, задерживался за участие в демонстрации 1967 года в защиту арестованных диссидентов, был отпущен из-за отсутствия состава преступления. В 1968 году подписал ряд правозащитных документов, вместе с Юлием Кимом и Петром Якиром написал известное обращение «К деятелям науки, культуры, искусства», в котором говорилось о политических преследованиях и ресталинизации. Работал над выпусками периодического издания правозащитников «Хроника текущих событий», сотрудничал с представителями нелегального движения крымских татар.
В 1969 году был обвинен в «клевете на советский строй» и приговорен к трем годам заключения. После освобождения не мог найти работу, возникла угроза нового ареста. 20 октября 1973 года в возрасте 38 лет Илья Габай покончил с собой, выбросившись с одиннадцатого этажа. По самоубийце служили заупокойные службы в православном храме, в синагоге и в мусульманской мечети.