Нестор Лакоба довольно близко сдружился с Ковачем, останавливаться на записи фольклора не хотелось, так и родилась идея о создании первого музыкально-образовательного учреждения в Абхазии. "В тридцатые годы сюда приехали великолепные музыканты, это были выпускники Петербургской, Московской, Миланской консерваторий, здесь жили сестры Бубновы – пианистка и скрипачка, здесь же находился тогда еще юный дирижер Одиссей Димитриади, который в будущем стал дирижером с мировым именем, и потому была очень хорошая "почва", чтобы создать в Сухуме музучилище", - рассказывает Нинель Бжания.
Вся учебная программа была разработана Ковачем лично, установлен четырехлетний курс обучения. В училище было создано четыре отделения: "фортепиано", "струнные отделения", "вокал" и "хореография". Первым директором стал Константин Ковач, а завучем Одиссей Димитриади.
Уже в первые годы становления на базе училища были созданы важные музыкальные коллективы, например, этнографический хор под управлением Платона Панцулая. Важнейшим событием стало появление в 1933 году симфонического оркестра под руководством Димитриади. Только за первый год своего существования этот оркестр дал 89 концертов.
Мрачным временем для истории училища стал 1937 год, впрочем, эта дата ни для кого не оказалась счастливой. В год массовых репрессий Ковач так же, как и многие другие представители интеллигенции, был объявлен "врагом народа". Ему чудом удалось избежать ареста и покинуть Абхазию, уехал и Одиссей Димитриади, многие ученики и педагоги покинули музыкальный техникум. То страшное время было вовсе не для музыки. Тем не менее учебный процесс продолжался.
В годы Великой Отечественной войны многие преподаватели и некоторые учащиеся этого учебного заведения ушли на фронт, училище переживало тяжелейший период, но и в то время не прекращало работу, известно, что за годы войны преподаватели и воспитанники училища дали 600 концертов в госпиталях и учреждениях, работавших для фронта.
После затянувшегося периода испытаний и трудностей новым этапом расцвета стали пятидесятые годы, когда это музыкально-образовательное учреждение возглавлял Шалва Горгадзе. При нем училище становится больше, чем образовательным учреждением, это был культурный центр столицы, а может, и всей республики. Тут проводились концерты, творческие вечера, музыкальные лекции. По инициативе Горгадзе были открыты музыкальные школы в других городах Абхазии, при нем же был возрожден симфонический оркестр. Горгадзе способствовал становлению в качестве дирижера Льва Джергения, который впоследствии и стал первым профессиональным оперно-симфоническим дирижером-абхазом.
В училище с большим уважением вспоминают личность Шалвы Горгадзе, который всегда особо опекал детей из абхазских семей, старался их подтягивать, помогать в учебе и в личных трудных обстоятельствах. Горгадзе создал уникальный педагогический коллектив, именно при нем из стен училища вышли выдающиеся представители абхазской музыкальной культуры: первые профессиональные абхазские композиторы - Ражден Гумба, Баграт Багателия, Василий Царгуш, Леонид Чепелянский, Константин Ченгелия; первые оперные певцы – Людмила Логуа, Борис Амичба, Ардашил Авидзба, Жозефина Бумбуриди; первые музыковеды – Аида Ашхаруа, Мери и Инна Хашба.
Другой яркий период в истории музучилища – настоящего альма-матер абхазских музыкантов – связан с именем композитора Алексея Чичба, который возглавил учебное заведение в середине шестидесятых. Выходец из абхазской крестьянской семьи, он считал главной своей целью приобщение абхазских детей к музыке и культуре, в училище потоком хлынули дети из всех деревень Абхазии, резко увеличилось количество учащихся в этом заведении. При Чичба выпускниками стали такие известные деятели музыкальной культуры Абхазии, как композиторы Петр Петров, Тото Аджапуа, Валерий Чкадуа, дирижеры Анатолий Хагба, Вячеслав Айба, Иван Шамба, Нора Аджинджал, певцы Закан Халваш, Томас Кокоскир, Юрий Нармания, Вилли Чакмач-ипа, Эдуард Нанба, пианистки Алла Отырба и Марина Шамба.
При Алексее Чичба при училище была создана оперная студия из 25 музыкантов, также он выступил инициатором создания Союза композиторов Абхазии. Учитывая все его заслуги, в 2000 году было принято решение присвоить Сухумскому государственному музыкальному училищу имя Алексея Чичба.
Среди ярких выпускников училища 70-х -80-х годов можно также отдельно выделить дирижера и композитора Нодара Чанба, а также певицу Манану Шамба, а в конце 80-х из стен этого училища в большую музыкальную жизнь ушли ныне солистка одного из ведущих театров Москвы "Геликон-опера" Алиса Гицба и звезда мировой оперы Хибла Герзмава.