Старая церковь Благовещания Пресвятой Богородицы была заложена в 1655 году. Тогда же были заложены Николаевская и Рождественская церкви. Храм был выполнен в украинских традициях, имел три купола. Рубленая колокольня находилась отдельно. Вместо ограды храм окружили плетнем.

Поселение быстро развивалось, рос приход и к 1720 году в церкви служили уже двое священников. В 1738 году случился большой пожар, разрушивший значительную часть церкви. Но Благовещенский собор удалось восстановить в первоначальном виде.

Церковь не могла вмещать всех прихожан, поэтому было принято решение построить новый храм. Проект разработал архитектор П. А. Ярославский, храм заложили в 1789 году. Это было каменное однокупольное строение в стиле раннего классицизма. До 1830 года церковь была однопрестольной, но в связи с ростом прихода храм расширили.

Поэтому в период с 1836 по 1838 года к Благовещенскому собору пристроили пределы святой великомученицы Варвары и великомученика Иоанна Воина. В церкви произвели капитальный ремонт. Благодаря подполковнику М. И. Батезатуле, была произведена внутренняя отделка собора лучшим золотом.

Собор не владел никакой землей или имуществом, содержался со щедрых пожертвований прихожан, коих было около тысячи, его штат насчитывал около десятка человек. Церковь решили реставрировать, но этот замысел пришлось отложить, храм лишь немного расширили. А уже в следующем 1887 году на собрании прихожан при благословлении архиепископа было принято решение выстроить новый храм.

План храма разработал архитектор Харьковского технологического института и по совместительству член Благовещенского прихода профессор М. И. Ловцов. Деньги на строительство были пожертвованы купцами и прихожанами. Была собрана очень значительная сумма, которая позволила выстроить монументальный храм.

Церковь построили в очень смелом стиле, при высоте 59 метров она обладала лицевым фасадом в 34 метра шириной, высота колокольни составляла 80 метров. Это сделало Благовещенский собор очень запоминающимся и притягательным туристическим местом и архитектурным памятником Харькова.