Источник названия города - скорее всего речка Харьков. Также некоторые историки связывают Харьков с древним поселением половцев Шарукань, которое находилось неподалеку от того места, где располагается современный Харьков.
 
В начале 17 столетия территория современной Харьковщины активно заселялась украинскими беженцами с Правобережной Украины и российскими поселенцами. Строились укрепления и оборонные линии против ногайцев и крымских татар.

В 1654 году было возведено Харьковское укрепление. Через год группа украинских казаков под предводительством И.Каркача поселилась возле укрепления. Казаки построили небольшое поселение между речками Харьковом и Лопанью в лесистой и болотистой местности. Казаки формально подчинялись московскому воеводе, но во внутренние дела казаков он не вмешивался. В 1655 году в Xарькове проживало около 2-х тысяч человек. Большинство населения занималось сельским холяйством, часть - ремеслами и торговлей, они проживали на территории укрепления, но большинство селилось в слободах вокруг укрепления и занималось земледелием. Крестьяне имели право пользоваться землей, занимались ремеслами и сохраняли козацкие вольности.
 
В 1662 году достроено новое укрепление. Во время росийско-шведской войны, в связи с выступлением Ивана Мазепы и восстанием донских казаков, Петр І поручил расстроить харьковское укрепление.
 
В 1765 году царь отменил полковое самоуправление Xарькова, казацкое население превратилось на военных поселенцев. Из 5-ти слободских полков было создано губернию с центром в Харькове.
 
В 1796 году губернию заменено на Харьковское намесничество, потом снова на Слободско-Украинскую губернию, а с 1836 года - на Харьковскую губернию. Xарьков постепенно росстраивался по примеру российского градостроительства.

После судебной реформы 1867 года в Xарькове создана своя судебная палата. Значимым событием в истории города является основание в 1805 году В. Каразиным и украинским дворянством Харьковского Университета, который превратил провинциальный городок в важный восточноукраинский образовательный центр. У 19 столетии в Харькове было основано 4 гимназии для юношей и несколько средних школ дял девочек. Развивается образование: в 1873 году открыто ветеринарный институт; в 1885 году - Технологический Иститут. Во второй половине 19 века откыто ряд профессиональных школ: торговые, технические, музыкальные, железнодорожные и т.д.
 
В 1917 году во время революции власть была в руках Временного правительства, местная власть - в руках губернского коммисара, городской думы, земств. 3-й универсал Центральной Рады распространял ее власть на Харьковщину. Но близость России, в которой власть захватили большевики, и Донбасса, где они также фактически захватили власть, плюс слабость украинских сил решили судьбу города. С конца ноября 1917 года в Харьков прибыли красноармейцы из России и матросы из Прибалтики. Они вместе с местными большевиками обезоружили войска Центральной Рады и российские антибольшевицкие силы. После Брестского мирного договора немецкая армия и украинские войска в апреле 1918 года освободили Xарьков от большевиков. В ноябре 1918-го временно власть в Xарькове захватили войска Директории УНР, но в январе 1919 город опять захватили большевики и тут действовало советское правительство Украины до июня 1919 года, когда город заняли российские белые войска генерала Деникина, которые находились тут до середины декабря 1919-го. После окончательной победы красных над Деникиным в Xарьков вернулось третье украинское советское правительство, которое обьявило Харьков столицей УССР.
 
Во время второй мировой войны Xарьков был значительно разрушен. Перед наступлением немецкой армии часть производств было эвакуировано, остальное уничтожено. Немецкая армия вошла в город 25-го октября 1941 года. Под окупацией немецких войск город пробыл 22 месяца. В феврале 1943-го года предпринимались попытки освободить Харьков, но окончательно советские войска освободили город лишь 23 августа 1943 года.
 
После освобождения города от фашистов постепенно начинается отстройка и реконструкция разрушенных зданий города. Было отстроено ряд старых заводов и построены новые. Город стремительно рос, были построены новые жилые кварталы: Салтовка, Павловое Поле, Рогань, Алексеевка, Холодная Гора, Красная Бавария.

Важным событием в жизни города стало открытие в 1975-м году Харьковского метрополитена длинной 18 километров с 13-ю станциями (запланировано 3 линии, в сумме 43 станции).
 
Город продолжает развиваться и на сегодня является 2-м по важности городом Украины.