Впервые в письменных источниках Олонец упоминается в приписке к Уставу новгородского князя Святослава Ольговича (1137 г.). Однако, современные историки датируют приписку XIII веком, а первым упоминанием считается 1228 год, когда Олонец отмечают записи в нескольких летописях.
Во времена новгородской независимости Олонец принадлежал новгородскому владыке. В ходе русско-шведских войн XVI—XVII веков город неоднократно разорялся.

По Столбовскому мирному договору 1617 года граница со Швецией стала проходить в 40 км от Олонецкого погоста. В 1648 г., по стратегическим соображениям, Олонецкий Рождественский погост был отписан в казну. В месте слияния рек Олонки и Мегреги, где находилось главное селение погоста, известное под названием Толмачев-наволок, в сентябре 1649 года по указу царя Алексея Михайловича под руководством князя Федора Волконского и дьяка Степана Елагина была построена «порубежная крепость» Олонец.

Олонецкая крепость стала ядром города, административным центром Заонежских и Лопских погостов, форпостом в борьбе со шведами. Крепостная стена (в стенах насчитывалось 1300 бойниц) тянулась вдоль речных берегов более чем на 1,5 км и имела 19 башен. Самая высокая — Красная башня была высотой 32 метра. В крепости была отстроена церковь Троицы, хлебные амбары, воеводские дворы и 155 дворов, в которых во время нападений шведских отрядов пряталось окрестное население. На вооружении гарнизона были 31 пушка разного калибра и 824 мушкета. По числу башен, протяженности стен и военной оснащенности крепость превосходила Архангельскую и все сибирские города, уступая лишь Холмогорам. Крепость сгорела при пожаре в 1741 году и более не восстанавливалась.

Сам город становится местопребыванием олонецкого воеводы (в 1670-х годах олонецким воеводой служил Яков Стрешнев). В тот период Олонец был единым торговым, военным и административным центром Карелии. «Чтоб в городе не пусто было», сюда были переселены из разных заонежских погостов состоятельные крестьяне, занимавшиеся торговлей и промыслами, в том числе железоделательным промыслом. Посадские люди Олонца во 2-й половине XVII столетия были предприимчивыми торговцами, на своих небольших судах они ходили даже в Стокгольм. В конце XVII века Олонец насчитывал 726 дворов.

В августе 1700 года Петр I объявил войну Швеции, началась Великая Северная война. К началу 1702 года к северу от Олонца уже были железоделательные заводы. К 1703 году в окрестностях Олонца, в Лодейном Поле на р. Свирь, была устроена военная верфь, получившая название Олонецкой верфи. Фрегаты Балтийского флота строились на Олонецкой верфи и вооружались пушками на Олонецких заводах. Об этом напоминает герб Олонца, на котором изображены два перекрещенных книппеля. Книппель — это специфический морской пушечный боеприпас из двух ядер, скованных коротким отрезком цепи.

В первые годы в ходе кампаний 1702—1703 годов русские войска заняли Ингрию. В 1707 году по приказу А.Д. Меншикова были установлены почтовые станы от Петербурга до Олонца и несколько позже — до Петровского оружейного завода. В 1708 году была образована Ингерманландская губерния, в состав которой был включен и Олонец. В 1712 году Олонец отдан в ведение Адмиралтейства. Значение Олонца — крепости сохранялось до 1721 года, граница со Швецией была отодвинута далеко на восток и северо-восток и город перестал быть пограничным форпостом России.

Мобилизации населения на работы и в армию, а также строительство Петербурга способствовало обнищанию, постепенному разорению и запустению дворов Олонца. С 1719 по 1724 год Петр I несколько раз бывал в Олонце и лечился на олонецких марциальных водах.

В 1727 году из Санкт-Петербургской губернии была выделена Новгородская губерния. Олонец вновь стал административно-судебным центром Олонецкого уезда, и в росписи губерний и провинций этот уезд причислен к Новгородской провинции (одной из пяти провинций новой губернии). В 1773 году по указу Екатерины II была создана Олонецкая провинция (состояла из двух уездов и одной округи). Олонец был назначен областным городом Олонецкой провинции. В 1784 году он стал уездным городом Олонецкого наместничества (на первое место вышел Петрозаводск), а с 1801 года — уездным городом Олонецкой губернии.

В XVII—XVIII веках Олонец продолжал оставаться крупным торговым центром. С образованием в конце XVIII века Олонецкой губернии административный центр переместился в г. Петрозаводск, а Олонец постепенно превратился в тихий провинциальный городок.

Вслед за отменой крепостного права, проведенной в 1861 году, последовала земская реформа 1864 года, которая создала органы местного самоуправления — земства. В 1887 году в Олонецком уезде было 7 волостей и город Олонец. В Олонце проживало — 427 душ. В 1909 году на мосту через Мегрегу и Олонку был открыт памятник в честь цесаревича Алексея Николаевича (не сохранился). В 1912 году в Олонце проживало 2058 человек.

После падения монархии в России в 1917 году начался распад Российской империи. В конце 1917 года объявило о независимости Великое княжество Финляндское. В 1919 году председателем Олонецкого уездного революционного комитета, олонецким военным комиссаром становится большевик Ф.И. Егоров. В 1920—1921 годы он выполняет обязанности председателя Олонецкого уездного комитета РКП(б).

В 1920 году большевики окончательно установили на территории Карелии советскую власть. При активном участии финского социалиста Эдварда Гюллинга и поддержке В.И. Ленина 8 июня 1920 декретом ВЦИК из населенных карелами местностей Олонецкой и Архангельской губерний была образована Карельская трудовая коммуна.

В 1923 году Карельская трудовая коммуна была преобразована в Автономную Карельскую Советскую Социалистическую Республику. В 1927 году Олонец был преобразован в сельский населенный пункт. В ходе Большого террора 1937—1938 годов в окрестностях с. Олонец происходили массовые расстрелы жертв сталинских репрессий.

Во время Советско-финской войны 5 сентября 1941 года части Карельской армии Финляндии заняли Олонец. Город был переименован в Aunuslinnu («Олонецкая Крепость»). 25 июня 1944 года части Карельского фронта в ходе Свирско-Петрозаводской наступательной операции вошли в оставленный финскими войсками город. 7 июля 1944 года Олонец вновь получил статус города.

Олонец является единственным городом на территории Карелии, где карелы составляют большинство населения, помимо этого Олонецкий район является местом компактного проживания карелов-ливвиков и самым населенным карелами районом Республики Карелии.

Кроме карелов в Олонце проживают такие традиционные для Карелии народы как финны, русские, а также белорусы, украинцы, поляки и литовцы. И если русские проживали на этой земле издревле, то остальные народы переселились в Карелию и в частности в Олонецкий район сравнительно недавно. В отношении белорусского и украинского населения это связанно прежде всего с послевоенным переселением из разрушенных деревень Белоруссии и Украины, для поляков и литовцев Карелия была местом ссылки. Что касается финнов, то большое их количество переселилось в Карелию в 50-х годах XX века, так как в то время финский язык был на территории республики вторым официальным. В Олонце и Олонецком районе существует небольшая община чеченцев, что не характерно для этого региона и республики в целом.

В северной части города проходит железнодорожная линия Янисъярви — Лодейное Поле Волховстроевского отделения Октябрьской железной дороги. Железнодорожный вокзал станции Олонец расположен в начале улицы Пролетарской.

20 апреля 2017 года Банк России выпустил в обращение памятную монету номиналом 10 рублей серии «Древние города России»: г. Олонец, Республика Карелия (1137 г.).

Сегодня для отечественного и зарубежного, по преимуществу — финского туриста, Олонец знаменит прежде всего Гусиным праздником. В мае перелетных птиц встречает и город, и туристы, специально приезжающие на экологический фестиваль «Олония — гусиная столица». В августе Олонец проводит «Молочный фестиваль», знаменитый своим «Парадом коров». В октябре сюда можно приехать, чтобы поучаствовать в празднике национального костюма — «Олонецкий хоровод». Еще город знаменит «Играми Дедов Морозов», которых ежегодно приглашает к себе в гости карельский Морозенок — Паккайне. Считается, что именно здесь, в небольшом карельском райцентре, его родина. 1 декабря у Паккайне день рождения. И на него съезжаются разные Деды Морозы со всей России и Санта-Клаусы из-за границы.

Доехать до Олонца можно на автобусе:
- № 965 Санкт-Петербург (автовокзал № 2) – Петрозаводск, 2 раза в день;
- № 963 Санкт-Петербург – Питкяранта;
- № 815 Санкт-Петербург – Олонец (пятница);

Адрес: Россия, Республика Карелия, Олонец. 60.979719, 32.972034