Майбутній містобудівник народився в родині французького художника в Санкт-Петербурзі, який переїхав до Москви. Початкове архітектурну освіту та основи малюнка юний Осип отримав у архітектора-італійця Кампорезі. Потім він перейшов в Архітектурне училище при Кремлівської експедиції, очолюване М.Ф. Козаковим. Там обдарований учень отримав блискучу практику будівельної техніки у майстри на будівлях в 1801-1806 рр. коли будувалася Голіцинськая лікарня (Друга градская на Калузької вулиці) і будинок графа Розумовського на Гороховій вулиці (нині вул. Казакова).
У 1809-1810 рр. в Твері Осип Бове разом з архітектором К.І.Россі взяв участь в будівництві і обробці палацу для принца Георга Ольденбургского і його дружини великої княгині Катерини Павлівни, призначеного імператором Олександром I генерал-губернатором Ярославської, Тверської і Новгородської губерній і директором шляхів сполучення.
Після пожежі Москви 1812 року було створено «Комісія для будівель в Москві». Туди увійшов вже відомий і енергійний «службовець на посаді архітектора титулярний радник Осип Бове». До Комісії надходило до 100 прохань в день на зведення нових будівель - «для приведення першопрестольного міста в приличествующий вид». Архітектор Бове встигав керувати оновленням кремлівських веж і стін, зведенням Гостиного двору, будівництвом житлових і казенних будинків, паралельно виправляючи архітектурні проекти, подані до Комісії, та плануючи міські ансамблі.
У 1816 році Осип Бове подав у петербурзьку Академію мистецтв список своїх 34 будівель за підписом головнокомандувача генерала А.П. Тормасова, начальника відновлювальних робіт в Москві, і був затверджений у званні архітектора.
У 1818-1824 рр. архітектор Осип Бове створив проект Театральній площі перед Великим театром (тодішнім Петровським), уклавши в трубу річку Неглинную. У 1820-1822 роках спланував і розбив біля Кремлівської стіни над річкою Неглинної сад з гротом-раковиною, фонтаном і кав'ярнею, обнесений чавунною решіткою з барельєфами, прикрашеними військовими емблемами в пам'ять про війну 1812 року. Паралельно архітектор Бове відновив спалений Петровський театр, що став Великим театром, спланував і збудував Театральну площу.
У 1824-1825 рр. оформив Манеж, надавши йому «військовий» вигляд фронтонами, колонами доричного ордера і карнизом зі скульптурним фризом з ліпниною у вигляді військових емблем.
У 1825 - 1828 році реконструював Катерининську (Новоекатерінінскую) лікарню на Страсному бульварі в стилі ампір. Інший значущий об'єкт архітектора Бове - Перша Градская лікарня (зараз Міська лікарня №1 ім. М. І. Пирогова) була побудована в 1828 -1833 рр. Її вишуканий портик спирається на гладку стіну, прикрашену скульптурними рельєфами.
У 1832 році архітектор Бове перебудував Церква ікони Божої Матері «Всіх скорботних радість» на Великій Ординці в стилі ампір.