Своими счастливыми войнами Карл раздвинул границы Франкского государства на огромное расстояние. Столь же неутомимо, входя во все мелочи, заботился он об улучшении государственного устройства, о материальном и духовном развитии своего государства. Военное могущество его он значительно возвысил посредством упорядочения сбора ополчения, а границы укрепил военной организацией марок, управляемых маркграфами. Он уничтожил казавшуюся ему опасной для короля власть народных герцогов. Отдельными округами управляли графы, сосредоточившие в своих руках функции административные, финансовые, военные и отчасти судебные. Два раза в год — в конце весны или в начале лета и осенью — вокруг самого императора собирались государственные сеймы; на весенний могли являться все свободные люди, на осенний приглашались только наиболее важные «советники» государя, то есть люди из придворного круга, высшей администрации и высшего духовенства. На осеннем собрании обсуждались различные вопросы государственной жизни и составлялись по ним решения, получившие форму так называемых капитуляриев. На весеннем собрании капитулярии представлялись на одобрение собравшихся; здесь же государь получил от съехавшихся сведения о состоянии управления, о положении и нуждах той или иной местности.
Карл много заботился о сельском хозяйстве и об управлении дворцовыми имениями; от него остались подробные и обстоятельные постановления, касающиеся этого управления (Capitulare de villis). По приказанию Карла осушались болота, вырубались леса, строились монастыри и города, а также великолепные дворцы и церкви (напр. в Ахене, Ингельгейме). Затеянное в 793 г. устройство канала между Редницем и Альтмюлем, которым соединились бы Рейн и Дунай, Северное и Чёрное моря, осталось недоконченным
Оказывая энергичное содействие распространению христианства, покровительствуя духовенству и устанавливая для него десятину, будучи в наилучших отношениях с папой, Карл сохранял за собою, однако, полную власть в церковном управлении: он назначал епископов и аббатов, созывал духовные соборы, постановлял на сеймах решения, касавшиеся церковных дел. Карл сам усердно занимался науками; приказал составить грамматику народного языка, в которой установил франкские названия месяцев и ветров; велел собирать народные песни. Он окружал себя учёными (Алкуин, Павел Диакон, Эйнгард, Рабан Мавр, Теодульф) и, пользуясь их советами и содействием, стремился дать образование духовенству и народу. В особенности он заботился об устройстве школ при церквах и монастырях; при своем дворе он устроил род академии для образования своих детей, а также придворных и их сыновей.
В 794 г., на месте термального курорта кельтов и римлян в Ахене, Карл начал строительство огромного дворцового комплекса, законченного в 798 г. Превратившись сначала в зимнюю резиденцию Карла, Ахен постепенно стал постоянной резиденцией, а с 807 г. — постоянной столицей империи. Карл укрепил денье, которое стало весить 1,7 грамма. Слава Карла распространилась далеко за пределами его владений; посольства из чужих земель часто появлялись при его дворе, как, например, посольство Харун ар-Рашида в 798 г.
В феврале 806 г. Карл завещал разделить империю между своими тремя сыновьями. Людовику должны были отойти Аквитания и Бургундия, Пипину — Италия и Германия к югу от Дуная, а Карлу Молодому — Нейстрия, Австразия и Германия к северу от Дуная. Однако в 810 г. умер Пипин, а в 811 г. — Карл Молодой. Незадолго до смерти, в 813 г. Карл призвал к себе Людовика, короля Аквитании, единственного оставшегося в живых своего сына от Гильдегарды, и, созвав торжественное собрание знатных франков всего королевства, 11 сентября назначил его, с общего согласия, своим соправителем и наследником, а затем возложил ему на голову корону и приказал впредь именовать его императором и августом. Вскоре после этого, сраженный сильной лихорадкой, он слёг в постель. В начале января к лихорадке присоединился плеврит, и 28 января 814 г. император умер. Был похоронен в построенной им же дворцовой церкви Ахена. По настоянию Фридриха I Барбароссы поставленный им антипапа Пасхалий III канонизировал Карла Великого.
Карл Великий и папы римские Геласий I и Григорий I. Миниатюра из молитвенника короля Карла II Лысого.