28 июля 754 года Карл вместе с братом Карломаном был помазан на царство в церкви Сен-Дени папой Стефаном II, а после смерти Пипина вступил вместе с братом на престол. По разделу с братом отцовского наследства, Карл получил во владение земли в форме обширного полумесяца, идущего от Атлантической Аквитании до Тюрингии, через большую часть Нейстрии и Австразии, через Фризию и Франконию и со всех сторон охватывающие владения брата Карломана. Резиденцией Карла был Нуайон. Братья не ладили между собой, несмотря на отчаянные старания их матери, Бертрады, сблизить их, вопреки всем и всему. Согласие между ними сохранялось с величайшим трудом, ибо многие из окружения Карломана старались рассорить братьев, и даже довести дело до войны. Когда в 769 году один из сеньоров с юго-запада по имени Гунольд (возможно, это был сын Вайфара) поднял на восстание западных аквитанцев и гасконских басков, Карл был вынужден один отправиться на подавление мятежа, так как Карломан отказался присоединиться к нему со своим войском. Но, несмотря на это, Карл решительно продолжал задуманный поход и своим упорством и твердостью добился всего, чего желал. Он принудил Гунольда бежать в Гасконь. Не оставляя его там в покое, Карл перешёл реку Гаронну и добился у герцога Лупа Гасконского выдачи беглеца.

Опасаясь сговора между Карломаном и королём лангобардов Дезидерием, Карл решил опередить события. Он не только сблизился со своим кузеном герцогом Баварии Тассилоном, который, храня верность традициям своего рода, стал зятем лангобардского короля, но и сам в 770 году, по совету матери Бертрады женился на дочери Дезидерия Дезидерате, отставив на второй план свою законную жену Гимильтруду (которая уже успела родить ему сына Пипина). Конфликт мог разгореться нешуточный, если бы Карломан не умер, причём очень своевременно, в декабре 771 году Карл привлёк на свою сторону некоторых наиболее близких Карломану деятелей и захватил наследство брата. Его невестка Герберга и племянник Пипин, родившийся в 770 году, нашли убежище у Дезидерия.

Монета Карла Великого, изображающая Карла в традиционной римской одежде. Карл, будучи в Риме, был вынужден дважды надевать тогу. Надпись: KAROLVS IMP AVG

Вскоре после смерти брата Карл начал войну с саксами. Это была самая продолжительная и ожесточенная война в его царствование. С перерывами, прекращаясь и возобновляясь вновь, она продолжалась тридцать три года, до 804 г., и стоила франкам наибольших потерь, так как саксы, подобно всем народам Германии, были свирепы и преданы своим культам. Граница с ними почти везде проходила по голой равнине, и поэтому была неопределённой. Ежедневно здесь происходили убийства, грабежи и пожары. Раздраженные этим франки, в конце концов, на сейме в Вормсе сочли необходимым начать против соседей войну. В 772 г. Карл в первый раз вторгся в Саксонию, разрушил крепость Эресбург и низверг языческую святыню — идола Ирминсула. Но Карл понимал, что прочного умиротворения не будет, пока за пределами королевства существует независимая Саксония, а точнее независимые саксы, так как этот народ делился на западных (вестфальских), центральных (анграрийских), восточных (остфальских) и северных (нордальбингенских) саксов.

Затем Карл был отвлечен итальянскими делами. В 771 г. Карл развёлся со своей женой, дочерью лангобардского короля Дезидератой, отправил её к отцу и женился на внучке герцога алеманнов Готфрида, Хильдегарде (Гильдегарде). В 772 г. у Карла родился сын от Хильдегарды, получивший тоже имя Карл. Дезидерий не замедлил принять вызов. С первых же дней 772 г. он потребовал от папы Адриана I помазания на царство сына Карломана Пипина и возобновил начатое его предшественниками наступление на Папскую область. Папа обратился за помощью к Карлу. В сентябре 773 г. сильная франкская армия направилась к Альпам. Лангобарды закрыли и укрепили перевалы. Карл решился на обходной маневр. По тайным тропинкам бесстрашный франкский отряд пробрался к врагу с тыла и одним своим появлением произвёл общее замешательство в лангобардском войске и бегство сына короля Дезидерия, Адельхиза. Есть указание, что папа успел посеять измену, как в войске короля лангобардов, так и в его владениях, что именно это обстоятельство и было причиной весьма слабого сопротивления. Опасаясь окружения, Дезидерий покинул перевалы и отступил к своей столице Павии, рассчитывая отсидеться за её толстыми стенами, его сын с вдовой и детьми Карломана укрылся в Вероне. Франки с боем преследовали врага, по пути овладев многочисленными городами Ломбардии. Оставив часть сил под Павией, Карл с остальным войском подступил в феврале 774 г. к Вероне. После короткой осады город сдался, и Карл имел удовольствие овладеть племянниками, которыми так пугал его Дезидерий.

В 775 г. во главе большой армии Карл углубился на территорию саксов больше обычного, достиг земли остфалов и дошёл до реки Оккер, взял заложников и оставил сильные гарнизоны в Эресбурге и Сигибурге. Следующей весной под ответным натиском саксов Эресбург пал. После этого Карл изменил тактику, решив создать «укрепленный рубеж» (марку), который должен был предохранять франков от вторжений саксов. В 776 г. он, вновь укрепив Эресбург и Сигибург, построил новую крепость Карлсбург и оставил в пограничной зоне священников для обращения язычников-саксов в христианскую веру, которое вначале шло довольно успешно. В 777 г. саксы опять были разбиты, и тогда большинство саксонских эделингов (племенная знать) признало Карла своим повелителем, на собрании в Падерборне.

В 777 году Карл принял мусульманского губернатора Сарагосы, прибывшего просить его о помощи в борьбе против эмира Кордовы Абд ар-Рахмана. Карл согласился, но в 778 г. оказавшись в Испании во главе огромной армии, он потерпел неудачу под Сарагосой, где его предали вчерашние союзники. На обратном пути, в Ронсевале, когда войско двигалось растянутым строем, как к тому вынуждали горные теснины, баски устроили засаду на вершинах скал и напали сверху на отряд, прикрывавший обоз, перебив всех до последнего человека. Рядом с командующим отрядом Роландом, пали сенешаль Эггихард и граф двора Ансельм. Это сражение, которое произошло 15 августа 778 г., называется Ронсевальским. Эйнхард не дает этого названия, однако, подчеркивает, что только арьергард обоза франков и те, кто шёл в самом конце отряда были разбиты. В оригинальной версии Анналов королевства франков, составленной в 788—793 годах, в событиях, относящихся к 778 году, вообще нет упоминаний об этом сражении. Сказано лишь то, что «после того как были переданы заложники от Ибн-Аль-Араби, Абутария и многих сарацинов, после разрушения Памплоны, покорения басков и наварров, Карл вернулся на территорию Франкии». В исправленной версии Анналов, составленной вскоре после смерти Карла, также нет упоминания об этой битве. Но имеется новый важный пассаж: «Возвращаясь [Карл] решил пройти через ущелье Пиренейских гор. Баски, устроив засаду на самом верху того ущелья, привели в большое смятение всё войско [Карла]. И хотя франки превосходили басков, как оружием, так и храбростью, однако превосходство то было побеждено благодаря неровности места и невозможности для франков вести сражение. В той битве многие из приближенных, которых король поставил во главе своего войска, были убиты, обоз был разграблен; враг же, благодаря знанию местности, тотчас рассеялся в разные стороны». Эйнхард же в своей работе (это третье описание Ронсевальской битвы) делает два основных изменения. Он заменяет «всё войско» из переписанной версии Анналов франкского королевства на «тех, кто шёл в самом конце отряда» и перечисляет только трёх из знатных франков, которые пали в битве (Эггихард, Ансельм и Руотланд, то есть Роланд (префект бретонской марки) герой знаменитого французского эпоса «Песни о Роланде».). Точная дата сражения — 15 августа — известна благодаря эпитафии Эггихарду, стольнику Карла — «она произошла в восемнадцатый день сентябрьских календ». Спустя двадцать лет при описании тех же событий неизвестный переписчик Анналов вставляет такое сообщение, о котором в ранних текстах нет никакого упоминания. По-видимому, привлечение внимания к этому событию было для него важным. Скорее всего, все подробности взяты им из более поздних текстов. Он говорит, что в бой вступило все франкское войско и утверждает, что было убито множество франкских предводителей. Это была настоящая катастрофа. Поражение повергло в панику готских христиан в Испании, среди которых франкское вторжение породило большие надежды, и многие из них укрылись от исламского господства во Франкском государстве.

Карл Великий и Роланд

Карл собрал новую армию, явился в Верден, вызвал к себе саксонских старейшин и принудил их выдать 4500 зачинщиков мятежа. Все они в один день были обезглавлены. Видукинд успел бежать. Тогда же был обнародован так называемый «Первый саксонский капитулярий», который предписывал наказывать смертью всякое отступление от верности королю и всякое нарушение общественного порядка, а также рекомендовал меры по искоренению любых проявлений язычества. Битва при Детмольде в 783 г. была нерешительной; Карл должен был отступить, но затем одержал победу на Газе, близ Оснабрюка. Следующие 784 и 785 года Карл почти не покидал Саксонии. В ходе этой упорной войны он бил саксов в открытых сражениях и в карательных рейдах, брал сотни заложников, которых увозил из страны, уничтожал селения и фермы непокорных. Зима 784—785 года, в отличие от предыдущих зим, являвшихся для Карла временем отдыха; была также проведена им в Саксонии, в Эресбурге, куда он переселился вместе с семьей. Летом 785 г. франки перешли Везер. Обескровленный многими поражениями Видукинд запросил пощады и завязал с Карлом переговоры в Бернгау. Осенью вожди саксов Видукинд и Аббион явились, наконец, ко двору Карла в Аттиньи, в Шампани, крестились (причём Карл был крестным отцом Видукинда), присягнули в верности и получили из его рук богатые дары. Это был переломный момент в Саксонской войне. В летописи 785 г. было записано, что король франков «подчинил всю Саксонию». После этого сопротивление побежденных стало постепенно ослабевать.

Авторитет короля был почти незыблем в Нейстрии и Австразии, однако Карлу оставалось ещё замирить юг Галлии, и её крайний запад. Карл неоднократно вторгался в Бретань, страну кельтского племени бриттов (бретонцев), обкладывая их данью. На подступах к Бретани в конце 70-х годов возникает британская пограничная марка, включающая города Ренн, Тур, Анжер и Ванн. В 799 г. Ги, представитель влиятельного австразийского рода Ламбертидов, правитель этой провинции, воспользовавшись раздором среди бретонских вождей, осуществил решающую по замыслу экспедицию на полуостров. В 800 г. вожди бриттов принесли Карлу клятву верности в Туре. Однако эта страна не покорилась до конца, сохранив собственные религиозные нравы и обычаи. Уже через несколько лет возникла необходимость в новой компании, она была проведена в 811 г. и показала всю непрочность власти франков в стране, никогда не отказывающейся от своей политической и религиозной независимости.