En 1827, Abd-el-Kader accompagna son père au pèlerinage de la Mecque; il séjourna au Caire, où il fut vivement frappé des réformes accomplies par Méhémet-Ali. Des prophéties merveilleuses concernant le jeune pèlerin annonçaient déjà qu'il régnerait sur les Arabes. Lorsque les Français prirent possession d'Oran, les indigènes demandèrent à Mahi-ed-Din de se mettre à leur tête pour aller combattre les infidèles; ils assiégèrent Oran au printemps, partirent, puis revinrent à l'automne. Ils déployèrent une extrême bravoure, mais furent défaits à plusieurs reprises, jonchant la terre de leurs morts. Le prestige de Mahi-ed-Din n'en fut pas affaibli.

Le 22 novembre 1832, une réunion des trois tribus des Hachem, des Beni-Amer et des Gharaba eut lieu à Ersebia, dans la plaine d'Eghris, en vue du choix d'un chef pour la guerre sainte. Mahi-ed-Din refusa en raison de son grand âge; il appela son fils Abd-el-Kader et lui demanda comment il exercerait le pouvoir s'il en était investi : " Si j'étais sultan, répondit le jeune homme, je gouvernerais les Arabes avec une main de fer et si la loi m'ordonnait de faire une saignée derrière le cou de mon propre frère, je l'exécuterais des deux mains. " Mahi-ed-Din sortit de sa tente tenant son fils par la main et dit à la fouie qui l'entourait : " Voici le sultan qui vous est promis par les prophètes. " De bruyantes acclamations ratifièrent ce choix.
Abd-el-Kader avait vingt-quatre ans; il ne possédait que 2 boudjous (3 fr. 50) dans le pan de son burnous. Reconnu à Mascara, il occupait l'ancienne maison des beys. Proclamé par trois tribus seulement, il lui fallait se faire accepter par les autres indigènes. Il s'appuyait sur la confrérie des Kadriya, mais se heurta jusqu'à la fin de sa carrière aux confréries rivales, Taïbiya et Tidjaniya. Son autorité et son prestige étaient donc bien faibles à l'origine. Il se rendit à la mosquée de Mascara, prêcha la paix et la concorde entre les fidèles, promit de les diriger dans la voie de Dieu et de la guerre sainte. Il écrivit à toutes les tribus pour leur apprendre son élévation au pouvoir et leur désigner les hommes qu'il avait choisis pour être ses khalifas, ses lieutenants.