Футбольный клуб основан в 1928 году и является старейшим существующим клубом Саудовской Аравии. Начало клубу было положено в 1927 году, когда группа молодых людей из Джидды решила создать в городе футбольную команду, тогда же появилось и название клуба, которое подчёркивало «единение» этих людей. В 1929 году Иттихад сыграл свой первый матч. В 1937 году Иттихад сыграл свою первую игру против другого клуба из Джидды «Аль-Ахли», который впоследствии стал главным и принципиальным соперником Иттихада. Футбол в Саудовской Аравии продолжал оставаться неофициальным вплоть до 1957 года, когда была образована Футбольная федерации Саудовской Аравии и футбольные клубы стали официально признаваться. В этом же году был проведён и первый официальный турнир: Кубок Короля, который был единственным общенациональным турниром вплоть до создания Саудовской Премьер-лиги в 1975 году. Именно Кубок Короля стал первым национальным трофеем Иттихада, который он выиграл в 1958 году. В 1982 году Иттихад впервые выиграл чемпионат Саудовской Аравии. Основные достижения пришли к команде в XXI веке, когда клуб по праву стал одним из сильнейших в стране, неоднократно одерживал победы в различных внутренних и международных турнирах, в том числе дважды подряд добился победы в Лиге чемпионов АФК.
