Der Jihad bedeutet soviel wie "Anstrengung" oder "Bemühung" vor  allem auch im militärischen Sinne. Traditionell wird zwischen dem "großen" und dem "kleinen" Jihad unterschieden. Als "großer" Jihad wird die individuelle Bemühung des Gläubigen um ein gottgefälliges Leben in einem friedlichen Sinne mit Herz, Wort und Hand verstanden. Der "kleine" Jihad ist dagegen der bewaffnete Kampf zur Verteidigung oder Herstellung der Freiheit, den Glauben auszuüben. Dabei gelten nach islamischem Recht einige Beschränkungen:

• Er muss vom Herrscher/Kalifen ausgerufen werden.
• Er ist eine Gemeinschaftsaufgabe und nur unter feindlicher Besatzung eine individuelle Pflicht.
• Nur feindliche Kämpfer dürfen bekämpft werden, Zivilisten müssen geschont werden.

Im Sinne von 'al-Qaida' handelnde Terroristen, die auch als Jihadisten bezeichnet werden, verstehen den Begriff Jihad in erster Linie als bewaffneten Kampf. Die erwähnten Beschränkungen durch das islamische Recht werden von ihnen dabei nicht beachtet. Sie argumentieren nämlich, dass "der Westen" immer und überall "den Islam" angreife. Deshalb sei jeder Muslim verpfichtet, "den Islam" durch bewaffneten Kampf (Jihad) zu verteidigen.

Muslime, die dieser vermeintlichen Pflicht nicht nachkommen, werden zum Teil als vom Glauben Abgefallene angesehen. Außerdem wird nicht zwischen westlichen Soldaten und Zivilisten unterschieden, da jeder Bürger für die Politik seines Staates und den angeblichen Angriff auf den Islam mit verantwortlich gemacht wird.