أتى تأسيس الجمعية العربية كردة فعل طبيعية لما كانت تشهده زنجبار من تجمعات عرقية بدأت تتبلور بعد نهاية الحرب العالمية الأولى، وبتشجيع من سلطة الحماية البريطانية، وقد أحس العرب حينها أن تربعهم على رأس السلطة في خطر، بعد أن سمحت بريطانيا بتكوين جمعيات عرقية والتي تخوف العرب من كون ذلك تهميشا لدورهم الريادي في زنجبار. لذا فقد كانت الحاجة ملحة لظهور جمعية تحفظ ما يمكن حفظه من سلطة زنجبار العربية.