הרב ישראל שרעבי נולד וגדל בשכונת מחנה יהודה, אליה הגיעו הוריו מתימן בראשית שנות ה-30. סיים את לימודיו בבית הספר היסודי נצח והמשיך לישיבת בני עקיבא בכפר הרא"ה, לאחריה התקבל לישיבת חברון בירושלים. עוד בהיותו תלמיד, הוסמך לרבנות שאחד מבוחניו היה הרב עמרם אבורביע, רבה הספרדי של פ"ת באותם ימים.
מאז נקרא למילוי תפקידים רבניים ציבוריים רבים ע"י בכירי הרבנים בישראל. בשנת 1973 שהוא בן 30 בלבד, נבחר ע"י המועצה הדתית, נציגות העירייה ונציגי הציבור לרב השכונות מחנה יהודה ושעריה. במסגרת תפקידו זה ניהל את מחלקת הכשרות של המועצה הדתית של פ"ת. במשך כל שנות כהונתו כרב השכנות, היה מוסר שיעורים בבתי ספר, בתי נוער, במתנס"ים וחוגי הורים. כמו כן, ייעץ בנושאי טהרת הבית והמשפחה, שלום בית, ותמיד שימש אוזן קשבת לכלל הציבור שהגיע לביתו בכל שעות היום.
ראש העיר רמי גרינברג "הרב ישראל שרעבי זצ"ל, רב שכונות שעריה ומחנה יהודה למעלה מ 50 שנה, היה אהוד מאוד על תושבי העיר בכלל ובמיוחד על תושבי השכונות שעריה ומחנה יהודה. תמיד דאג להשתתף בשמחות ובאבל תוך תמיכה במשפחות. הרב שימש דוגמא ומופת לתושבי השכונות ולכל מי שבא איתו במגע. אני כואב על האובדן ושולח תנחומים בשמי ובשם תושבי העיר למשפחתו המורחבת."
לאחרונה הנציחה העירייה את אישתו של הרב ישראל שרעבי, הרבנית שושנה שרעבי במועדון "שערי שושנה" – אשר נמצא בשכונת שעריה. הרבנית הייתה מוכרת מאוד בפעילותה הציבורית ובמסירותה למען הכלל.
הלוייתו של הרב תתקיים הערב (ד') בשעה 22:30 בבית העלמין סגולה בפתח תקווה.
