את הקריירה שלו החל ניסים גרמה עוד בנעוריו כשנהג לפזז בחתונות תימניות בראש העין. הפריצה הגדולה הגיעה בפסטיבל הזמר המזרחי 1977, שם ביצע לצד עליזה עזיקרי את השיר "כי רב להושיע". ב-1993 הקליט את אלבומו "בא הזמן", האלבום היה עמוס בלהיטים ובינהם "ראפ תימני (אלוהים גדול)". מתוך רצועת הקליפים של "זהו זה"