Sicilyalı bir baba ve Fransız-İtalyan kırması bir annenin oğlu olarak dünyaya geşdi. Önceden kendi halinde babasının davulundan sesler çıkartmaya çalışan Zappa, tam okulun grubunda davul çalmaya başlamıştı ki, 1955 yılında yerleştikleri Lancester, Kaliforniya`da ilk gitarını edinir ve davulu bırakarak, biraz geç sayılabilecek bir yaşta, 19 yaşında gitar çalmaya başlar. Bu yıllarda yazdığı ve o yıllardaki mutsuzluğu ile yalnızlığından dem vurduğu "I Was a Teenage Maltshop" isimli yapıtı, daha sonraları "Dünyanın İlk Rock Operası" olarak müzik literatürüne geçmiştir.

Asosyal bir yapıya sahip olması ve çok fazla arkadaşı olmaması sebebiyle neredeyse tüm zamanını evinde gitarıyla başbaşa geçirir ve kısa sürede büyük ilerleme gösterir ve ilk grubu Blackouts`u, henüz Lise 1. sınıf öğrencisiyken, 1956 yılında kurar. Bu grupta, daha sonra profesyonel yaşantısında da uzun yıllar birlikte çalışacağı Captain Beefheart ismiyle bilinen Don van Vliet de yer alıyordu.

1958 yılında liseyi bitiren Zappa, müzik eğitimi görmek için konservatuara kaydolur fakat daha okula başladığı dönem, okulun kendisine göre olmadığına kanaat getirerek, ayrılır ve Hollywood`a yerleşir. Ünlü bir isim olma hayaliyle gidilen bu kentte Zappa boş hayallerle işe başlamaz ve iki sene boyunca grafikerlik, sanat yönetmenliği gibi işlerle haşır neşir olarak hayatını idame ettirir. Bu süre içinde müziğe de ara vermez ve her fırsatta şansını denemekten vazgeçmez. Bunun bir sonucu olarak ilk profesyonel işini alır ve yakın arkadaşı, ünlü yönetmen Tim Carey`nin The World`s Greatest Sinner adlı filminin müziğini yapar.