許效舜生於台灣基隆市暖暖區,其父許義隆曾為基隆市議員。許效舜曾當過基隆地方法院法警五年,工作期間考上華視編劇班,加入基隆話劇社,報考蘭陵劇坊演員訓練班,也在電視台當二、三線演員。他與李優君於1992年結婚,曾被稱為“美女與野獸”的婚姻;李並於1995年誕下女兒。2001年,李與女兒因移民,居於加拿大;因觀念不同,與2005年8月4日台灣《蘋果日報》誤傳李過世的訊息,被女方認為是許惡意中傷,兩人已於該月底簽字離婚,家族事業亦同樣走下坡。2006年6月起,他在基隆市暖暖區東勢街開設“舜子的家—─石頭族茶棧”算命店,替客人算命。他篤信佛教。他亦有收藏住家附近的大小珍奇石頭的習慣,由他對家族與祖家店子的命名可體會到,許對石頭有另一份情結。2011年,許效舜與小他24歲的“小鐵”再婚,並育有一子,取名為“許甘丹”。
1980年,他接到第一個通告,是擔任台視連續劇《江湖夜雨十年燈》臨時演員。1989年,他在蘭陵劇坊三位創辦人之一的金士傑引薦之下,在王偉忠製作的華視綜藝節目《連環泡》演出短劇單元〈中國電視史〉之〈軍教篇〉(扮演一個傻兵)而走紅。1991年,他首度主持綜藝節目,即《連環泡》。1994~1995年,開始拉一些新進演員接秀,當時練習製造道具、編劇、美術一手包辦,奠定他從事笑匠的路。成名前期曾投靠王偉忠,至“石頭家族”成立前已成為獨當一面的諧星與主持。因許與澎恰恰在三立台灣台《鐵獅玉玲瓏》節目內角色受歡迎之勢,在2001年2月24日與馬世莉為首,一眾班底(主要是1988年《連環泡》節目內的演員)成立“石頭家族”藝人經紀公司,主力搞笑綜藝表演和節目,成員有宏都拉斯、白雲、郭子乾、九孔、馬國畢、楊麗音、高明偉、陳為民、江冠宏、羅敏瑜、王彩樺、何妤玟、於緁等。公司分經紀部、編劇組、製作組等,在綜藝節目的收視上曾獨當一面,家族成員主要在三立台灣台《黃金夜總會》演出。2002年5月,許與家族成員離開三立、跳槽MUCH TV,投放在午間時段節目《台灣樂麗屋》,但是至2002年10月就停播,慘賠新台幣600多萬元。發展不順,導致一直虧損,只能以周邊事業(冰品店、治尿酸飲品等)補上維持;而且由此一直缺乏固定舞台;至2005年11月26日,旗下藝人的契約剛好到期時,以解除契約、各奔前程為名,解散家族。