樂隊首先發布了一張名為The Dreamers的迷你專輯。7個月後,他們發布了名為We are the lost loves的專輯,專輯包含Animal War、The lost loves、Risk/Loss等歌曲。整張專輯有濃厚的小清新風格,憂鬱的鋼琴彈奏和男女交錯的唱腔,引起了澳大利亞和歐洲的獨立音樂界的很高的關注。在製作專輯的幾個月內,兩人跟隨其他樂隊,例如Kid Sam、Parades、Jonathan Boulet等,在澳大利亞鄉間旅行,或許給他們的音樂創作帶來了靈感,並注入一定的活力。We are the lost loves專輯是在Tom Larkin(Shihad Fame樂隊)的幫助下完成的,值得一提的是,這張專輯輾轉於澳大利亞的三個錄音棚才完成的。2010年7月,Young Heretics樂隊開始了他們的第一次巡迴演出。同時,他們與日本的Cocoheart唱片公司簽約,並於2010年9月22日在日本發行專輯。2011年樂隊解散,Mathew與The Getaway Plan樂隊錄製他們的第二張專輯,而Kitty開始創作獨立風格的音樂:魔法咒語(Magic Spells)
2010年,專輯《We are the lost loves》收錄歌曲:Animal WarThe Lost LovesRisk/LossDark PrinceNoahs ArkI Know Im A WolfDream SequenceBones of A Rabbit010100110100111101010011Come TogetherTrapperkeeper2009年,The Dreamers EP