在25岁的吉他手Mike Kennerty和26岁的鼓手Chris Gaylor的第一张单曲Swing Swing获得"每周流行唱片排行"冠军后，Ritter和Wheeler他们接着加入了进来，四人开始进行世界巡演。 Swing Swing 这首单曲最初由俄亥俄州的独立厂牌Doghouse Records于October 2002发行，接着由大厂牌DreamWorks Records梦工厂唱片于February 2003再次出版发行。乐队在2003年发行了他们的首张同名专辑 The All-American Rejects ，朗朗上口的歌词，精彩的吉他和solo丝毫没让乐迷失望。专辑里的 Swing Swing 获得了2003年MTV音乐录影带最佳新人提名。第一次亮相表现还不错，里面不乏好歌，并为第2张的腾飞做了个不错的踮。

The All-American Rejects的第二张专辑 Move Along 005年发行。在第二张专辑里，他们延续了第一张同名专辑power-rock的风格。 Move Along 让乐迷更为惊呼痛快的聆听到The All-American Rejects成员的创作天赋,拼贴更为多元的摇滚色彩,加附在原有的庞克声调中.在急速重拍的原始地下庞克音浪侵蚀下，给你最高能量的热力激荡。The All-American Rejects,可以叛逆,可以纯真,可以很有个性.乐队最突出的优点是对节奏优秀的操控力，使原本42分钟长的专辑，听起来却像21分钟。乐队看起来漫长的停滞调足了歌迷的胃口，但是当歌迷听到 The All-American Rejects 的新专辑Move Along（进行下去），他们终于明白Ritter和他的乐队确实花了时间和精力来打磨，精心制作这12首了不起的摇滚歌曲。2006年，著名玩具企业乐高公司，邀请The All-American Rejects ，将Move Along 作为乐高生化战士系列2006年因尼卡战士的主题曲，并在游轮举行“生化战士演唱会”。