RX Bandits est né en milieu des années 90 dans la scène ska-punk d'Orange County, en tant que groupe sans peur d'évoluer. Sous la direction des textes ambitieux de Matt Embree, ils ont rapidement construit une réputation pour prendre des risques musicaux et insuffler un contenu lyrique à leur travail. Ce qui avait commencé comme un groupe ska de cinq membres s'est transformé en quelque chose de bien plus complexe et progressif, finalement passant à six membres et progressivement abandonnant les éléments ska au profit de sons plus sombres et expérimentaux.
Formé en 1995 sous le nom de Pharmaceutical Bandits, le groupe a sorti leur premier album en 1997 avant de se rebrander en RX Bandits l'année suivante. Ils ont tourné avec Goldfinger, Reel Big Fish et New Found Glory, ont participé au Warped Tour et ont construit une base de fans fidèles grâce à des dates en club. Dès le début des années 2000, la formation du groupe avait changé de manière spectaculaire, et avec des albums comme Progression et Resignation, ils avaient pris une direction plus lourde et plus introspective, mêlant reggae, post-hardcore et la musique de Embree de plus en plus politisée. Après la sortie de Mandala en 2009 et l'annonce d'une pause en 2011, ils se sont réunis pour un EP de reprises et ont finalement fait leur retour en 2014 en tant que groupe de quatre membres pour enregistrer Gemini, Her Majesty, prouvant ainsi que leur envie de se réinventer était intacte.