De to smalsporede (1.000 mm) baner, der udgik fra Åbenrå, blev anlagt i henhold til en prøjsisk lov af 25. juli 1892. Strækningen Åbenrå-Gråsten åbnedes for driften den 14. februar 1899 og den vestlige strækning Åbenrå-Hovslund-Løgumkloster åbnedes den 8. maj 1901. Som på de øvrige Kreisbahnen i Sønderjylland var Kleinbahnen des Kreises Apenrades stationer kombinerede jernbaneekspeditioner og kroer.
Ved overgangen til dansk administration i 1920 var Aabenraa Amts Jernbaner (AaAJ) i dårlig forfatning og materiellet var nedslidt og præget af den første verdenskrigs materialemangel. I maj 1920 kørtes der tre daglige tog i hver retning på den nordlige strækning medens den sydlige strækning til Gråsten kun havde to daglige forbindelser. Banerne tilhørte ÅbenrÅ Amtsråd, som efter nogle år besluttede at indstille driften på grund af dårlige driftsresultater. Den 31. marts 1926 var sidste trafikdag på AaAJ. Løgumklosterbanen blev delvist erstattet af statsbanen Løgumkloster-Rødekro, som åbnede den 3. oktober 1927. AaAJ havde hovedkontor, remiser og værksteder i Åbenrå.
Stationer: Åbenrå, Nørreport, Stollig, Skovby, Barsmark, Løjtkirkeby, Nørby, Knivsbjerg, gjenner, Østermark, Øster Løgum, Hovslund, rugbjerg, Nørre Hostrup, Egvad, Hellevad, Klovtoft, Sivkro, Bedsted, Øster Terp, Alslev Kro, Løgum, Løgumkloster, Åbenrå, Åbenrå Sønderport, Styrtom, Stubbæk, Sdr. Hostrup, Felsted, Tombøl, Slyngsten, Skovbølgård, Varnæs, Bovrup, Kiding, Grøngrøft, Fiskebæk og Gråsten (Danske Jernbaner 1847-1972).

NB: Lokomotiverne fra Hagans blev ikke leveret i kronologisk rækkefølge men blev mixet med de tilsvarende leverancer til HAJ.
Det meste af det rullende materiel blev i 1926 solgt til firmaet Eduard Grützner i Berlin.