Agner urodził się w Lonborg, na półwyspie Jutlandzkim w Danii. Jego ojciec, dyrektor szkoły, nazywał się Hans Nielsen Erlang, a mama potomkini matematyka Thomasa Fincke. Miał on starszego brata Frederika i dwie młodsze siostry Marię i Ingborg. Agner lubił astronomię, układał nawet z nią wiersze. Jako 14latek zdał z wyróżnieniem egzamin, który organizował Uniwersytet Kopenhaski. Następne dwa lata spędzał jako nauczyciel w szkole u swojego ojca. W 1901 roku otrzymał dyplom magisterski z matematyki, chemii, fizyki oraz gastronomii.
