Nasceu em 16 de maio de 1891, nas Fazenda Solidão, propriedade de seus avós maternos Antonio Manuel Domingues, comerciante e fazendeiro, fundador da primeira Casa Carcacena, e de Luíza Tereza Côrtes Domingues, localizada em Angustura, no Município de Além Paraíba, na Zona da mata do Estado de Minas Gerais.
Seus pais eram Alberto Teixeira de Carvalho Hungria, funcionário publico municipal e Anna Paula Côrtes Domingues Hungria.
Seu avô paterno Francisco de Paula Hofbauer, de origem húngara, mudando o sobrenome Hungria, por ocasião de sua migração para o Brasil em 1826. Era natural de Raab - antiga Arabona, na Hungria Ocidental. Estabeleceu na Vila de Paraibuna - Juiz de Fora MG. Em 1830 adquiriu um sitio denominado Marmelo, no Caminho Novo das Minas Gerais e casou-se com Guilhermina Celestina Natividade Teixeira de Carvalho.
Precoce, foi alfabetizado aos três anos de idade pela mãe. Aos quatorze anos de idade, o menino ingressou na faculdade de Direito em Belho Horizonte. No fina do segundo ano, mudou-se sozinho para o Rio de Janeiro, onde conseguiu emprego de mata-mosquito, para se sustentar. Bacharelou-se aos dezoito anos no Curso de Direito da faculdade Livre de Ciências Jurídicas e Sociais do Rio de Janeiro atual Faculdade Nacional de Direito da Universidade Federal do Rio de Janeiro (UFRJ). Tornou-se livre-docente em Direito Penal na mesma Universidade.
Lecionou durante anos na Faculdade de Direito da Universidade Federal Fluminense, como professor de Direito Penal.
Retornou a Minas Gerais, onde foi nomeado promotor publico em Rio Pomba, agreste de Minas Gerais.
Aos vinte um anos de idade, em 1912, casou-se com Izabel Machado Hungria, com quem teve quatro filhos.
Em 1918, mudou-se para Belo Horizonte e advogou até 1922, quando transferiu novamente para o Rio de Janeiro. Na Capital Federal, foi delegado de polícia por dez anos e vendedor de estampilhas no Tesouro Nacional.
Ingressou na magistratura com Juiz da 8ª Pretoria Criminal do antigo Distrito Federal, nomeado por decreto de 12 de novembro de 1924. Serviu posteriormente como Juiz de Órfãos e da Vara dos Feitos da Fazenda Pública. Ascendendo ao cargo de Desembargador, em 1944, exerceu as funções de Corregedor.
Por decreto de 29 de maio de 1951, foi nomeado Ministro do Supremo Tribunal pelo Presidente Getúlio Vargas.
Em razão do limite constitucional de idade, foi aposentado por decreto de 11 de abril de 1961, despedindo da Corte na sessão de 14 do mesmo mês. A mencionada cerimônia de despedida foi marcada com a presença do presidente da república, Dr. Jânio Quadros, circunstância excepcional jamis repetida, antes ou depois, em preito semelhante no Tribunal.
Após a aposentadoria retornou à advocacia, que exerceu até o seu falecimento, em 26 de março de 1969, aos 78 anos, na cidade do Rio de Janeiro.
Em Além Paraíba foi homenageado, para orgulho de todos os conterrâneos o seu nome foi emprestando para o Fórum Nelson Hungria.