A atual sede da Delegacia Fiscal foi construído para ser o Palácio Provincial e teve suas obras iniciadas pelo presidente Inácio Barbosa

Os aterros foram comuns em Aracaju. Os morros do Pirro, o Alto da Boa Vista, o Morro da Borborema, ou Tabica, e o Morro do Bonfim sustentaram de areia as empresas e as pessoas envolvidas com o trabalho de aterrar ruas, praças, terrenos para prédios públicos e moradia. Aracaju chegou a contar com um serviço de transporte de areia, servido por pequena locomotiva, com quatro troileres,(vagões abertos) seguindo itinerário que começava na rua de Capela, passava pelo fundo da Igreja Matriz (Catedral) e seguia pela rua de Santa Luzia, com ramais para atender aos locais que precisavam de aterros.

Na obra recente de restauração do prédio do velho Tribunal de Relação, que é construção dos anos 90 do século XIX, foram descobertos alguns bons metros de trilho, de bitola estreita, certamente utilizados para os aterros e os transportes do material de construção para a grande obra, iniciada no governo do general José Calasans e concluída na administração do general Valadão. Os trilhos, com seus dormentes, estão no centro do Rés-do-Chão, como um testemunho desse capítulo da história de Aracaju.

Para aterrar seus pântanos e mangues, Aracaju contou com a colaboração das companhias de navegação, que levavam açúcar para o sul da Bahia e mandavam de volta seus navios, que eram de vela, com os lastros cheios de areia, o que dava segurança para a viagem. A areia era depositada no cáis, de onde era levada para logradouros públicos, como a avenida Ivo do Prado, grande beneficiada. O próprio engenheiro Basílio Pirro, que estava contratado pela Província para edificar a cidade de Aracaju, para servir de capital, diagnosticava sobre a necessidade de aterrar e de embelezar, como binômio essencial ao sucesso do projeto do presidente Inácio Barbosa, tocado pelos presidentes interinos, pelo presidente Salvador Corrêa de Sá e Benevides e outros sucessores, que seguiram a idéia original.

O embelezamento consistia, principalmente, em manter íntegro o projeto do xadrex de Pirro, com quadras simétricas, nas três direções possíveis: norte, mil metros, oeste, mil metros, sul, mil metros, tendo a praça do Mercado (atual Fausto Cardoso) como peão de ordenamento. Não sem razão que as primeiras obras públicas – Palácio, Assembléia, Cadeia, Quartel da Força Pública, ao lado dos templos religiosos, como a Casa de Oração São Salvador (hoje Igreja do Salvador) e a Matriz (hoje Catedral) – foram construídos numa área próxima, num raio de duzentos metros, no centro da nova cidade. O Palácio do Governo, tanto o primeiro, o Paço que hospedou D. Pedro II em janeiro de 1860 (hoje a Delegacia Fiscal), quanto o segundo, a Assembléia, tomaram pedaços da praça Fausto Cardoso, enquanto os demais foram construídos na velha rua da Aurora (atuais avenidas Ivo do Prado e Rio Branco), na praça Olímpio Campos, na rua de Laranjeiras, e na praça General Valadão.  

A lei orçamentária de 1871/72 (Lei 918, de 5 de maio de 1871) no seu artigo 53 diz que “ A Câmara Municipal da Capital ficará obrigada a mandar desapropriar na forma da lei qualquer casa que esteja no meio da rua, impedindo o alinhamento e aformozeamento da cidade.” A expressão “ no meio da rua” queria dizer fora do alinhamento, o que significa o zelo da municipalidade pela manutenção do projeto original de ruas retas, em quadras perfeitas, zoneadas a partir do centro e em direção aos bairros que foram sendo formados com o tempo.

As condições da barra do Cotinguiba, que deveria ser barra do rio Sergipe, e que também era denominada de Pontal do Norte, ou Pontal de Propriá, mesmo sendo a mais movimentada e importante de todas, eram precárias. O presidente Inácio Barbosa lamenta o estado inadequado da barra, para cumprir a tarefa de exportar a riqueza da Província, e toma algumas providências, antes mesmo de definir a mudança da capital. A rebocagem a vapor é um dos melhoramentos definidos, levando a Província de Sergipe a criar a Associação Sergipense e a comprar o vapor Aracaju. No seu discurso perante os membros da Associação Sergipense, em 20 de maio de 1856, o presidente Salvador Corrêa de Sá e Benevides faz o elogio da nova capital e aponta a questão da barra, do seguinte modo:

“A bela Província de Sergipe tão rica, dotada dum solo prodigiosamente fértil, não podia ser indiferente a ação do progresso e civilização que caracterizam a presente época. Ela começou a estudar e apreciar as causas que entorpeciam sua marcha progressiva, que lhe roubavam a vida, a animação, o comércio, e como causa primária o Presidente se revelou com evidência a sede da Capital em um ponto central, um recôncavo, sem o menor movimento comercial ou marítimo. A mudança pois da Capital arrancada da solidão para um centro de vida, foi o primeiro passo precursor d´uma nova era para esta importante Província; foi o primeiro degrau que se deve conduzir ao apogeu do progresso, riqueza e consideração a que lhe dão direito a índole de seus dóceis habitantes, a fertilidade prodigiosa do seu solo. Mas não bastava a mudança da Capital, essa idéia, esse grandioso pensamento carecia em seu desenvolvimento d´um outro fato, que animasse o comércio, desenvolvesse a agricultura, aumentasse a riqueza pública, esse fato que tende a consolidar a grande obra do progresso encetado nesta Província – é a rebocagem à vapor em suas barras”.

Várias tentativas de manter em condições de navegabilidade o canal da barra de Aracaju foram feitas, ao lado da praticagem e da rebocagem. Em 1955, quando das festividades do Centenário, os senadores Augusto Maynard e Júlio Leite levaram ao Senado as preocupações com o futuro da cidade de Aracaju, o primeiro pediu um Porto, o segundo a dragagem da barra. As dragas Antuérpia III e Minas Gerais, que realizaram trabalhos na barra de Aracaju foram trazidas, respectivamente, nos Governos de Leandro Maciel (1955-1959) e João de Andrade Garcez (1970-1971). O problema do Porto foi finalmente resolvido, graças a influência e aos esforços do ex deputado e ex governador Seixas Dória, com a construção do Terminal em mar aberto, na Barra dos Coqueiros, e que muito justamente leva o nome de Inácio Barbosa.