Twintig jaar later is er opnieuw plaatsgebrek en besluit de Kerkeraad op initiatief van de diaconie om een: "Diaconie-huys te stichten in 't midden van. de Arme-kamertjes over de kerk". Met deze "arme kamertjes" werden de diaconiehuisjes bedoeld waar arme oude lieden gratis mochten wonen. Om de uitbouw naar het Oudenliedenhuys te kunnen realiseren moest de diaconie wel eerst een geldlening van f. 1000.-aangaan, maar op 14 maart 1678 kon de eerste steen gelegd worden. Aan het dorpsbestuur werd verzocht "achter het huys wat land te mogen beslechten en het als haar eigen te gebruyken", hetgeen werd toegestaan.
Al op 2 mei 1678 was de verbouwing voltooid en kon het huis (zoals het er nu bijstaat) geopend worden in tegenwoordigheid van "alle die gene die in 't huys staan te wonen" Sinds die tijd heeft het enige eeuwen aan oude lieden, behoeftigen en later ook aan wezen een onderkomen geboden. Niet alleen Vlielanders kregen hier onderdak, ook mensen van elders konden hier hulp vinden. Zo was er onder andere in het gebouw een mogelijkheid om drenkelingen op te vangen die na scheepsrampen hier strandden.
De aanwezigheid van manshemden, onderbaatjes, onderbroeken, linnen bovenbroeken, linnen boezeroenen, doeken, slaapmutsen en kousen gaven de regentessen van het tehuis de gelegenheid drenkelingen van droge kleren te voorzien. Aan het hoofd van de huishouding stond een "moeder" die benoemd werd door de kerkeraad.Via o.a. het verpachten van duingebied t.b.v. de konijnenvangst, het heffen van "putjesgeld" voor het verkrijgen van water uit een van de drie waterputten aan de voet van het duin en zgn "armengeld" dat van binnenkomende schepen werd geind, werden de benodigde financiele middelen bijeen vergaard.
De bewoners werkten vaak buitenshuis als vissersknechten, naaisters, netten boeters, spinsters, dorpsomroeper. Hun verdiensten kwamen toe aan de diaconie. Er werd groente verbouwd in de tuin en er werd wat vee gehouden voor vlees en melk. Er kwamen ook regelmatig giften in natura: turf, brood, meel etc.