Здравствуйте, Марина!
Думаю, Ваше смущение в первую очередь от того, что Вы грешите, сожительствуя без регистрации брака. Действительно, в данном случае Ваше проживание у него незаконно и грешно. Так что мой Вам совет — зарегистрируйте брак, покайтесь в грехе блуда, и спокойно и счастливо живите с супругом.