Торгуйтесь, чтобы вам вернули часть депозита, так как формально арендодатель прав и может вообще ничего вам не возвращать (ну уж точно не полную сумму!). Вы вот сейчас возмущаетесь, ну а что ж вы не предупредили его заранее? Чтобы сдать квартиру, ее надо привести в порядок, вызвать агента, разместить объявление и найти время на показы, для арендодателя это, само собой, потеря времени и денег, иначе такой пункт не включали бы в договор.
В Налоговую вы обратиться можете, ну заплатит он налоги, вам-то что? В суд - просто смешно читать, вы ж по договору этот залог внесли и оплачивали проживание, какое использование денег 2 года, совсем того уже? Вы переходите в формат не решения проблемы, а думаете, как бы нагадить напоследок, от этого неприятное ощущение после прочтения вашего вопроса остается. Как минимум, это как-то по-свински, а как максимум - подумайте о том, что после этого хозяин квартиры может вам тоже напакостить в ответ, используя ваши паспортные данные или еще как-то...