Съем жилья в антисанитарных условиях

Добрый вечер.
Подскажите пожалуйста. Такая ситуация.
Сняли квартиру (без риэлтора).
Оплатили 28го числа, договор по факту с 30го числа.
Можно ли расторгнуть договор сейчас?
Смотрели квартиру когда жили люди и были их вещи, зрительно все было нормально
Потом, когда люди съехали, вторая хозяйка квартиры все осматривала, проверяла и сказала , что все хорошо.
По итогу, когда мы скинули деньги, нам внезапно сказали, что там мыши, до этого не предупредили, потом когда все ушли, и мы начали убирать, обнаружилось, что везде грязь: в холодильнике, в шкафах и.т.д; мыши ходят ходуном (видели даже днём). Квартиру привели в опрятный вид, но жить там в антисанитарии не хотим. Хозяйка говорит, что у вас оплачено за два месяца (первый месяц плюс гарантийный платеж), живите т.к. я отказала людям из-за вас. Подскажите пожалуйста, что можно предпринять в данной ситуации?
Понимаю что ситуация странная, но как есть?