Καθαρίζουμε τις γαρίδες και αφαιρούμε με ένα μικρό μαχαιράκι το εντεράκι, αφήνουμε αν θέλουμε το κεφάλι και την ουρά.
Σε ένα τηγάνι βάζουμε το ελαιόλαδο να ζεσταθεί, αλατοπιπερώνουμε τις γαρίδες και τις βάζουμε στο τηγάνι να σοταριστούν για 2-3 λεπτά, αφαιρούμε τις γαρίδες από το τηγάνι και τις αφήνουμε στην άκρη.
Στο ίδιο τηγάνι προσθέτουμε το κρεμμύδι και το σκόρδο να σοταριστούν και να καραμελώσουν, σβήνουμε με το ούζο, αφήνουμε να εξατμιστεί το αλκοόλ και ρίχνουμε την ντομάτα, το ντοματοπολτό και τη ζάχαρη, αλάτι πιπέρι.
Αφήνουμε να βράσει για 4-5 λεπτά  σε σιγανή φωτιά, προσθέτουμε το μαϊντανό, το φρέσκο θυμάρι ψιλοκομμένο και τις γαρίδες.
Μεταφέρουμε σε ένα πυρίμαχο σκεύος, ρίχνουμε τη ρίγανη το ξύσμα από το λεμόνι, και τη φέτα σπασμένη σε χοντρά κομμάτια.
Ψήνουμε σε προθερμασμένο φούρνο στους 170⁰C για 15 λεπτά.