La dimensione è tutto. Senza doppi sensi.

Più una vasca è grande, più è in grado di auto-sostenersi. Sopra i 2500-3000 litri si può davvero pensare ad una sistema che richiede manutenzione ogni x anni, e solo perchè non ci sono correnti che portano via il deposito di fondo.

Sotto a questa dimensione, ovviamente, è tutta utopia.
6 animali in una vasca sono sempre un'impresa, figuriamoci se poi la vasca è piccola.
Ogni animale produce rifiuti e per mantenere una vasca in equilibrio serve che tanti rifiuti vengono prodotti, tanto "volume" biologico deve riuscire a smaltirli.

Il primo consiglio che mi sento di darti è di allargare la vasca, ma di molto: ricordo mescolanze tra specie diverse e presenza di Trachemys, quindi servono spazi molto generosi.
Fatto questo, puoi prendere un filtro che si sufficiente a trattare 2-3 volte il volume di acqua presente.
E ATTENZIONE: la portata oraria (litri/ora) indica soltanto a che velocità si muove l'acqua, non ha niente a che fare con i litri che un filtro può trattare.
Hai una vasca da 300 litri? Serve un filtro che venga garantito per il trattamento di 600 litri, o "per vasche fino a 600 litri".

Oltre a questo, non puoi prescindere dalle piante: queste chiudono il ciclo dell'azoto e sono formidabili nell'eliminare praticamente tutto.
Vanno scelte ovviamente delle piante palustri, non acquatiche, con radici immerse ma fusti che crescono fuori dal pelo dell'acqua. Così gli animali non le mangiano e loro possono prosperare liberamente.
Due esempi su tutti, a cui io non potrei mai rinunciare: Iris pseudacorus e Cyperus alternifolius.
Esistono anche piante più "domestiche" che non raggiungono grandi dimensioni, come il juncus spiralis.
Tutte utili per aiutare il filtro nel fare il suo dovere.

Nessun metodo ha però "le mani" in grado di rimuovere gli avanzi di cibo sul fondo. Per quello servirà sempre la mano umana, armata di un banalissimo sifone.
Qualora gli spazi lo permettano, può essere inerito qualche pesce rapidissimo come Gambusie, ma la densità di fauna predatoria e la presenza di nascondigli sono determinanti per la sopravvivenza in vasca.
Lascerei perdere gasteropodi e molluschi, sono lenti e il cibo preferito di troppe specie di tartarughe.