Допустим бэкстек содержит следующие активити:
A -> B -> C -> D. D стартует активити B с launch mode standard. Бэкстек будет выглядеть так: A -> B -> C -> D -> B.singleTop позволяет создать только одну активити данного типа на верхушке бэкстэка.
Пусть бэкстек имеет активити
A -> B -> C -> D. D стартует активити С c launch mode singleTop. Бэкстек переходит в состояние A -> B -> C -> D -> C. Если теперь снова запустить С в singleTop, то бэкстек будет выглядеть также, а на активити C вызовется метод onNewIntent().