Aninhamento é a prática de colocar elementos dentro de outros, numa estrutura hierárquica. Você agrupa ou encapsula elementos relacionados dentro de um container pai, criando uma composição organizada, como acontece em dropdown, accordion, abas e menu de navegação.
Na interface, aninhar ajuda em três frentes. Em estrutura, porque dá ordem lógica a um design que cresce em complexidade. Em hierarquia visual, já que o que está dentro do pai é percebido como subordinado a ele. E em reuso, porque um conjunto encapsulado vira uma unidade que dá pra repetir e rearranjar.
Em design de componente, o aninhamento é o pão com manteiga, porque um dropdown, por exemplo, é um botão de gatilho com uma lista de opções aninhada dentro. Bem usado, traz consistência, mas, em excesso, dificulta de entender e de manter.