Niezmiernie istotnym elementem, na który winniśmy zwrócić spostrzeżenie, przygotowując w ogrodzie skalniak, jest odpowiedni wybór skał. To albowiem one są odgrywają kluczową rolę w jego trwałości. W zależności od posiadanego poprzez nas projektu, możemy zdecydować się na inne typy skał. Jeżeli dysponujemy niewielkim obszarem, warto pomyśleć o skałach z piaskowca. Ten rodzaj drobnoziarnistej skały ma głównie walory wizualne. Mało tego piaskowiec jest skałą, jaką można w dowolny sposób modyfikować, osiągając żądane kształty. Jedynym mankamentem tej skały jest jej cena. Dlatego jeżeli myślimy, aby tworzyć z niej skalniaki ogrodowe, to jedynie niewielkie. Chyba iż dysponujemy olbrzymim budżetem i możemy sobie na taki wydatek pozwolić.

Przeważnie jednakże, budując skalniaki, korzystamy z ogólnodostępnych kamieni. Odpowiednio dobrane i wyczyszczone mogą na równi konkurować z droższymi skałami. W niektórzy ogrodnicy do swoich dzieł używają też granitu. Złośliwi twierdzą, iż ten materiał najlepiej nadaje się na cmentarz, a w ogrodzie nie jest mile widziany. To bez wątpienia nieprawda, ale objaw zazdrości. Bowiem na wykorzystanie skał granitowych w swoim obejściu mogą pozwolić sobie tylko nieliczni. Granit to przecież jedna z najpiękniejszych i najtrwalszych skał. Plusem tego materiału jest jeszcze to, iż nie wpływają na niego niekorzystne warunki pogodowe. Kamienie polne niezmiernie wielokrotnie zielenieją i czarnieją, a nawet porastają mchem, glonami, i co jakiś czas musimy dokonywać ich czyszczenia i konserwacji.