Elinize sağlık, güzel düzenlenmiş sorunuz.
Öncelikle ufak bir düzeltme: Yoğunluk, mesâfe kadar olamaz! Olsa olsa bu iki niceliğin sayısal değerleri aynıdır. Zîrâ yoğunluğun birimi $\mbox{gr/cm}^3$, uzunluğun ise bilindiği üzere, $\mbox{cm}$. Bunu şöyle söylemek doğru olur:
Verilen koninin yoğunluğu $\rho$, $A$, birimi $\mbox{gr/cm}^4$ ve değeri $1$ olan orantı katsayısı olmak üzere, koninin tepe noktasından olan uzaklık $z$'ye $$\rho(z)=A\cdot z=z$$ şeklinde bağlıdır.
Gelelim çözüme. Koni gâyet simetrik bir cisim olduğundan, işimiz basit olacak.
1) Şimdi, koniyi $x\circ y$ düzlemine paralel olacak şekilde dilimleyelim. Dilimleme yeterince sık ise, elde edilen dilimler silindire yakındır (!).
2) $x\circ y$ düzleminden $z$ kadar uzaktaki dilime odaklanalım ve onun kütlesini yazmaya çalışalım:
3) Kütle, hacim ve yoğunluğun çarpımı olduğundan, bu dilimdeki $\Delta M$ kütlesini, $$\Delta M=\rho(z)\Delta V$$ şeklinde yazabiliriz. Bu çok genel bir ifâdedir.
4) $z$ konumunda silindirin yarıçapı $R=\sqrt{x^2+y^2}$ yüksekliği ise $\Delta z$ olur. Hacim ise $\pi R^2 h$ meşhûr formülü hatırlanırsa, $\Delta V=\pi (x^2+y^2) \Delta z$ şeklinde bulunur.
5) Bunlar (4) ile birleştirilip (3) maddesinde yerine konursa, $$\Delta M=\rho(z)\pi (x^2+y^2) \Delta z=\pi (x^2+y^2) z\Delta z$$
6) $z(x,y)$ fonksiyonu bilindiğinden, $$\Delta M=\pi z^3\Delta z$$ bulunur. Yeterince sık dilimleme yaparsak, yâni, dilimlerin sayısını çok arttırırsak, $\Delta$ ifâdelerini $d$ diferansiyelle değiştirmek câizdir.
7) Bu ifâdeyi, $z=0$'dan $z=2$ düzlemine kadar integre edeceğiz, yâni silindirciklerin kütlelerini toplayacağız: $$M=\int dM=\int_0^2\pi z^3\,dz=\pi\frac{z^4}{4}\Bigg|_0^2=4\pi$$ bulunur.