Pak 38最開始由納粹德國的德意志國防軍陸軍於1941年4月使用。當納粹德國在1941年的巴巴羅薩計劃面對蘇聯的鐵甲洪流的時候,PaK 38是少有的幾種德軍的能夠貫穿T-34坦克的45mm裝甲的早期型火炮之一。這種火炮還配備了擁有堅硬的鎢心的「AP40」(Panzergranate 40)鎢芯穿甲彈,它甚至有機會擊穿KV-1重型坦克。儘管它之後被更加強力的武器所取代,但是,它仍然被使用到戰爭結束。
Pak 38的運載車也被用於7.5cm Pak97/93和7.5cm Pak 50(f)火炮的運輸。