Гранатомет е РПГ-2 предназначен для борьбы с танками и самоходно-артиллерийскими установками. Кроме того его можно применять для стрельбы по бронеавтомобилям, бронетранспортерам, бронебашням (бронеколпакам) и амбразурам ДОТов.

Конструкция РПГ-2 представляет дальнейшее развитие немецкого гранатомета «Фаустпатрон». В отличие от него РПГ-2 имеет более мощный ствол, обеспечивающий многократную стрельбу, и курковый ударно-спусковой механизм, смонтированный в пистолетной рукоятке управления огнем. Прицельное приспособление открытого типа — в виде откидной мушки и откидной прицельной рамки. Прицельная рамка имеет три окна, нижнее ребро каждого из которых посредине снабжено прорезью. Нижнее окно служит для прицеливания на дистанции до 50 м, среднее — до 100 м, верхнее — до 150 м.

Стрельба производится надкалиберной противотанковой гранатой (ПГ-2) кумулятивного действия. При выстреле образующиеся в канале ствола пороховые газы выбрасывают гранату в направлении цели. В этот момент взводится донный взрыватель. При встрече гранаты с преградой (целью) ударник взрывателя продвигается вперед и накалывает жалом капсюль-детонатор, в результате чего происходит взрыв заряда ВВ. Благодаря наличию в нем сферического углубления, образуется направленная струя раскаленных продуктов взрыва, которая пробивает (прожигает) броню, поражает экипаж, разрушает вооружение и оборудование, воспламеняет горючие материалы.

При выстреле из гранатомета отдача отсутствует, так как пороховые газы свободно истекают наружу через открытую казенную часть.

Относительно небольшие габариты и вес обеспечивают гранатомету хорошую маневренность на поле боя. Достаточно высокая для такого тина оружия скорострельность обеспечивает повторный обстрел цели в случае промаха и обстрел нескольких одновременно приближающихся целей. Кумулятивная граната обеспечивает одинаковое поражающее воздействие на любой дальности. Дистанционное взведение взрывателя гранаты гарантирует безопасность обращения с гранатометом.

Выстрел из гранатомета сопровождается сильным звуком, а так как ствол находится возле уха стрелка, то сильно оглушает его. Пороховой заряд гранаты состоит из дымного пороха, поэтому при выстреле дымное облако демаскирует стрелка. Из-за свободного истечения пороховых газов сзади стрелка образуется зона, опасная для людей, техники и вооружения. По той же причине нельзя стрелять из гранатомета, находясь в замкнутом пространстве (блиндаже, здании и т.п.).

Вследствие малой скорости полета гранаты точность стрельбы сильно зависит от метеоусловий и скорости ветра (особенно бокового). Меткость стрельбы из гранатомета даже в безветренную погоду невелика. Попасть в движущийся танк (БТР, БМП) с расстояния более 100 метров почти невозможно.

В случае намокания бумажная гильза порохового заряда разбухает и ее невозможно поместить в ствол гранатомета. Кроме того, небольшая механическая прочность гильзы не позволяет переносить гранаты в снаряженном виде. Отсыревший порох не годится для стрельбы. Большая масса гранат ограничивает носимый боекомплект.