Zlonamjerni softver obrnutog inženjeringa je proces koji stručnjaci za sigurnost mogu koristiti kako bi saznali više o tome kako neki zlonamjerni softver radi kako bi se mogli boriti protiv njega. Koriste pažljivo kontrolirani računalni sustav kako bi vidjeli što zlonamjerni softver radi kada je aktivan, koristeći te informacije kako bi spojili metodu konstrukcije i mehanizam djelovanja. Ove su informacije korisne za uklanjanje zlonamjernog softvera sa zaraženih računala, ažuriranje antivirusnog softvera, vraćanje oštećenih datoteka ili pripremu materijala za forenzičko svjedočenje.
Antivirusne tvrtke zainteresirane su za obrnuti inženjering zlonamjernog softvera jer žele održavati svoj softver ažurnim i moraju naučiti više o novim trendovima u dizajnu virusa i zlonamjernog softvera. Njihovi inženjeri rade u laboratorijima postavljenim za tu svrhu. Inženjer može zaraziti računalo, gledati kako softver djeluje, mijenjati parametre i dekonstruirati dizajn softvera. Osim proučavanja sirovog koda, inženjer može također imati interes vidjeti što softver radi u različitim okruženjima i kako se mijenja tijekom vremena.
Kada završi, može obrisati računalo kako bi vratila izvorno stanje i upotrijebit će informacije iz sesije obrnutog inženjeringa za dizajniranje ažuriranja antivirusnog softvera i generiranje informacija koje će inženjeri koristiti u budućim dizajnima softvera. Inženjer također može obavijestiti proizvođača operacijskog sustava ako se čini da je sigurnosna rupa ranjiva za iskorištavanje u budućnosti. Zlonamjerni softver obrnutog inženjeringa također je dio razvoja softvera i proizvoda za softverske tvrtke, uključujući proizvođače operativnih sustava.
Računalni inženjeri također mogu imati interes za obrnuti inženjering zlonamjernog softvera kao dio procesa čišćenja zaraženog računala ili mreže. Ove su informacije potrebne kako bi se osiguralo da je zlonamjerni softver potpuno iskorijenjen nakon čišćenja, a također mogu biti od pomoći za rješavanje sigurnosnih problema. Na primjer, ako je softver iskoristio ranjivu točku u mrežnom vatrozidu, obrnuti inženjering će to pokazati i pružiti informacije o tome kako popraviti ranjivost.
Agencije za provođenje zakona također mogu prakticirati obrnuti inženjering kako bi saznale više o zlonamjernom softveru. Ove informacije mogu biti korisne za rukovanje zaraženim računalima u njihovom pritvoru, provođenje forenzičkih istraga i razvoj dokaza za kazneni progon kreatora zlonamjernog softvera. U forenzičkom svjedočenju, računalni znanstvenik morat će moći govoriti o zlonamjernom softveru obrnutog inženjeringa kako bi odredio njegovu strukturu i funkciju na jeziku koji sudac i porota mogu jasno razumjeti. Za to je potrebno duboko poznavanje računalnih znanosti, kao i komunikacija, a uvjerljiv svjedok može biti vrijedan alat u tijeku suđenja u vezi sa zlonamjernim softverom.