一种基于增强型调度器的虚拟机软件保护方法

摘要

考虑到现有虚拟机的软件保护方法一般是通过改进虚拟指令处理函数(Handler)来提升保护强度,而调度器(Dispatcher)是除了Handler之外构成虚拟机保护框架的重要模块,为逆向分析者的重点攻击目标.针对Dispatcher模块易受静动态逆向攻击的问题,提出一种基于增强型Dispatcher的虚拟机软件保护方法.对Dispatcher模块中的指令序列进行多样化,切分所有指令序列.随机选择不同的指令片段进行控制流迭代混淆和加密.采用随机函数对指令片段进行连接,形成新的Dispatcher模块.实验表明,该方法在给受保护程序引入部分时间和空间开销下,能有效提升整体虚拟机保护框架的安全性.