一种抗地址淹没的缓冲区栈溢出算法-计算机应用研究.PDF

一种抗地址淹没的缓冲区栈溢出算法 作者 唐成华, 彭灿, 刘猛, 钱俊彦 机构 桂林电子科技大学 广西可信软件重点实验室；广西密码学与信息安全重点实验室 发表期刊 《计算机应用研究》 预排期卷 2017 年第34 卷第12 期 访问地址 /article/02-2017-12-037.html 发布日期 2017-01-23 15:06:35 引用格式 唐成华, 彭灿, 刘猛, 钱俊彦. 一种抗地址淹没的缓冲区栈溢出算法[J/OL]. [2017-01-23]. http:// /article/02 -2017-12-037.html. 摘要 缓冲区溢出是常见的网络漏洞攻击，其中最重要的是栈溢出攻击。通过分析缓冲区溢出攻击的方 法和特点，提出一种基于StackShield 改进的RetProtect 算法，首先利用IDA Pro 对源程序反汇编 分析，然后建立新的库函数，并通过修改gcc 源代码来实现程序执行时对函数返回地址的备份的 方法来检测缓冲区溢出攻击的发生。与其他栈溢出攻击检测方法相比，RetProtect 算法可有效地 阻止对返回地址进行淹没的栈溢出攻击，对用户透明，系统兼容性好。 关键词 缓冲区溢出, 栈溢出, 地址淹没, 返回地址备份 中图分类号 TP393 基金项目 国家自然科学基金资助项目）; 广西自然科学基金资助项目 （2014GXNSFAA118375）; 广西可信软件重点实验室项目（kx201506）; 广西密码学与信息安全 重点实验室课题（GCIS201619）; 广西高等学校高水平创新团队及卓越学者计划资助 优先出版 计 算 机 应 用 研 究 第34 卷 一种抗地址淹没的缓冲区栈溢出算法* 1, 2 1 1 1, 2 唐成华 ，彭 灿 ，刘 猛 ，钱俊彦 (1 ．桂林电子科技大学 广西可信软件重点实验室，桂林 541004 ；2 ．广西密码学与信息安全重点实验室，广西 桂林 541004) 摘 要：缓冲区溢出是常见的网络漏洞攻击，其中最重要的是栈溢出攻击。通过分析缓冲区溢出攻击的方法和特点，提 出一种基于StackShield 改进的RetProtect 算法，首先利用IDA Pro 对源程序反汇编分析，然后建立新的库函数，并通过 修改gcc 源代码来实现程序执行时对函数返回地址的备份的方法来检测缓冲区溢出攻击的发生。与其他栈溢出攻击检测 方法相比，RetProtect 算法可有效地阻止对返回地址进行淹没的栈溢出攻击，对用户透明，系统兼容性好。 关键词：缓冲区溢出；栈溢出；地址淹没；返回地址备份 中图分类号：TP393 Anti-address flooding algorithm for buffer stack overflow 1, 2 1 1 1, 2 Tang Chenghua , Peng Can , Liu Meng , Qian Junyan (1. Guangxi Key Laboratory of Trusted Software, Guilin University of Electronic Technology, Guilin 541004, China; 2. Guangxi Key Laboratory of Cryptography I