一、什么是 ABI?
ABI,全称 Application Binary Interface,即应用程序二进制接口。
它定义了编译后的程序在二进制层面如何与其他程序模块、运行时环境和操作系统进行交互。
如果说 API(Application Programming Interface)描述的是源代码层面的接口,那么 ABI 描述的就是机器代码层面的接口。
例如,两个 C 语言源文件可以分别编译成目标文件,再通过链接器组合成一个可执行程序。它们之所以能够正确协作,不仅因为函数名称一致,还因为双方必须遵循相同的 ABI 规则。
1. API 与 ABI 的区别
| 对比维度 | API | ABI |
|---|---|---|
| 全称 | Application Programming Interface | Application Binary Interface |
| 所属层次 | 源代码层面 | 二进制层面 |
| 面向对象 | 开发者、编译器 | 编译器、链接器、运行时 |
| 主要内容 | 函数声明、类、参数类型 | 调用约定、数据布局、符号规则 |
| 依赖关系 | 编程语言及库接口 | CPU 架构、操作系统、工具链 |
| 兼容性 | 源代码兼容 | 二进制兼容 |
例如:
int add(int a, int b);
这是一个 API 层面的函数声明。
但编译器还必须确定:
- 参数
a和b分别放在哪些寄存器或栈位置? - 返回值放在哪个寄存器中?
- 调用者还是被调用者负责恢复栈空间?
- 哪些寄存器允许函数修改?
- 函数符号如何命名和导出?
这些问题属于 ABI 的范畴。
2. ABI 的核心组成
ABI 并不只是函数调用规则,而是一组二进制层面的约定。
主要包括:
| 组成部分 | 作用 |
|---|---|
| 调用约定(Calling Convention) | 规定参数、返回值和寄存器的使用方式 |
| 数据类型布局 | 规定基本类型的大小、对齐和表示方式 |
| 结构体布局 | 规定字段排列、填充和对齐规则 |
| 符号命名(Name Mangling) | 规定函数和变量的二进制符号名称 |
| 栈帧布局 | 规定函数调用期间栈空间的组织方式 |
| 寄存器使用规则 | 规定哪些寄存器由调用者或被调用者保存 |
| 异常处理与展开机制 | 规定异常传播、栈展开等二进制协作规则 |
| 对象与运行时约定 | 规定部分语言运行时对象的二进制表示和交互方式 |
需要注意:不同平台的 ABI 规范并不相同。即使使用相同的 CPU 指令集,操作系统和工具链不同,也可能采用不同的 ABI。
二、什么是调用约定?
调用约定(Calling Convention)是 ABI 的重要组成部分。
它规定了函数调用双方如何协作完成一次函数调用,主要涉及:
- 函数参数如何传递。
- 返回值如何传递。
- 哪些寄存器可以被修改。
- 哪些寄存器必须保存和恢复。
- 谁负责清理调用过程使用的栈空间。
- 栈指针和栈帧如何维护。
调用约定的核心目标是让调用者(Caller)和被调用者(Callee)对函数调用过程形成一致预期。
1. 一次函数调用涉及哪些角色?
flowchart TB
A["调用者 Caller"] --> B["按照调用约定准备参数"]
B --> C["执行函数调用指令"]
C --> D["被调用者 Callee"]
D --> E["执行函数逻辑"]
E --> F["准备返回值"]
F --> G["返回调用者"]
G --> H["调用者继续执行"]
style A fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style B fill:#E5F4EC,stroke:#A3CBB5,color:#334155
style C fill:#FFF5DE,stroke:#E8D29A,color:#334155
style D fill:#F3EDFC,stroke:#C4B2E3,color:#334155
style E fill:#E5F4EC,stroke:#A3CBB5,color:#334155
style F fill:#FFF5DE,stroke:#E8D29A,color:#334155
style G fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style H fill:#E8EDF2,stroke:#B8C3CE,color:#334155
linkStyle default stroke:#A3B8AC,stroke-width:1.5px
调用约定并不规定函数具体做什么,而是规定函数调用双方如何交换数据、维护执行环境。
2. 参数传递方式
函数参数通常通过寄存器或栈传递。
寄存器传参
将函数参数放入指定寄存器。
优点:
- 访问速度快。
- 不需要额外的栈内存读写。
- 适合常见的少量参数调用。
栈传参
将函数参数写入调用者准备的栈空间,由被调用者按照约定读取。
优点:
- 可以支持较多参数。
- 不受可用参数寄存器数量的直接限制。
- 适用于部分复杂参数布局。
实际调用约定通常混合使用寄存器和栈,而不是只能选择其中一种。
3. 返回值传递
常见返回值传递方式包括:
- 寄存器返回:整数、指针等简单返回值通常通过指定寄存器返回。
- 多寄存器返回:部分平台允许较大的简单聚合值通过多个寄存器返回。
- 隐式返回指针:较复杂或较大的结构体可能通过调用者提供的内存地址返回。
例如,在常见 x86-64 ABI 中,整数类型返回值通常使用 RAX 寄存器。
但不能据此推断所有类型、所有平台都使用同一个返回方式。
三、寄存器保存规则
寄存器保存规则是调用约定中非常重要的部分。
在函数调用过程中,调用者和被调用者都可能使用 CPU 寄存器。为了避免函数调用破坏其他代码依赖的数据,需要规定寄存器的保存责任。
通常分为两类。
1. Caller-saved:调用者保存
也称为易失寄存器(Volatile Registers)。
如果调用者希望某个寄存器中的值在函数调用后仍然有效,就必须在调用前自行保存。
被调用者可以自由修改这些寄存器。
例如:
调用者:
将重要数据保存在寄存器 R10
保存 R10 的原始值
调用函数
被调用者:
可以修改 R10
调用者:
函数返回
恢复 R10 的原始值
调用者保存的核心含义是:跨函数调用需要保留的值,由调用者负责保护。
2. Callee-saved:被调用者保存
也称为非易失寄存器(Non-volatile Registers)。
如果被调用者需要使用这些寄存器,就必须先保存其原始值,并在返回前恢复。
例如:
调用者:
调用函数
被调用者:
保存 RBX 原始值
使用 RBX 执行计算
恢复 RBX 原始值
返回
调用者:
可以继续使用原来的 RBX 值
3. 两种规则的对比
| 对比维度 | Caller-saved | Callee-saved |
|---|---|---|
| 保存责任 | 调用者 | 被调用者 |
| 被调用者能否修改 | 可以 | 可以,但必须恢复原值 |
| 保存时机 | 调用前 | 被调用者使用前 |
| 恢复时机 | 调用返回后 | 被调用者返回前 |
| 典型用途 | 临时计算数据 | 需要跨调用保留的数据 |
注意:
Caller-saved 和 Callee-saved 并不表示寄存器是否能够修改,而是规定修改后由谁负责保证原有值的保存。
四、栈帧与函数调用
栈帧(Stack Frame)是函数执行期间使用的一段栈空间。
函数调用时,程序可能需要为局部变量、临时数据、寄存器保存值等分配空间。
一个典型栈帧可能包含:
- 返回地址。
- 保存的寄存器。
- 局部变量。
- 临时计算空间。
- 部分通过栈传递的参数。
具体布局取决于 ABI、编译器优化和函数实现。
1. 栈帧的形成过程
以常见的 x86-64 函数调用为例,函数调用可能涉及以下过程:
flowchart TB
A["调用者准备参数"] --> B["执行 call 指令"]
B --> C["保存返回地址"]
C --> D["进入被调用函数"]
D --> E["建立栈帧或调整栈空间"]
E --> F["保存需要保留的寄存器"]
F --> G["执行函数逻辑"]
G --> H["恢复寄存器与栈空间"]
H --> I["执行 ret 指令"]
I --> J["返回调用者"]
style A fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style B fill:#FFF5DE,stroke:#E8D29A,color:#334155
style C fill:#F3EDFC,stroke:#C4B2E3,color:#334155
style D fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
style E fill:#E5F4EC,stroke:#A3CBB5,color:#334155
style F fill:#E5F4EC,stroke:#A3CBB5,color:#334155
style G fill:#F3EDFC,stroke:#C4B2E3,color:#334155
style H fill:#E5F4EC,stroke:#A3CBB5,color:#334155
style I fill:#FFF5DE,stroke:#E8D29A,color:#334155
style J fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
linkStyle default stroke:#A3B8AC,stroke-width:1.5px
这是一种便于理解的典型流程,并不是所有函数都必须执行每一个步骤。
例如:
- 编译器可能省略帧指针。
- 叶子函数可能不需要额外的栈空间。
- 内联函数可能不会产生实际的函数调用。
- 优化后的函数可能将局部变量全部放在寄存器中。
2. x86-64 栈帧示意
在常见的向低地址增长的栈中,栈空间可以抽象表示为:
高地址
┌──────────────────────────┐
│ 调用者提供的栈参数 │
├──────────────────────────┤
│ 返回地址 │
├──────────────────────────┤
│ 保存的帧指针(可选) │
├──────────────────────────┤
│ 保存的寄存器 │
├──────────────────────────┤
│ 局部变量 │
├──────────────────────────┤
│ 临时空间 / 对齐填充 │
└──────────────────────────┘
低地址
这是概念性布局,不代表固定的内存顺序。实际栈帧还可能受到参数分配策略、栈对齐、编译器优化和安全机制的影响。
3. 栈对齐(Stack Alignment)
CPU 或 ABI 通常要求栈指针满足特定对齐约束。
例如,System V AMD64 ABI 对普通函数调用规定了 16 字节栈对齐要求。调用指令压入返回地址后,函数入口处的栈指针与调用前的对齐状态会存在相应关系。
栈对齐的意义包括:
- 满足 SIMD 指令对内存访问的对齐需求。
- 提高特定数据访问的效率。
- 保证不同编译模块之间的栈布局一致。
- 满足 ABI 对函数调用入口的要求。
如果手写汇编时没有遵守栈对齐约定,可能导致某些指令执行异常,或者使被调用函数出现难以定位的问题。
五、主流平台的调用约定
调用约定与 CPU 架构、操作系统和 ABI 密切相关。
即使都是 x86-64,也存在不同平台的调用约定。
1. System V AMD64 ABI
System V AMD64 ABI 是 Linux、macOS 等采用 System V ABI 体系的 x86-64 环境中常见的调用约定基础。
整数和指针类型的前六个参数通常使用以下寄存器:
| 参数顺序 | 寄存器 |
|---|---|
| 第 1 个 | RDI |
| 第 2 个 | RSI |
| 第 3 个 | RDX |
| 第 4 个 | RCX |
| 第 5 个 | R8 |
| 第 6 个 | R9 |
| 后续参数 | 通常通过栈传递 |
浮点参数通常使用 XMM 寄存器传递。
常见整数返回值使用 RAX。
部分其他规则:
RBX、RBP、R12~R15通常属于被调用者保存寄存器。RAX、RCX、RDX、RSI、RDI、R8~R11通常属于调用者保存寄存器。RSP必须按照 ABI 规定维护。- 函数调用需要满足规定的栈对齐要求。
注意,浮点参数和整数参数分别使用不同的寄存器分类规则;结构体等聚合类型还需要经过 ABI 的参数分类算法,不能简单按照参数数量套用上述表格。
2. Microsoft x64 Calling Convention
Windows x64 平台主要采用 Microsoft x64 调用约定。
整数和指针类型的前四个参数通常使用:
| 参数顺序 | 寄存器 |
|---|---|
| 第 1 个 | RCX |
| 第 2 个 | RDX |
| 第 3 个 | R8 |
| 第 4 个 | R9 |
| 后续参数 | 通常通过栈传递 |
浮点参数通常使用与参数位置对应的 XMM0~XMM3 寄存器。
常见整数返回值使用 RAX。
Windows x64 还具有一个重要特征:调用者需要为被调用函数预留 32 字节的 Shadow Space(影子空间)。
即使前四个参数通过寄存器传递,调用者也需要为这部分空间留出位置。
3. 两种调用约定对比
| 对比维度 | System V AMD64 | Microsoft x64 |
|---|---|---|
| 主要平台 | Linux、macOS 等相关环境 | Windows x64 |
| 整数参数寄存器 | RDI、RSI、RDX、RCX、R8、R9 | RCX、RDX、R8、R9 |
| 整数寄存器参数数量 | 6 个 | 4 个 |
| 浮点参数寄存器 | XMM 寄存器,按参数分类分配 | XMM0~XMM3,按参数位置分配 |
| 影子空间 | 无对应的固定 32 字节要求 | 32 字节 Shadow Space |
| 整数返回值 | RAX | RAX |
| 栈对齐 | 遵循 System V ABI 规定 | 遵循 Microsoft x64 ABI 规定 |
两者虽然都运行在 x86-64 指令集上,但参数寄存器分配、栈空间使用和寄存器保存规则并不相同。
因此,不能将一套平台的汇编调用代码直接用于另一套平台。
六、不同编程语言如何处理调用约定?
不同语言会通过编译器、运行时和 ABI 规范实现函数调用。
1. C 语言
C 语言通常使用目标平台规定的默认调用约定。
例如:
int add(int a, int b) {
return a + b;
}
在 x86-64 Linux 环境中,编译器通常遵循 System V AMD64 ABI。
在 Windows x64 环境中,通常遵循 Microsoft x64 调用约定。
因此,相同的 C 代码在不同平台编译后,生成的机器代码可能使用不同的参数寄存器和栈布局。
2. C++ 语言
C++ 除了函数调用约定,还涉及名称修饰(Name Mangling)。
例如:
int add(int a, int b);
double add(double a, double b);
C++ 支持函数重载,因此编译器需要将函数名、参数类型等信息编码进符号名称,以便链接器区分不同函数。
这意味着:
- 函数源码名称不一定等于二进制符号名称。
- 不同编译器可能使用不同的名称修饰规则。
- 即使函数调用约定相同,名称修饰规则不同也可能导致链接失败。
如果需要让 C++ 函数以 C 语言链接规则导出,可以使用:
extern "C" {
int add(int a, int b);
}
extern "C" 主要影响语言链接和名称修饰规则,并不意味着可以忽略平台 ABI、数据布局和调用约定。
3. Rust 语言
Rust 默认使用自身的 Rust ABI。
Rust ABI 不承诺像 C ABI 一样稳定地供外部二进制模块长期使用,因此跨语言接口通常会显式指定 C ABI:
#[no_mangle]
pub extern "C" fn add(a: i32, b: i32) -> i32 {
a + b
}
这里:
extern "C":指定使用目标平台的 C 调用约定。#[no_mangle]:要求导出时不进行 Rust 默认的符号名称修饰。pub:控制 Rust 层面的可见性。
需要注意,Rust 版本和 Edition 对符号属性的具体语法可能存在差异;较新的 Rust 版本中,某些场景需要使用 #[unsafe(no_mangle)]。
4. Python、Java 等高级语言
高级语言的函数调用不一定直接对应 C ABI 函数调用。
例如:
- Python 函数调用通常由解释器或运行时执行,并涉及对象引用、参数绑定和运行时管理。
- Java 方法调用通常遵循 JVM 规范定义的执行机制,JIT 编译后再映射到目标平台的机器级调用规则。
- Java Native Interface(JNI)则定义了 Java 与本地代码交互时的接口约定。
高级语言运行时可以在内部采用自己的调用机制,但在与操作系统、动态库或其他语言交互时,通常需要遵循明确的二进制接口约定。
七、ABI 兼容性与跨语言调用
ABI 兼容性决定了不同编译模块能否在二进制层面正确协作。
两个模块即使使用不同的编程语言,只要它们遵循兼容的 ABI,并且数据布局、符号和运行时约定一致,就可以实现跨语言调用。