返回专栏
· 14 分钟阅读

ABI 与调用约定(ABI & Calling Convention)


一、什么是 ABI?

ABI,全称 Application Binary Interface,即应用程序二进制接口。

它定义了编译后的程序在二进制层面如何与其他程序模块、运行时环境和操作系统进行交互。

如果说 API(Application Programming Interface)描述的是源代码层面的接口,那么 ABI 描述的就是机器代码层面的接口。

例如,两个 C 语言源文件可以分别编译成目标文件,再通过链接器组合成一个可执行程序。它们之所以能够正确协作,不仅因为函数名称一致,还因为双方必须遵循相同的 ABI 规则。

1. API 与 ABI 的区别

对比维度 API ABI
全称 Application Programming Interface Application Binary Interface
所属层次 源代码层面 二进制层面
面向对象 开发者、编译器 编译器、链接器、运行时
主要内容 函数声明、类、参数类型 调用约定、数据布局、符号规则
依赖关系 编程语言及库接口 CPU 架构、操作系统、工具链
兼容性 源代码兼容 二进制兼容

例如:

int add(int a, int b);

这是一个 API 层面的函数声明。

但编译器还必须确定:

  • 参数 a 和 b 分别放在哪些寄存器或栈位置?
  • 返回值放在哪个寄存器中?
  • 调用者还是被调用者负责恢复栈空间?
  • 哪些寄存器允许函数修改?
  • 函数符号如何命名和导出?

这些问题属于 ABI 的范畴。

2. ABI 的核心组成

ABI 并不只是函数调用规则,而是一组二进制层面的约定。

主要包括:

组成部分 作用
调用约定(Calling Convention) 规定参数、返回值和寄存器的使用方式
数据类型布局 规定基本类型的大小、对齐和表示方式
结构体布局 规定字段排列、填充和对齐规则
符号命名(Name Mangling) 规定函数和变量的二进制符号名称
栈帧布局 规定函数调用期间栈空间的组织方式
寄存器使用规则 规定哪些寄存器由调用者或被调用者保存
异常处理与展开机制 规定异常传播、栈展开等二进制协作规则
对象与运行时约定 规定部分语言运行时对象的二进制表示和交互方式

需要注意:不同平台的 ABI 规范并不相同。即使使用相同的 CPU 指令集,操作系统和工具链不同,也可能采用不同的 ABI。

二、什么是调用约定?

调用约定(Calling Convention)是 ABI 的重要组成部分。

它规定了函数调用双方如何协作完成一次函数调用,主要涉及:

  1. 函数参数如何传递。
  2. 返回值如何传递。
  3. 哪些寄存器可以被修改。
  4. 哪些寄存器必须保存和恢复。
  5. 谁负责清理调用过程使用的栈空间。
  6. 栈指针和栈帧如何维护。

调用约定的核心目标是让调用者(Caller)和被调用者(Callee)对函数调用过程形成一致预期。

1. 一次函数调用涉及哪些角色?

flowchart TB
    A["调用者 Caller"] --> B["按照调用约定准备参数"]
    B --> C["执行函数调用指令"]
    C --> D["被调用者 Callee"]
    D --> E["执行函数逻辑"]
    E --> F["准备返回值"]
    F --> G["返回调用者"]
    G --> H["调用者继续执行"]

    style A fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style B fill:#E5F4EC,stroke:#A3CBB5,color:#334155
    style C fill:#FFF5DE,stroke:#E8D29A,color:#334155
    style D fill:#F3EDFC,stroke:#C4B2E3,color:#334155
    style E fill:#E5F4EC,stroke:#A3CBB5,color:#334155
    style F fill:#FFF5DE,stroke:#E8D29A,color:#334155
    style G fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style H fill:#E8EDF2,stroke:#B8C3CE,color:#334155

    linkStyle default stroke:#A3B8AC,stroke-width:1.5px

调用约定并不规定函数具体做什么,而是规定函数调用双方如何交换数据、维护执行环境。

2. 参数传递方式

函数参数通常通过寄存器或栈传递。

寄存器传参

将函数参数放入指定寄存器。

优点:

  • 访问速度快。
  • 不需要额外的栈内存读写。
  • 适合常见的少量参数调用。

栈传参

将函数参数写入调用者准备的栈空间,由被调用者按照约定读取。

优点:

  • 可以支持较多参数。
  • 不受可用参数寄存器数量的直接限制。
  • 适用于部分复杂参数布局。

实际调用约定通常混合使用寄存器和栈,而不是只能选择其中一种。

3. 返回值传递

常见返回值传递方式包括:

  • 寄存器返回:整数、指针等简单返回值通常通过指定寄存器返回。
  • 多寄存器返回:部分平台允许较大的简单聚合值通过多个寄存器返回。
  • 隐式返回指针:较复杂或较大的结构体可能通过调用者提供的内存地址返回。

例如,在常见 x86-64 ABI 中,整数类型返回值通常使用 RAX 寄存器。

但不能据此推断所有类型、所有平台都使用同一个返回方式。

三、寄存器保存规则

寄存器保存规则是调用约定中非常重要的部分。

在函数调用过程中,调用者和被调用者都可能使用 CPU 寄存器。为了避免函数调用破坏其他代码依赖的数据,需要规定寄存器的保存责任。

通常分为两类。

1. Caller-saved:调用者保存

也称为易失寄存器(Volatile Registers)。

如果调用者希望某个寄存器中的值在函数调用后仍然有效,就必须在调用前自行保存。

被调用者可以自由修改这些寄存器。

例如:

调用者:
    将重要数据保存在寄存器 R10
    保存 R10 的原始值
    调用函数

被调用者:
    可以修改 R10

调用者:
    函数返回
    恢复 R10 的原始值

调用者保存的核心含义是:跨函数调用需要保留的值,由调用者负责保护。

2. Callee-saved:被调用者保存

也称为非易失寄存器(Non-volatile Registers)。

如果被调用者需要使用这些寄存器,就必须先保存其原始值,并在返回前恢复。

例如:

调用者:
    调用函数

被调用者:
    保存 RBX 原始值
    使用 RBX 执行计算
    恢复 RBX 原始值
    返回

调用者:
    可以继续使用原来的 RBX 值

3. 两种规则的对比

对比维度 Caller-saved Callee-saved
保存责任 调用者 被调用者
被调用者能否修改 可以 可以,但必须恢复原值
保存时机 调用前 被调用者使用前
恢复时机 调用返回后 被调用者返回前
典型用途 临时计算数据 需要跨调用保留的数据

注意:

Caller-saved 和 Callee-saved 并不表示寄存器是否能够修改,而是规定修改后由谁负责保证原有值的保存。

四、栈帧与函数调用

栈帧(Stack Frame)是函数执行期间使用的一段栈空间。

函数调用时,程序可能需要为局部变量、临时数据、寄存器保存值等分配空间。

一个典型栈帧可能包含:

  • 返回地址。
  • 保存的寄存器。
  • 局部变量。
  • 临时计算空间。
  • 部分通过栈传递的参数。

具体布局取决于 ABI、编译器优化和函数实现。

1. 栈帧的形成过程

以常见的 x86-64 函数调用为例,函数调用可能涉及以下过程:

flowchart TB
    A["调用者准备参数"] --> B["执行 call 指令"]
    B --> C["保存返回地址"]
    C --> D["进入被调用函数"]
    D --> E["建立栈帧或调整栈空间"]
    E --> F["保存需要保留的寄存器"]
    F --> G["执行函数逻辑"]
    G --> H["恢复寄存器与栈空间"]
    H --> I["执行 ret 指令"]
    I --> J["返回调用者"]

    style A fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style B fill:#FFF5DE,stroke:#E8D29A,color:#334155
    style C fill:#F3EDFC,stroke:#C4B2E3,color:#334155
    style D fill:#E0F0FE,stroke:#93BCE8,color:#1E4976
    style E fill:#E5F4EC,stroke:#A3CBB5,color:#334155
    style F fill:#E5F4EC,stroke:#A3CBB5,color:#334155
    style G fill:#F3EDFC,stroke:#C4B2E3,color:#334155
    style H fill:#E5F4EC,stroke:#A3CBB5,color:#334155
    style I fill:#FFF5DE,stroke:#E8D29A,color:#334155
    style J fill:#E0F0FE,stroke:#93BCE8,color:#1E4976

    linkStyle default stroke:#A3B8AC,stroke-width:1.5px

这是一种便于理解的典型流程,并不是所有函数都必须执行每一个步骤。

例如:

  • 编译器可能省略帧指针。
  • 叶子函数可能不需要额外的栈空间。
  • 内联函数可能不会产生实际的函数调用。
  • 优化后的函数可能将局部变量全部放在寄存器中。

2. x86-64 栈帧示意

在常见的向低地址增长的栈中,栈空间可以抽象表示为:

高地址
┌──────────────────────────┐
│ 调用者提供的栈参数       │
├──────────────────────────┤
│ 返回地址                 │
├──────────────────────────┤
│ 保存的帧指针(可选)     │
├──────────────────────────┤
│ 保存的寄存器             │
├──────────────────────────┤
│ 局部变量                 │
├──────────────────────────┤
│ 临时空间 / 对齐填充      │
└──────────────────────────┘
低地址

这是概念性布局,不代表固定的内存顺序。实际栈帧还可能受到参数分配策略、栈对齐、编译器优化和安全机制的影响。

3. 栈对齐(Stack Alignment)

CPU 或 ABI 通常要求栈指针满足特定对齐约束。

例如,System V AMD64 ABI 对普通函数调用规定了 16 字节栈对齐要求。调用指令压入返回地址后,函数入口处的栈指针与调用前的对齐状态会存在相应关系。

栈对齐的意义包括:

  • 满足 SIMD 指令对内存访问的对齐需求。
  • 提高特定数据访问的效率。
  • 保证不同编译模块之间的栈布局一致。
  • 满足 ABI 对函数调用入口的要求。

如果手写汇编时没有遵守栈对齐约定,可能导致某些指令执行异常,或者使被调用函数出现难以定位的问题。

五、主流平台的调用约定

调用约定与 CPU 架构、操作系统和 ABI 密切相关。

即使都是 x86-64,也存在不同平台的调用约定。

1. System V AMD64 ABI

System V AMD64 ABI 是 Linux、macOS 等采用 System V ABI 体系的 x86-64 环境中常见的调用约定基础。

整数和指针类型的前六个参数通常使用以下寄存器:

参数顺序 寄存器
第 1 个 RDI
第 2 个 RSI
第 3 个 RDX
第 4 个 RCX
第 5 个 R8
第 6 个 R9
后续参数 通常通过栈传递

浮点参数通常使用 XMM 寄存器传递。

常见整数返回值使用 RAX。

部分其他规则:

  • RBX、RBP、R12~R15 通常属于被调用者保存寄存器。
  • RAX、RCX、RDX、RSI、RDI、R8~R11 通常属于调用者保存寄存器。
  • RSP 必须按照 ABI 规定维护。
  • 函数调用需要满足规定的栈对齐要求。

注意,浮点参数和整数参数分别使用不同的寄存器分类规则;结构体等聚合类型还需要经过 ABI 的参数分类算法,不能简单按照参数数量套用上述表格。

2. Microsoft x64 Calling Convention

Windows x64 平台主要采用 Microsoft x64 调用约定。

整数和指针类型的前四个参数通常使用:

参数顺序 寄存器
第 1 个 RCX
第 2 个 RDX
第 3 个 R8
第 4 个 R9
后续参数 通常通过栈传递

浮点参数通常使用与参数位置对应的 XMM0~XMM3 寄存器。

常见整数返回值使用 RAX。

Windows x64 还具有一个重要特征:调用者需要为被调用函数预留 32 字节的 Shadow Space(影子空间)。

即使前四个参数通过寄存器传递,调用者也需要为这部分空间留出位置。

3. 两种调用约定对比

对比维度 System V AMD64 Microsoft x64
主要平台 Linux、macOS 等相关环境 Windows x64
整数参数寄存器 RDI、RSI、RDX、RCX、R8、R9 RCX、RDX、R8、R9
整数寄存器参数数量 6 个 4 个
浮点参数寄存器 XMM 寄存器,按参数分类分配 XMM0~XMM3,按参数位置分配
影子空间 无对应的固定 32 字节要求 32 字节 Shadow Space
整数返回值 RAX RAX
栈对齐 遵循 System V ABI 规定 遵循 Microsoft x64 ABI 规定

两者虽然都运行在 x86-64 指令集上,但参数寄存器分配、栈空间使用和寄存器保存规则并不相同。

因此,不能将一套平台的汇编调用代码直接用于另一套平台。

六、不同编程语言如何处理调用约定?

不同语言会通过编译器、运行时和 ABI 规范实现函数调用。

1. C 语言

C 语言通常使用目标平台规定的默认调用约定。

例如:

int add(int a, int b) {
    return a + b;
}

在 x86-64 Linux 环境中,编译器通常遵循 System V AMD64 ABI。

在 Windows x64 环境中,通常遵循 Microsoft x64 调用约定。

因此,相同的 C 代码在不同平台编译后,生成的机器代码可能使用不同的参数寄存器和栈布局。

2. C++ 语言

C++ 除了函数调用约定,还涉及名称修饰(Name Mangling)。

例如:

int add(int a, int b);

double add(double a, double b);

C++ 支持函数重载,因此编译器需要将函数名、参数类型等信息编码进符号名称,以便链接器区分不同函数。

这意味着:

  • 函数源码名称不一定等于二进制符号名称。
  • 不同编译器可能使用不同的名称修饰规则。
  • 即使函数调用约定相同,名称修饰规则不同也可能导致链接失败。

如果需要让 C++ 函数以 C 语言链接规则导出,可以使用:

extern "C" {
    int add(int a, int b);
}

extern "C" 主要影响语言链接和名称修饰规则,并不意味着可以忽略平台 ABI、数据布局和调用约定。

3. Rust 语言

Rust 默认使用自身的 Rust ABI。

Rust ABI 不承诺像 C ABI 一样稳定地供外部二进制模块长期使用,因此跨语言接口通常会显式指定 C ABI:

#[no_mangle]
pub extern "C" fn add(a: i32, b: i32) -> i32 {
    a + b
}

这里:

  • extern "C":指定使用目标平台的 C 调用约定。
  • #[no_mangle]:要求导出时不进行 Rust 默认的符号名称修饰。
  • pub:控制 Rust 层面的可见性。

需要注意,Rust 版本和 Edition 对符号属性的具体语法可能存在差异;较新的 Rust 版本中,某些场景需要使用 #[unsafe(no_mangle)]。

4. Python、Java 等高级语言

高级语言的函数调用不一定直接对应 C ABI 函数调用。

例如:

  • Python 函数调用通常由解释器或运行时执行,并涉及对象引用、参数绑定和运行时管理。
  • Java 方法调用通常遵循 JVM 规范定义的执行机制,JIT 编译后再映射到目标平台的机器级调用规则。
  • Java Native Interface(JNI)则定义了 Java 与本地代码交互时的接口约定。

高级语言运行时可以在内部采用自己的调用机制,但在与操作系统、动态库或其他语言交互时,通常需要遵循明确的二进制接口约定。

七、ABI 兼容性与跨语言调用

ABI 兼容性决定了不同编译模块能否在二进制层面正确协作。

两个模块即使使用不同的编程语言,只要它们遵循兼容的 ABI,并且数据布局、符号和运行时约定一致,就可以实现跨语言调用。