搜索

第 6 章 持久性消息数据

download PDF

对于持久性( storing)消息数据,AMQ Broker 有两个选项。

在日志中保留消息
这是默认选项。基于日志的持久性是一个高性能选项,可将消息写入文件系统中的日志。
在数据库中保留消息
这个选项使用 Java 数据库连接 (JDBC)连接将消息持久化到您选择的数据库。

另外,您还可以配置代理 不会保留 任何消息数据。更多信息请参阅 第 6.3 节 “禁用持久性”

代理使用不同的解决方案来保留消息日志外的大型消息。如需更多信息,请参阅 第 8 章 处理大型消息

代理也可以配置为以低内存情况下将消息输出到磁盘。如需更多信息,请参阅 第 7.1 节 “配置消息分页”

注意

有关 AMQ Broker 支持哪些数据库和网络文件系统的当前信息,请参阅红帽客户门户网站中的 Red Hat AMQ 7 支持的配置

6.1. 在日志中保留消息数据

代理日志是 磁盘上的一组只读文件。每个文件已预先创建为固定大小,最初使用 padding 进行填充。当消息操作在代理上执行时,记录会附加到日志的末尾。附加记录可让代理最小化磁盘头移动和随机访问操作,这通常是磁盘上的最慢的操作。当一个日志文件已满时,代理会创建一个新日志文件。

日志文件的大小可以配置,尽量减少每个文件使用的磁盘柱面的数量。现代磁盘拓扑比较复杂,但代理无法控制文件映射到的柱面。因此,日志文件大小很难精确控制。

代理使用的其他持久性功能包括:

  • 确定特定日志文件是否仍然在使用的 垃圾回收 算法。如果日志文件不再使用,则代理可以回收该文件以重复使用。
  • 从日志中删除死空间的压缩算法,并压缩数据。这会生成磁盘上使用较少的文件的日志。
  • 支持本地事务。
  • 在使用 JMS 客户端时支持扩展架构(XA)事务。

大多数日志都是以 Java 编写的。但是,使用与实际文件系统的交互是抽象的,因此您可以使用不同的可插入的实现。AMQ Broker 包括以下实现:

NIO
NIO(新 I/O)使用标准 Java NIO 与文件系统接口。这可提供极好的性能,并在具有 Java 6 或更高版本运行时的任何平台上运行。有关 Java NIO 的更多信息,请参阅 Java NIO
AIO

AIO(Aynshcronous I/O)使用精简原生打包程序与 Linux Asynchronous I/O 库(libaio)对话。使用 AIO 时,在数据提供给磁盘后代理会重新调用,从而避免了显式同步。默认情况下,代理尝试使用 AIO 日志,如果 AIO 不可用,代理将回退到使用 NIO。

AIO 的性能优于 Java NIO。要了解如何安装 libaio,请参阅 第 6.1.1 节 “安装 Linux 同步 I/O 库”

以下的子部分中的步骤演示了如何为基于日志的持久性配置代理。

6.1.1. 安装 Linux 同步 I/O 库

红帽建议使用 AIO 日志(而不是 NIO)来改进持久性性能。

注意

无法与其他操作系统或早期版本的 Linux 内核一起使用 AIO 日志。

要使用 AIO 日志,您必须安装 Linux Asynchronous I/O 库(libaio)。要安装 libaio,请使用 yum 命令,如下所示:

yum install libaio

6.1.2. 配置基于日志的持久性

以下流程描述了如何查看代理用于基于日志的持久性的默认配置。您可以使用此描述根据需要调整配置。

  1. 打开 & lt;broker_instance_dir> /etc/broker.xml 配置文件。

    默认情况下,代理配置为使用基于日志的持久性,如下所示。

    <configuration>
      <core>
        ...
        <persistence-enabled>true</persistence-enabled>
        <journal-type>ASYNCIO</journal-type>
        <bindings-directory>./data/bindings</bindings-directory>
        <journal-directory>./data/journal</journal-directory>
        <journal-datasync>true</journal-datasync>
        <journal-min-files>2</journal-min-files>
        <journal-pool-files>-1</journal-pool-files>
        <journal-device-block-size>4096</journal-device-block-size>
        <journal-file-size>10M</journal-file-size>
        <journal-buffer-timeout>12000</journal-buffer-timeout>
        <journal-max-io>4096</journal-max-io>
        ...
      </core>
    </configuration>
    启用持久性
    如果此参数的值设置为 true,代理将使用基于文件的日志进行消息持久性。
    journal-type
    要使用的日志类型。如果设置为 ASYNCIO,则代理首先尝试使用 AIO。如果没有找到 AIO,代理将使用 NIO。
    bindings-directory
    绑定日志的文件系统位置。默认值相对于 < broker_instance_dir> 目录。
    journal-directory
    消息日志的文件系统位置。默认值相对于 < broker_instance_dir> 目录。
    journal-datasync
    如果此参数的值被设置为 true,则代理将使用 fdatasync 功能来确认磁盘写入。
    journal-min-files
    代理启动时首先创建的日志文件数。
    journal-pool-files
    回收未使用的文件后要保留的文件数。默认值 -1 表示清理过程中不会删除任何文件。
    journal-device-block-size
    存储设备上日志使用的数据块的最大大小,以字节为单位。默认值为 4096 字节。
    journal-file-size
    指定日志目录中每个日志文件的最大大小,以字节为单位。当达到这个限制时,代理会启动一个新文件。这个参数还支持字节表示法(例如 K、M、G)或二进制等同的(Ki、Mi、Gi)。如果未在配置中明确指定此参数,则默认值为 10485760 字节(10MiB)。
    journal-buffer-timeout
    指定日志缓冲区的频率(以纳秒为单位)。AIO 通常使用高于 NIO 的冲刷率,因此代理会维护 NIO 和 AIO 的不同默认值。如果未在配置中明确指定此参数,则 NIO 的默认值是 3333333 纳秒(每秒 300 次)。AIO 的默认值为 50000 纳秒(即每秒 2000 倍)。
    journal-max-io

    在任何时间点上,可在 IO 队列中每个写入请求数上限。如果队列已满,代理将阻止进一步写入,直到空间可用为止。

    如果您使用的是 NIO,这个值应该始终为 1。如果您使用 AIO 和这个参数在配置中没有指定,则默认值为 500

  2. 根据前面的描述,根据需要调整存储设备的持久性配置。

其他资源

6.1.3. 关于绑定日志

绑定日志用于存储与绑定相关的数据,如代理上部署的一组队列及其属性。它还存储数据,如 ID 序列计数器。

绑定日志始终使用 NIO,因为它在与消息日志相比通常会较低吞吐量。此日志上的文件以 activemq-bindings 为前缀。每个文件也具有 .bindings 的扩展,以及默认大小为 1048576 字节。

要配置绑定日志,请在 < broker_instance_dir&gt; /etc/broker.xml 配置文件的 核心元素 中包含以下参数。

bindings-directory
绑定日志的目录。默认值为 < broker_instance_dir>/data/bindings
create-bindings-dir
如果此参数的值被设置为 true,代理会自动在绑定目录中指定的位置(如果 绑定目录 )中创建绑定目录 (如果不存在)。默认值为 true

6.1.4. 关于 JMS 日志

JMS 日志存储所有 JMS 相关数据,包括 JMS 队列、主题和连接工厂,以及这些资源的任何 JNDI 绑定。通过管理 API 创建的任何 JMS 资源都保留在此日志中,但通过配置文件配置的任何资源都不是。只有在使用 JMS 时,代理才会创建 JMS 日志。

JMS 日志中的文件前缀为 activemq-jms。每个文件也有 .jms 的扩展,默认大小为 1048576 字节。

JMS 日志通过绑定日志共享其配置。

其他资源

6.1.5. 配置日志保留

您可以配置 AMQ Broker 来保留创建的每个日志文件的副本。配置日志保留后,您可以在日志文件中重新显示消息,以将消息发送到代理。

6.1.5.1. 配置日志保留

您可以将 AMQ Broker 配置为在特定时间段内或同时达到存储限制前保留日志文件副本。

流程

  1. 打开 & lt;broker_instance_dir&gt; /etc/broker.xml 配置文件。
  2. core 元素内,添加 journal-retention-directory 属性。指定 periodstorage-limit,或同时指定控制日志文件的保留。另外,为日志文件副本指定文件系统位置。以下示例配置 AMQ Broker,以在 data/retention 目录中保留日志文件副本 7 天,或直到文件使用 10GB 的存储。
<configuration>
  <core>
    ...
    <journal-retention-directory period="7" unit="DAYS" storage-limit="10G">data/retention</journal-retention-directory>
    ...
  </core>
</configuration>
周期
保存日志文件副本的时间周期。当时间到期时,AMQ Broker 将删除超过指定时间段内的任何文件。
unit
应用到保留周期的测量单位。默认值为 DAYS。其他有效值为 HOURSMINUTESSECONDS
目录
日志文件副本的文件系统位置。指定的目录相对于 < broker_instance_dir> 目录。
storage-limit
所有日志文件副本可以使用的最大存储。如果达到存储限制,代理会删除最旧的日志文件,以便为新的日志文件副本提供空间。设置存储限制是确保日志文件保留不会导致代理耗尽磁盘空间和关闭的有效方法。

6.1.5.2. 在日志文件副本中重播消息复制中的地址

如果要从 AMQ Broker 上的日志文件副本中重播的信息地址,请使用以下步骤重现信息。您可以将消息重新显示到代理上的原始地址或不同地址。

流程

  1. 登录 AMQ 管理控制台。如需更多信息,请参阅 访问 AMQ 管理控制台
  2. 在主菜单中,单击 Artemis
  3. 在文件夹树中,单击 地址 以显示地址列表。
  4. 地址 选项卡。
  5. 在您要重播消息的地址的 Action 列中,单击 操作
  6. 选择 replay 操作。

    • 如果您希望 replay 操作搜索所有日志文件副本中的消息重播,点 replay (String,String) 操作。
    • 如果您希望 replay 操作搜索仅在特定时间段内创建的日志文件副本中的消息重播,请选择 replay (String,String,String) 操作。在 startScanDateendScanDate 字段中指定 period。
  7. 指定 replay 选项。

    1. target 字段中,指定代理上要发送重播消息的地址。如果将此字段留空,则消息会重新显示到代理上的原始地址。
    2. (可选)在 过滤器 字段中,指定一个字符串来只重播与过滤器字符串匹配的消息。例如,如果消息具有 storeID 属性,您可以使用 storeID="1000" 过滤来回放所有存储 ID 值为 1000 的消息。如果您没有指定过滤器,扫描的日志文件副本中的所有信息都会重播到 AMQ Broker。
  8. Execute

其他资源

6.1.5.3. 在日志文件复制中重播从代理中删除的地址

如果要从 journal 文件副本重新显示的信息地址已从 AMQ Broker 中删除,请使用以下步骤将消息回放到代理上的不同地址。

流程

  1. 登录 AMQ 管理控制台。如需更多信息,请参阅 访问 AMQ 管理控制台
  2. 在主菜单中,单击 Artemis
  3. 在文件夹树中,单击顶级服务器。
  4. 单击 运营 选项卡。
  5. 选择 replay 操作。

    • 如果您希望 replay 操作搜索所有日志文件副本中的消息重播,点 replay (String,String,String) 操作。
    • 如果您希望 replay 操作搜索仅在特定时间段内创建的日志文件副本中的消息重播,请选择 replay (String,String,String,String) 操作。在 startScanDateendScanDate 字段中指定 period。
  6. 指定 replay 选项。

    1. address 字段中,指定要重播的消息地址。
    2. target 字段中,指定代理上要发送重播消息的地址。
    3. (可选)在 过滤器 字段中,指定一个字符串来只重播与过滤器字符串匹配的消息。例如,如果消息具有 storeID 属性,您可以使用 storeID="1000" 过滤来回放所有存储 ID 值为 1000 的消息。如果您没有指定过滤器,扫描的日志文件副本中的所有信息都会重播到 AMQ Broker。
  7. Execute

其他资源

6.1.6. 模拟日志文件

AMQ Broker 包括一个压缩算法,从日志中删除死空间并压缩数据,使其占用较少的磁盘空间。

以下子部分演示了如何:

6.1.6.1. 配置日志文件压缩

代理使用以下条件来决定何时启动压缩:

  • 为日志创建的文件数量。
  • 日志文件中实时数据的百分比。

在满足这两个条件的配置值后,压缩过程会解析日志并删除所有死记录。因此,日志包含较少的文件。

以下流程演示了如何为日志文件压缩配置代理。

流程

  1. 打开 & lt;broker_instance_dir&gt; /etc/broker.xml 配置文件。
  2. core 元素中,添加 journal-compact-min-filesjournal-compact-percentage 参数并指定值。例如:

    <configuration>
      <core>
        ...
        <journal-compact-min-files>15</journal-compact-min-files>
        <journal-compact-percentage>25</journal-compact-percentage>
        ...
      </core>
    </configuration>
    journal-compact-min-files
    代理在压缩开始前必须创建的最小日志文件数量。默认值为 10。将值设为 0 可禁用压缩。您应该在禁用压缩时要小心,因为日志的大小可以无限期地增加。
    journal-compact-percentage
    日志文件中实时数据的百分比。当少于此百分比时(以及已达到 journal-compact-min-files 的配置值)开始压缩。默认值为 30

6.1.6.2. 从命令行界面运行压缩

以下流程演示了如何使用命令行界面(CLI)紧凑日志文件。

流程

  1. 作为 < broker_instance_dir&gt; 目录的所有者,停止代理。以下示例显示了用户 amq-broker

    su - amq-broker
    cd <broker_instance_dir>/bin
    $ ./artemis stop
  2. (可选)运行以下 CLI 命令来获取数据工具的完整参数列表。默认情况下,该工具使用 < broker_instance_dir> /etc/broker.xml 中找到的设置。

    $ ./artemis help data compact.
  3. 运行以下 CLI 命令以紧凑数据。

    $ ./artemis data compact.
  4. 在工具成功压缩数据后,重启代理。

    $ ./artemis run

其他资源

  • AMQ Broker 包含多个用于管理日志文件的 CLI 命令。如需更多信息,请参阅附录中的命令行工具

6.1.7. 禁用磁盘写入缓存

大多数磁盘包含硬件写入缓存。写入缓存可能会增加磁盘的明显性能,因为写入操作稍后被写入磁盘。默认情况下,许多系统随附启用了磁盘写入缓存。这意味着即使在从操作系统同步后,也无法保证数据实际上已经设为磁盘。因此,如果发生故障,关键数据可能会丢失。

有些昂贵的磁盘具有非易变或者有电池的写入缓存,它们不一定会在失败时丢失数据,但您应该对其进行测试。如果您的磁盘没有这样的功能,您应该确保已禁用写入缓存。请注意,禁用磁盘写入缓存可能会对性能造成负面影响。

以下流程演示了如何在 Windows 上的 Linux 中禁用磁盘写入缓存。

流程

  1. 在 Linux 上,要管理磁盘写入缓存设置,请使用工具 hdparm (用于 IDE 磁盘)或 sdparmsginfo (用于 SDSI/SATA 磁盘)。
  2. 在 Windows 上,要管理磁盘写器缓存设置,请右键点击磁盘。选择 属性
Red Hat logoGithubRedditYoutubeTwitter

学习

尝试、购买和销售

社区

关于红帽文档

通过我们的产品和服务,以及可以信赖的内容,帮助红帽用户创新并实现他们的目标。

让开源更具包容性

红帽致力于替换我们的代码、文档和 Web 属性中存在问题的语言。欲了解更多详情,请参阅红帽博客.

關於紅帽

我们提供强化的解决方案,使企业能够更轻松地跨平台和环境(从核心数据中心到网络边缘)工作。

© 2024 Red Hat, Inc.