第 6 章 持久性消息数据
对于持久性( storing)消息数据,AMQ Broker 有两个选项。
或者,您还可以将代理配置为 不保留 任何消息数据。更多信息请参阅 第 6.3 节 “禁用持久性”。
代理使用不同的解决方案来保留消息日志之外的大量消息。请参阅 第 8 章 处理大量消息 了解更多信息。
代理也可以配置为在内存不足的情况下将信息记录到磁盘。请参阅 第 7.1 节 “配置消息分页” 了解更多信息。
有关 AMQ Broker 支持哪些数据库和网络文件系统的当前信息,请参阅红帽客户门户网站中的 Red Hat AMQ 7 支持的配置。
6.1. 在日志中保留消息数据
代理日志是在磁盘上一组 仅附加 的文件。每个文件预先创建到固定大小,最初填充了 padding。当消息传递操作在代理上执行时,记录会附加到日志的末尾。附加记录可让代理最小化磁盘头移动和随机访问操作,这些操作通常是磁盘上最慢的操作。当一个日志文件已满时,代理会创建一个新日志文件。
日志文件大小可以配置,尽量减小每个文件所使用的磁盘 cylinder 数。但是,现代磁盘拓扑比较复杂,代理无法控制该文件映射到的 cylinder。因此,日志文件大小很难精确控制。
代理使用的其他持久性相关功能有:
- 确定特定日志文件仍在使用中的 垃圾回收 算法。如果日志文件不再使用,代理可以回收该文件以重复使用。
- 从日志中删除死空间的压缩算法,并压缩数据。这会导致日志使用磁盘上较少的文件。
- 支持本地事务。
- 在使用 JMS 客户端时,支持扩展架构(XA)事务。
大多数日志都是以 Java 编写的。但是,与实际文件系统的交互已被抽象,因此您可以使用不同的可插拔实现。AMQ Broker 包括以下实现:
- NIO
- NIO (新 I/O)使用标准 Java NIO 与文件系统进行接口。这提供了非常好的性能,并在任何具有 Java 6 或更高版本运行时的平台中运行。有关 Java NIO 的更多信息,请参阅 Java NIO。
- AIO
AIO (Aynshcronous I/O)使用精简原生打包程序与 Linux 异步 I/O 库(
libaio
)对话。使用 AIO 时,代理会在数据变为磁盘后调用,避免完全同步。默认情况下,代理会尝试使用 AIO 日志,并在 AIO 不可用时回退到使用 NIO。AIO 通常比 Java NIO 提供更好的性能。要了解如何安装
libaio
,请参阅 第 6.1.1 节 “安装 Linux 异步 I/O 库”。
以下子部分中的步骤演示了如何为基于日志的持久性配置代理。
6.1.1. 安装 Linux 异步 I/O 库
红帽建议使用 AIO 日志(而不是 NIO)来更好地持久性性能。
无法与其他操作系统或早期版本的 Linux 内核一起使用 AIO 日志。
要使用 AIO 日志,您必须安装 Linux 异步 I/O 库(libaio
)。要安装 libaio
,请使用 yum
命令,如下所示:
yum install libaio
6.1.2. 配置基于日志的持久性
以下流程描述了如何查看代理用于基于日志持久性的默认配置。您可以根据需要使用此描述来调整配置。
打开 &
lt;broker_instance_dir> /etc/broker.xml
配置文件。默认情况下,代理配置为使用基于日志的持久性,如下所示。
<configuration> <core> ... <persistence-enabled>true</persistence-enabled> <journal-type>ASYNCIO</journal-type> <bindings-directory>./data/bindings</bindings-directory> <journal-directory>./data/journal</journal-directory> <journal-datasync>true</journal-datasync> <journal-min-files>2</journal-min-files> <journal-pool-files>-1</journal-pool-files> <journal-device-block-size>4096</journal-device-block-size> <journal-file-size>10M</journal-file-size> <journal-buffer-timeout>12000</journal-buffer-timeout> <journal-max-io>4096</journal-max-io> ... </core> </configuration>
持久性启用
-
如果此参数的值设为
true
,代理将使用基于文件的日志进行消息持久性。 journal-type
-
要使用的日志类型。如果设置为
ASYNCIO
,代理首先尝试使用 AIO。如果没有找到 AIO,代理将使用 NIO。 bindings-directory
-
绑定日志的文件系统位置。默认值相对于 <
broker_instance_dir>
目录。 journal-directory
-
消息日志的文件系统位置。默认值相对于 <
broker_instance_dir>
目录。 journal-datasync
-
如果此参数的值设为
true
,代理将使用fdatasync
函数来确认磁盘写入。 journal-min-files
- 代理启动时初始创建的日志文件数量。
journal-pool-files
-
重新声明未使用文件后要保留的文件数量。默认值
-1
表示在清理过程中不会删除任何文件。 journal-device-block-size
- 存储设备中日志使用的最大数据块大小(以字节为单位)。默认值为 4096 字节。
journal-file-size
- 指定日志目录中每个日志文件的最大大小(以字节为单位)。当达到这个限制时,代理会启动新文件。这个参数还支持字节表示法(如 K、M、G)或二进制等效(Ki、Mi、Gi)。如果没有在您的配置中明确指定此参数,则默认值为 10485760 字节(10MiB)。
journal-buffer-timeout
- 指定代理清除日志缓冲区的频率(以纳秒为单位)。AIO 通常使用比 NIO 更高的刷新率,因此代理为 NIO 和 AIO 维护不同的默认值。如果未在配置中明确指定此参数,则 NIO 的默认值是 3333333 纳秒(每秒 300 次)。AIO 的默认值为 50000 纳秒(即每秒 2000 次)。
journal-max-io
任意时间点上可以位于 IO 队列的最大写入请求数。如果队列已满,代理会阻止进一步写入,直到空间可用为止。
如果您使用 NIO,则该值应始终为
1
。如果您使用 AIO,并且此参数没有在配置中明确指定,则默认值为500
。
- 根据前面的描述,根据需要根据您的存储设备调整持久性配置。
其他资源
- 要了解可用于配置基于日志的持久性的所有参数,请参阅 附录 E, 消息传递日志配置元素。
6.1.3. 关于绑定日志
绑定日志用于存储与绑定相关的数据,如代理及其属性上部署的队列集合。它还存储数据,如 ID 序列计数器。
绑定日志始终使用 NIO,因为它通常是与消息日志相比的吞吐量。此日志上的文件前缀为 activemq-bindings
。每个文件也具有 .bindings
扩展,默认大小为 1048576 字节。
要配置绑定日志,请在 < broker_instance_dir> /etc/broker.xml
配置文件的 core
元素中包含以下参数。
bindings-directory
-
绑定日志的目录。默认值为 <
broker_instance_dir>/data/bindings
。 create-bindings-dir
-
如果此参数的值设为
true
,代理会在bindings-directory
中指定的位置自动创建绑定目录(如果尚不存在)。默认值为true
。
6.1.4. 关于 JMS 日志
JMS 日志存储所有与 JMS 相关的数据,包括 JMS 队列、主题和连接工厂,以及这些资源的任何 JNDI 绑定。通过管理 API 创建的任何 JMS 资源都会保留到此日志中,但通过配置文件配置的任何资源都不会保留。只有在使用 JMS 时,代理才会创建 JMS 日志。
JMS 日志中的文件前缀为 activemq-jms
。每个文件的扩展名也为 .jms
,默认大小为 1048576 字节。
JMS 日志与绑定日志共享其配置。
其他资源
- 有关绑定日志的详情,请参考 第 6.1.3 节 “关于绑定日志”。
6.1.5. 配置日志保留
您可以配置 AMQ Broker,以保留创建的每个日志文件的副本。配置日志保留后,您可以在日志文件副本中重播消息,以将消息发送到代理。
6.1.5.1. 配置日志保留
您可以将 AMQ Broker 配置为在特定时间段内或达到存储限制或全部保留日志文件副本。
流程
-
打开 &
lt;broker_instance_dir> /etc/broker.xml
配置文件。 -
在
core
元素中,添加journal-retention-directory
属性。指定句点
或storage-limit
或两者来控制日志文件的保留。另外,为日志文件副本指定文件系统位置。以下示例将 AMQ Broker 配置为将日志文件副本保存在data/retention
目录中(7
天),或直到文件使用10GB
存储。
<configuration> <core> ... <journal-retention-directory period="7" unit="DAYS" storage-limit="10G">data/retention</journal-retention-directory> ... </core> </configuration>
周期
- 保留日志文件副本的时间周期。当时间段过期时,AMQ Broker 会删除任何超过指定时间的文件。
unit
-
要应用到保留周期的测量单元。默认值为
DAYS
。其他有效值为HOURS
、MINUTES
和SECONDS
。 目录
- 日志文件复制的文件系统位置。指定的目录相对于 < broker_instance_dir> 目录。
storage-limit
- 所有日志文件副本可以使用的最大存储。如果达到存储限制,代理会删除最旧的日志文件,以便为新的日志文件复制提供空间。设置存储限制是确保日志文件保留不会导致代理耗尽磁盘空间并关闭的有效方法。
6.1.5.2. 在日志文件复制中重播代理中存在的地址
如果要从日志文件副本重新显示的信息地址存在于 AMQ Broker 上,请使用以下步骤重新显示信息。您可以将消息重播到代理的原始地址或不同的地址。
流程
- 登录 AMQ 管理控制台。如需更多信息,请参阅 访问 AMQ 管理控制台。
- 在主菜单中,单击 Artemis。
- 在文件夹树中,单击 addresses 以显示地址列表。
- 单击 地址 选项卡。
- 在您要重播消息的地址的 Action 列中,单击 操作。
选择重播操作。
- 如果您希望重播操作搜索在所有日志文件中重播的消息,请点 replay (String,String) 操作。
- 如果您希望重播操作仅在特定时间段内创建的日志文件副本中搜索信息,请选择 replay (String,String, String,String) 操作。在 startScanDate 和 endScanDate 字段中,指定时间段。
指定 replay 选项。
- 在 target 字段中,指定要发送重播消息的代理上的地址。如果将此字段留空,则会将消息重新显示到代理的原始地址。
-
(可选)在 filter 字段中,指定一个字符串来重播与过滤器字符串匹配的消息。例如,如果消息具有 storeID 属性,您可以使用
storeID="1000"
的过滤器来重播存储 ID 值为 1000 的所有消息。如果没有指定过滤器,则扫描的日志文件副本中的所有信息都会重新显示到 AMQ Broker。
- 点 Execute。
其他资源
- 有关使用 AMQ 管理控制台的更多信息,请参阅使用 AMQ 管理控制台。
6.1.5.3. 在日志文件复制中重播从代理中删除的地址
如果要从日志文件副本中重播的信息地址已从 AMQ Broker 中删除,请使用以下步骤将信息重新显示到代理的不同地址。
流程
- 登录 AMQ 管理控制台。如需更多信息,请参阅 访问 AMQ 管理控制台。
- 在主菜单中,单击 Artemis。
- 在文件夹树中,点顶级服务器。
- 点 Operations 选项卡。
选择重播操作。
- 如果您希望重播操作搜索在所有日志文件中重播的消息,请点 replay (String,String,String) 操作。
- 如果您希望重播操作仅在特定时间段内创建的日志文件副本中搜索信息,请选择 replay (String,String,String,String) 操作。在 startScanDate 和 endScanDate 字段中,指定时间段。
指定 replay 选项。
- 在 address 字段中,指定要重播的消息地址。
- 在 target 字段中,指定要发送重播消息的代理上的地址。
-
(可选)在 filter 字段中,指定一个字符串来重播与过滤器字符串匹配的消息。例如,如果消息具有 storeID 属性,您可以使用
storeID="1000"
的过滤器来重播存储 ID 值为 1000 的所有消息。如果没有指定过滤器,则扫描的日志文件副本中的所有信息都会重新显示到 AMQ Broker。
- 点 Execute。
其他资源
- 有关使用 AMQ 管理控制台的更多信息,请参阅使用 AMQ 管理控制台。
6.1.6. 紧凑日志文件
AMQ Broker 包含一个压缩算法,它从日志中删除死空间并压缩数据,使其占用较少的磁盘空间。
以下子章节演示了如何:
6.1.6.1. 配置日志文件压缩
代理使用以下标准来确定何时开始压缩:
- 为日志创建的文件数量。
- 日志文件中的实时数据的百分比。
达到这两个条件的配置值后,压缩过程会解析日志并删除所有死记录。因此,日志包含较少的文件。
以下流程演示了如何为日志文件压缩配置代理。
流程
-
打开 &
lt;broker_instance_dir> /etc/broker.xml
配置文件。 在
core
元素中,添加journal-compact-min-files
和journal-compact-percentage
参数并指定值。例如:<configuration> <core> ... <journal-compact-min-files>15</journal-compact-min-files> <journal-compact-percentage>25</journal-compact-percentage> ... </core> </configuration>
journal-compact-min-files
-
代理在压缩开始前必须创建的最小日志文件数量。默认值为
10
。将值设为0
可禁用压缩。禁用压缩时要小心,因为日志的大小可能会无限期增长。 journal-compact-percentage
-
日志文件中的实时数据的百分比。当小于这个百分比时(也达到
journal-compact-min-files
配置的值)时,压缩开始。默认值为30
。
6.1.6.2. 使用命令行界面运行压缩
以下流程演示了如何使用命令行界面(CLI)来压缩日志文件。
流程
作为 <
broker_instance_dir>
目录的所有者,停止代理。以下示例显示了用户amq-broker
。su - amq-broker cd <broker_instance_dir>/bin $ ./artemis stop
(可选)运行以下 CLI 命令以获取 data 工具的完整参数列表。默认情况下,该工具使用 <
broker_instance_dir> /etc/broker.xml 中的设置
。$ ./artemis help data compact.
运行以下 CLI 命令以压缩数据。
$ ./artemis data compact.
工具成功压缩数据后,重启代理。
$ ./artemis run
其他资源
- AMQ Broker 包括多个 CLI 命令来管理您的日志文件。如需更多信息,请参阅附录中的命令行工具。
6.1.7. 禁用磁盘写缓存
大多数磁盘都包含硬件写缓存。写缓存可以提高磁盘的明显性能,因为写入稍后写入磁盘。默认情况下,很多系统都启用了磁盘写缓存。这意味着,即使从操作系统同步后,数据也不能保证它实际已变为磁盘。因此,如果发生故障,则可能会丢失关键数据。
有些更昂贵的磁盘具有非易失性或电池支持的写缓存,这些缓存不一定在出现故障时丢失数据,但您应该对其进行测试。如果您的磁盘没有这样的功能,您应该确保禁用写缓存。请注意,禁用磁盘写缓存可能会对性能造成负面影响。
以下流程演示了如何在 Windows 上的 Linux 中禁用磁盘写缓存。
流程
-
在 Linux 上,要管理磁盘写入缓存设置,请使用
hdparm
(用于 IDE 磁盘)或sdparm
或sginfo
(用于 slirpSI/SATA 磁盘)。 - 在 Windows 上,要管理磁盘写入器缓存设置,请右键点击磁盘。选择 Properties。