Redis 8 现已发布——并且它是开源的
了解更多
缓存一致性（Cache coherence）是指多处理器或多核系统中存储在不同缓存中的数据的一致性和同步。在此类系统中，每个处理器或核心通常都有自己的缓存内存以提高性能。缓存内存在计算机体系结构中起着至关重要的作用，它提供对常用数据的快速访问。然而，在这些私有缓存之间保持数据一致性可能具有挑战性，从而导致缓存一致性问题。
缓存一致性确保所有处理器观察到共享内存的一致视图，从而防止数据不一致并确保程序可靠执行。当多个缓存存储相同数据的副本，并且一个缓存所做的修改需要传播到其他缓存时，就会出现缓存一致性问题。未能维护缓存一致性可能导致数据损坏和程序行为不正确。
>了解如何使用 微服务缓存和消息代理 解决方案简介来加速和简化您的微服务应用程序。
缓存内存在现代计算机体系结构中起着至关重要的作用。它是一种小型高速内存，用于存储频繁访问的数据和指令，与主内存相比提供更快的访问速度。缓存内存由缓存行组成，缓存行是固定大小的块，用于存储主内存中存在的数据子集。
缓存一致性问题是由于多个缓存存储相同数据的副本而产生的。当缓存修改一个缓存行时，它需要确保持有该行副本的所有其他缓存都被更新或失效，以维护缓存一致性。缓存一致性协议通过协调缓存操作并确保系统范围内的一致数据访问来解决此问题。这将在下面的“解决缓存一致性的方法”部分中更详细地介绍。
缓存一致性协议是旨在在多处理器系统中维护缓存一致性的机制。这些协议管理缓存如何通信和协调其操作以确保数据一致性。两种常用的缓存一致性协议是嗅探总线协议（Snoopy Bus Protocols）和基于目录的协议（Directory-Based Protocols）。
嗅探总线协议依赖于连接多处理器系统中所有缓存的共享总线。这些协议监视总线上的内存事务，并采用嗅探逻辑来维护缓存一致性。嗅探总线协议中使用的两种流行策略是写无效策略（Write-Invalidate policy）和写更新策略（Write-Update policy）。
1. 写无效策略：在写无效策略中，当缓存对共享内存块执行写操作时，它会使其他缓存中该块的所有其他副本无效或标记为无效。当缓存想要读取内存块时，它首先检查是否有其他缓存持有修改后的副本。如果有，它会从拥有最新副本的缓存或从主内存请求更新后的数据。
2. 写更新策略：在写更新策略中，当缓存对共享内存块执行写操作时，它会更新其自身缓存中的值，同时也会更新其他缓存中该块的所有其他副本。这种方法减少了后续读取操作所需的缓存间传输。但是，它需要更多的总线带宽来向所有缓存广播更新。
嗅探逻辑和广播消息：嗅探总线协议依赖于在每个缓存控制器中实现的嗅探逻辑。嗅探逻辑监视总线事务，以确定缓存中内存块的副本是否仍然有效或需要被无效或更新。当缓存执行写操作时，它会在总线上广播一条消息，通知其他缓存该变化。具有嗅探逻辑的缓存会相应地更新其副本。
基于目录的协议使用集中的目录来维护缓存一致性信息。该目录跟踪哪些缓存持有每个内存块的副本，并管理访问和修改这些块的权限。基于目录的协议的两个关键特性是用于维护一致性的公共目录和基于权限的数据共享。
1. 用于维护一致性的公共目录：在基于目录的协议中，一个集中的目录维护所有内存块的一致性信息。它跟踪哪些缓存拥有每个块的副本及其各自的状态（例如，共享、已修改）。缓存与目录通信以请求访问和修改内存块的权限。
2. 基于权限的数据共享：基于目录的协议通过权限管理数据共享。当缓存想要读取或写入内存块时，它会向目录请求权限。目录根据块的当前状态和所使用的缓存一致性协议授予权限。缓存与目录协调，确保在对共享内存块执行操作之前拥有所需的权限。
基于目录的协议通常由于集中式目录而具有更高的开销。然而，在大规模多处理器系统中，与嗅探总线协议相比，它们可以提供更好的可扩展性并减少总线争用。
通过结合嗅探总线协议和基于目录的协议，可以在多处理器系统中有效维护缓存一致性。这些协议实现了缓存之间的高效通信、协调和同步，确保了整个系统范围内的一致和可靠的数据访问。
缓存一致性协议采用不同的方法来解决缓存一致性问题。缓存一致性问题对多处理器系统提出了挑战，因为每个处理器或核心都有自己的缓存内存。存在多个缓存存储相同数据的副本需要协调来维护缓存一致性。缓存一致性协议通过定义缓存之间的状态、转换和通信机制来解决此问题。两种常见的方法是基于无效化（invalidation-based）的方法和基于更新（update-based）的方法。在基于无效化的方法中，当缓存修改共享内存块时，它会使其他缓存中该块的副本无效或标记为无效。另一方面，基于更新的方法则在缓存之间传播对共享内存块的更新，确保所有缓存都具有最新版本的数据。
在直写（Write Through）策略中，缓存执行的任何写操作都会同时更新到缓存和主内存中。这种方法确保数据修改立即反映在主内存中，使其与缓存副本保持一致。
1. 同时更新缓存和主内存：使用直写策略时，当缓存写入内存块时，它会将更新传播到缓存和主内存中。这保证了主内存始终持有最新数据。
2. 优点和限制：直写策略简化了缓存管理，因为无需跟踪已修改的块以供后续写回。由于每个写操作都会同时更新缓存和主内存，因此它提供了高度的一致性。然而，对于每次缓存写入都需要额外向主内存进行写操作，这可能会引入更高的内存访问延迟。此外，在多处理器系统中，每次写操作都需要总线事务来更新缓存和主内存，这可能会产生大量的总线流量。
在写回（Write Back）策略中，修改最初只在缓存中进行。更新稍后在缓存块被替换或驱逐时写回主内存。这种延迟写入策略通过在写入主内存之前将多个更新分组来优化内存访问并减少总线流量。
1. 仅更新缓存，在块替换时更新主内存：使用写回策略时，缓存仅在其缓存中修改内存块。修改后的数据保留在缓存中，直到缓存块被驱逐或替换。发生这种情况时，修改后的数据会写回主内存。
2. 优点和缺点：与直写策略相比，写回策略提供了较低的内存访问延迟，因为写入操作最初仅在缓存中执行。这减少了对主内存的写入频率，提高了性能。写回策略还减少了总线流量，因为更新在缓存块替换期间以批处理方式累积并写入内存。然而，它引入了在写回发生之前缓存和主内存之间数据不一致的风险。这可能需要额外的机制，例如写无效或一致性协议，以确保缓存之间的数据一致性。
选择直写策略还是写回策略取决于系统的具体要求和特性。直写策略以潜在的延迟和总线流量为代价提供强一致性。写回策略通过最小化内存写入来提高性能，但引入了缓存到内存同步的需求。
通过在缓存一致性协议中实现直写策略或写回策略，多处理器系统可以根据每种策略的具体权衡和考量，有效管理数据修改、维护一致性并优化内存访问。
缓存一致性协议在多处理器系统中至关重要，用于确保缓存之间的数据一致性和协调。让我们探讨一些广泛使用的缓存一致性协议及其关键特性。
1. 状态和转换：MSI 协议为缓存块定义了三种状态：Modified（已修改）、Shared（共享）和 Invalid（无效）。Modified 状态表示缓存块已被修改并且与主内存不同。Shared 状态表示缓存块有效且在不同缓存中存在多个副本。Invalid 状态表示缓存块无效或不在缓存中。
2. 处理已修改和共享数据：在 MSI 协议中，当缓存块处于 Modified 状态时，任何写操作都会触发其他缓存中该块副本的无效化。Modified 状态允许缓存保留该块的所有权，确保独占修改权限。当缓存块处于 Shared 状态时，可以执行读操作，但写操作需要转换为 Modified 状态。
1. 引入 Owned 状态：MOSI 协议通过引入一个额外的 Owned（拥有）状态扩展了 MSI 协议。Owned 状态表示缓存独占性地拥有一个块，允许读写操作而无需无效化其他副本。
2. 改进的所有权处理：MOSI 协议中的 Owned 状态比 MSI 协议具有优势。当缓存想要修改处于 Owned 状态的块时，可以直接更新该块而无需无效化其他副本。与 MSI 协议相比，这减少了总线流量并提高了性能。
1. 广泛使用的缓存一致性协议：MESI 协议是最常用的缓存一致性协议之一。它通过引入 Exclusive（独占）状态扩展了 MSI 协议，该状态允许缓存独占地持有块的副本，表明没有其他缓存拥有该副本。
2. Exclusive 和 Modified 状态的优势：MESI 协议中的 Exclusive 状态通过允许缓存直接读取块而无需检查其他副本，从而实现更快的读操作。当缓存想要修改处于 Exclusive 状态的块时，可以直接转换为 Modified 状态，而无需无效化其他副本。这减少了不必要的总线事务需求，提高了性能。
1. 全面的一致性协议：MOESI 协议通过引入 Owned（拥有）状态（类似于 MOSI 协议）进一步扩展了 MESI 协议。此状态的优势在于允许读写操作，而无需无效化其他副本。
2. 增强的性能和数据共享：MOESI 协议结合了 Modified、Owned、Exclusive、Shared 和 Invalid 状态的优点。它通过最小化总线流量、减少无效化需求以及改进缓存之间的数据共享来优化性能。这种全面的协议可以有效处理各种场景，提高多处理器系统的性能。
这些缓存一致性协议——MSI、MOSI、MESI 和 MOESI——提供了不同级别的复杂性和权衡。每种协议都解决了多处理器系统中维护缓存一致性的挑战，提供了各种状态和转换以确保数据一致性以及缓存之间的高效数据共享。协议的选择取决于系统要求、性能考量以及复杂性和效率之间的期望权衡等因素。
有效的缓存一致性在多处理器系统的性能中起着至关重要的作用。让我们深入探讨与缓存一致性相关的各种性能影响和考量。
与单处理器系统相比，缓存一致性引入了额外的开销。一致性协议需要缓存到缓存的通信、无效化和更新，这会产生延迟并占用总线带宽。这些操作会增加缓存未命中率，导致更长的内存访问时间。缓存未命中，尤其是一致性相关的未命中，可能导致性能下降，因为处理器通常需要从主内存或其他缓存中获取数据。
可扩展性是多处理器系统中的一个重要考量。随着处理器数量的增加，维护缓存一致性变得更具挑战性。缓存数量越多，与一致性相关的流量和总线争用就越高，可能导致性能瓶颈。可扩展性挑战需要仔细的设计决策，例如选择合适的一致性协议、缓存层次结构、互连设计和分区策略，以减轻一致性开销的影响。
缓存一致性会影响整体系统性能和延迟。与一致性相关的操作，如无效化和更新，会引入访问共享数据的延迟。缓存无效化或缓存之间的消息传递等同步机制会产生额外的延迟，影响程序执行时间。此外，在高度依赖共享数据的高度并行应用程序中，由一致性引起的延迟可能会被放大，从而阻碍系统性能。
缓存一致性协议涉及性能、复杂性和可扩展性之间的权衡。强制执行严格一致性保证的一致性协议可能会引入更高的开销并影响性能。另一方面，提供弱一致性模型的协议可能提供改进的性能，但需要额外的编程考虑来维护数据完整性。
设计考量涵盖多个方面，包括缓存层次结构、互连拓扑、缓存一致性优化和内存一致性模型。设计人员需要平衡一致性要求、延迟、可扩展性和系统效率。缓存大小、关联度、一致性消息格式和协议优化等因素都会影响性能，应根据应用程序和系统体系结构的具体要求仔细评估。
有效的缓存一致性管理对于减轻性能影响和确保多处理器系统中的最佳系统行为至关重要。它涉及在一致性开销、可扩展性挑战、系统性能以及设计中固有的权衡之间找到适当的平衡。通过周密的分析、优化和选择合适的一致性策略，设计人员可以创建高效处理数据共享并维护缓存一致性的高性能多处理器系统。
