分布式缓存集群下数据分配策略

分布式缓存集群下数据分配策略

Data Location Awareness: Optimize Performance and Lower Cost with Tiered Locality


Ref


Alluxio 可以将位于不同存储介质的数据汇总到统一的存储池。 具体地说,Alluxio 使用了一种称为 Tiered Locality 的技术,该技术可以感知到数据的存储位置,从而优化数据访问性能和降低成本。 本文将介绍 Alluxio 的 Tiered Locality 技术,以及如何使用它来优化数据访问性能和降低成本。

1. Alluxio Tiered Locality

Alluxio 作为分布式缓存可以被搭建在不同的数据中心,不同的机架,不同的节点上。而单一存储节点因为容量以及IO性能的限制,往往无法满足大数据处理的需求。因此,Alluxio 作为分布式缓存,可以将位于不同存储介质的数据汇总到统一的存储池。而使用统一的存储池可能会造成数据访问性能的下降,因为数据的访问性能取决于数据的存储位置。数据越接近或越本地化,应用程序访问数据的速度就越快。Tiered locality 允许用户配置数据放置位置策略考虑集群网络拓扑结构实现访问性能。

Related posts

Related Posts

最优化算法

最优化算法

之前做的2篇文章都把问题抽象为一个优化问题,发现自己缺乏对解决优化问题方法(优化算法)进行系统性的学习,这导致每次解决问题时总是用模拟退火或者更简单的启发式方法改改就用。说好听点是发现问题比解决问题更为重要,但其实有种水文章的感觉。虽然这些启发式大多数情况算法也能make sense,但是继续深入学习还是有必要的。 在此记录学习过程,希望大家指正,但是还没找到给主页添加评论的方法。 最优化问题范指定量决策问题, 也就是如何对有限的资源进行合理的分配以达到最优目标。 数学抽象: $$ min\ f(x), \\ s.

Read More
编译Alluxio源代码

编译Alluxio源代码

0. 编译环境构建 (ssh dcache@xxxxxx)这个服务器已经构建了编译环境,如果如果只需要重编译alluxio直接从1小节开始。 编译Alluxio源代码 - Alluxio v2.9.3 (stable) 安装alluxio build https://hub.

Read More
冠词

冠词

冠词的基本含义 冠词是用来修饰名词的一类词,主要用于指出名词的泛指或特指状态。在中文中没有冠词,但在英文等许多其他语言中,冠词是非常重要的语法成分。英文中的冠词主要有两种类型:定冠词和不定冠词。 不定冠词(an, a):用于泛指某一类人或事物。表示“一个(任意一个)”,常用语系列词后的单数名词(可数名词作表语)前,表示某人、某物属于哪个类别,用于泛指某人、某物或指某一类人或某一类物中的任何一个。例如,“a book” 表示“一本书”,泛指任何一本书。“an” 用于元音音开头的单词前,如 “an apple”。 定冠词(the):用于特指某个已知的人或事物。表示特指某一个或者某一些,而不是任何一个或者任何一些。例如,“the book” 表示“那本书”,指特定的一本书。 冠词的使用注意 某可数名词单数首次出现时,通常先用不定冠词。第二次在提到时就改用定冠词。 Boys often like dogs very much.

Read More