Ehcache是現(xiàn)在最流行的純Java開源緩存框架，配置簡單、結(jié)構(gòu)清晰、功能強(qiáng)大，最初知道它，是從Hibernate的緩存開始的。網(wǎng)上中文的EhCache材料以簡單介紹和配置方法居多，如果你有這方面的問題，請(qǐng)自行g(shù)oogle；對(duì)于API，官網(wǎng)上介紹已經(jīng)非常清楚，請(qǐng)參見官網(wǎng)；但是很少見到特性說明和對(duì)實(shí)現(xiàn)原理的分析，因此在這篇文章里面，我會(huì)詳細(xì)介紹和分析EhCache的特性，加上一些自己的理解和思考，希望對(duì)緩存感興趣的朋友有所收獲。

 一、特性一覽，來自官網(wǎng)，簡單翻譯一下：

 1、快速輕量

過去幾年，諸多測(cè)試表明Ehcache是最快的Java緩存之一。
Ehcache的線程機(jī)制是為大型高并發(fā)系統(tǒng)設(shè)計(jì)的。
大量性能測(cè)試用例保證Ehcache在不同版本間性能表現(xiàn)得一致性。
很多用戶都不知道他們正在用Ehcache，因?yàn)椴恍枰裁刺貏e的配置。
API易于使用，這就很容易部署上線和運(yùn)行。
很小的jar包，Ehcache 2.2.3才668kb。
最小的依賴：唯一的依賴就是SLF4J了。

2、伸縮性

緩存在內(nèi)存和磁盤存儲(chǔ)可以伸縮到數(shù)G，Ehcache為大數(shù)據(jù)存儲(chǔ)做過優(yōu)化。
大內(nèi)存的情況下，所有進(jìn)程可以支持?jǐn)?shù)百G的吞吐。
為高并發(fā)和大型多CPU服務(wù)器做優(yōu)化。
線程安全和性能總是一對(duì)矛盾，Ehcache的線程機(jī)制設(shè)計(jì)采用了Doug Lea的想法來獲得較高的性能。
單臺(tái)虛擬機(jī)上支持多緩存管理器。
通過Terracotta服務(wù)器矩陣，可以伸縮到數(shù)百個(gè)節(jié)點(diǎn)。

3、靈活性

Ehcache 1.2具備對(duì)象API接口和可序列化API接口。
不能序列化的對(duì)象可以使用除磁盤存儲(chǔ)外Ehcache的所有功能。
除了元素的返回方法以外，API都是統(tǒng)一的。只有這兩個(gè)方法不一致：getObjectValue和getKeyValue。這就使得緩存對(duì)象、序列化對(duì)象來獲取新的特性這個(gè)過程很簡單。
支持基于Cache和基于Element的過期策略，每個(gè)Cache的存活時(shí)間都是可以設(shè)置和控制的。
提供了LRU、LFU和FIFO緩存淘汰算法，Ehcache 1.2引入了最少使用和先進(jìn)先出緩存淘汰算法，構(gòu)成了完整的緩存淘汰算法。
提供內(nèi)存和磁盤存儲(chǔ)，Ehcache和大多數(shù)緩存解決方案一樣，提供高性能的內(nèi)存和磁盤存儲(chǔ)。
動(dòng)態(tài)、運(yùn)行時(shí)緩存配置，存活時(shí)間、空閑時(shí)間、內(nèi)存和磁盤存放緩存的最大數(shù)目都是可以在運(yùn)行時(shí)修改的。

4、標(biāo)準(zhǔn)支持

Ehcache提供了對(duì)JSR107 JCACHE API最完整的實(shí)現(xiàn)。因?yàn)镴CACHE在發(fā)布以前，Ehcache的實(shí)現(xiàn)（如net.sf.jsr107cache）已經(jīng)發(fā)布了。
實(shí)現(xiàn)JCACHE API有利于到未來其他緩存解決方案的可移植性。
Ehcache的維護(hù)者Greg Luck，正是JSR107的專家委員會(huì)委員。

5、可擴(kuò)展性

監(jiān)聽器可以插件化。Ehcache 1.2提供了CacheManagerEventListener和CacheEventListener接口，實(shí)現(xiàn)可以插件化，并且可以在ehcache.xml里配置。
節(jié)點(diǎn)發(fā)現(xiàn)，冗余器和監(jiān)聽器都可以插件化。
分布式緩存，從Ehcache 1.2開始引入，包含了一些權(quán)衡的選項(xiàng)。Ehcache的團(tuán)隊(duì)相信沒有什么是萬能的配置。
實(shí)現(xiàn)者可以使用內(nèi)建的機(jī)制或者完全自己實(shí)現(xiàn)，因?yàn)橛型暾牟寮_發(fā)指南。
緩存的可擴(kuò)展性可以插件化。創(chuàng)建你自己的緩存擴(kuò)展，它可以持有一個(gè)緩存的引用，并且綁定在緩存的生命周期內(nèi)。
緩存加載器可以插件化。創(chuàng)建你自己的緩存加載器，可以使用一些異步方法來加載數(shù)據(jù)到緩存里面。
緩存異常處理器可以插件化。創(chuàng)建一個(gè)異常處理器，在異常發(fā)生的時(shí)候，可以執(zhí)行某些特定操作。

6、應(yīng)用持久化

在VM重啟后，持久化到磁盤的存儲(chǔ)可以復(fù)原數(shù)據(jù)。
Ehcache是第一個(gè)引入緩存數(shù)據(jù)持久化存儲(chǔ)的開源Java緩存框架。緩存的數(shù)據(jù)可以在機(jī)器重啟后從磁盤上重新獲得。
根據(jù)需要將緩存刷到磁盤。將緩存條目刷到磁盤的操作可以通過cache.flush()方法來執(zhí)行，這大大方便了Ehcache的使用。

7、監(jiān)聽器

緩存管理器監(jiān)聽器。允許注冊(cè)實(shí)現(xiàn)了CacheManagerEventListener接口的監(jiān)聽器：
notifyCacheAdded()
notifyCacheRemoved()
緩存事件監(jiān)聽器。允許注冊(cè)實(shí)現(xiàn)了CacheEventListener接口的監(jiān)聽器，它提供了許多對(duì)緩存事件發(fā)生后的處理機(jī)制：
notifyElementRemoved/Put/Updated/Expired

8、開啟JMX

Ehcache的JMX功能是默認(rèn)開啟的，你可以監(jiān)控和管理如下的MBean：
CacheManager、Cache、CacheConfiguration、CacheStatistics

9、分布式緩存

從Ehcache 1.2開始，支持高性能的分布式緩存，兼具靈活性和擴(kuò)展性。
分布式緩存的選項(xiàng)包括：
通過Terracotta的緩存集群：設(shè)定和使用Terracotta模式的Ehcache緩存。緩存發(fā)現(xiàn)是自動(dòng)完成的，并且有很多選項(xiàng)可以用來調(diào)試緩存行為和性能。
使用RMI、JGroups或者JMS來冗余緩存數(shù)據(jù)：節(jié)點(diǎn)可以通過多播或發(fā)現(xiàn)者手動(dòng)配置。狀態(tài)更新可以通過RMI連接來異步或者同步完成。
Custom：一個(gè)綜合的插件機(jī)制，支持發(fā)現(xiàn)和復(fù)制的能力。
可用的緩存復(fù)制選項(xiàng)。支持的通過RMI、JGroups或JMS進(jìn)行的異步或同步的緩存復(fù)制。
可靠的分發(fā)：使用TCP的內(nèi)建分發(fā)機(jī)制。
節(jié)點(diǎn)發(fā)現(xiàn)：節(jié)點(diǎn)可以手動(dòng)配置或者使用多播自動(dòng)發(fā)現(xiàn)，并且可以自動(dòng)添加和移除節(jié)點(diǎn)。對(duì)于多播阻塞的情況下，手動(dòng)配置可以很好地控制。
分布式緩存可以任意時(shí)間加入或者離開集群。緩存可以配置在初始化的時(shí)候執(zhí)行引導(dǎo)程序員。
BootstrapCacheLoaderFactory抽象工廠，實(shí)現(xiàn)了BootstrapCacheLoader接口（RMI實(shí)現(xiàn)）。
緩存服務(wù)端。Ehcache提供了一個(gè)Cache Server，一個(gè)war包，為絕大多數(shù)web容器或者是獨(dú)立的服務(wù)器提供支持。
緩存服務(wù)端有兩組API：面向資源的RESTful，還有就是SOAP?？蛻舳藳]有實(shí)現(xiàn)語言的限制。
RESTful緩存服務(wù)器：Ehcached的實(shí)現(xiàn)嚴(yán)格遵循RESTful面向資源的架構(gòu)風(fēng)格。
SOAP緩存服務(wù)端：Ehcache RESTFul Web Services API暴露了單例的CacheManager，他能在ehcache.xml或者IoC容器里面配置。
標(biāo)準(zhǔn)服務(wù)端包含了內(nèi)嵌的Glassfish web容器。它被打成了war包，可以任意部署到支持Servlet 2.5的web容器內(nèi)。Glassfish V2/3、Tomcat 6和Jetty 6都已經(jīng)經(jīng)過了測(cè)試。

10、搜索

標(biāo)準(zhǔn)分布式搜索使用了流式查詢接口的方式，請(qǐng)參閱文檔。

11、Java EE和應(yīng)用緩存

為普通緩存場景和模式提供高質(zhì)量的實(shí)現(xiàn)。
阻塞緩存：它的機(jī)制避免了復(fù)制進(jìn)程并發(fā)操作的問題。
SelfPopulatingCache在緩存一些開銷昂貴操作時(shí)顯得特別有用，它是一種針對(duì)讀優(yōu)化的緩存。它不需要調(diào)用者知道緩存元素怎樣被返回，也支持在不阻塞讀的情況下刷新緩存條目。
CachingFilter：一個(gè)抽象、可擴(kuò)展的cache filter。
SimplePageCachingFilter：用于緩存基于request URI和Query String的頁面。它可以根據(jù)HTTP request header的值來選擇采用或者不采用gzip壓縮方式將頁面發(fā)到瀏覽器端。你可以用它來緩存整個(gè)Servlet頁面，無論你采用的是JSP、velocity，或者其他的頁面渲染技術(shù)。
SimplePageFragmentCachingFilter：緩存頁面片段，基于request URI和Query String。在JSP中使用jsp:include標(biāo)簽包含。
已經(jīng)使用Orion和Tomcat測(cè)試過，兼容Servlet 2.3、Servlet 2.4規(guī)范。
Cacheable命令：這是一種老的命令行模式，支持異步行為、容錯(cuò)。
兼容Hibernate，兼容Google App Engine。
基于JTA的事務(wù)支持，支持事務(wù)資源管理，二階段提交和回滾，以及本地事務(wù)。

12、開源協(xié)議

Apache 2.0 license 

二、Ehcache的加載模塊列表，他們都是獨(dú)立的庫，每個(gè)都為Ehcache添加新的功能，可以在此下載： 

ehcache-core：API，標(biāo)準(zhǔn)緩存引擎，RMI復(fù)制和Hibernate支持

ehcache：分布式Ehcache，包括Ehcache的核心和Terracotta的庫

ehcache-monitor：企業(yè)級(jí)監(jiān)控和管理

ehcache-web：為Java Servlet Container提供緩存、gzip壓縮支持的filters

ehcache-jcache：JSR107 JCACHE的實(shí)現(xiàn)

ehcache-jgroupsreplication：使用JGroup的復(fù)制

ehcache-jmsreplication：使用JMS的復(fù)制

ehcache-openjpa：OpenJPA插件

ehcache-server：war內(nèi)部署或者單獨(dú)部署的RESTful cache server

ehcache-unlockedreadsview：允許Terracotta cache的無鎖讀

ehcache-debugger：記錄RMI分布式調(diào)用事件

Ehcache for Ruby：Jruby and Rails支持

Ehcache的結(jié)構(gòu)設(shè)計(jì)概覽：

三、核心定義：

cache manager：緩存管理器，以前是只允許單例的，不過現(xiàn)在也可以多實(shí)例了

cache：緩存管理器內(nèi)可以放置若干cache，存放數(shù)據(jù)的實(shí)質(zhì)，所有cache都實(shí)現(xiàn)了Ehcache接口

element：單條緩存數(shù)據(jù)的組成單位

system of record（SOR）：可以取到真實(shí)數(shù)據(jù)的組件，可以是真正的業(yè)務(wù)邏輯、外部接口調(diào)用、存放真實(shí)數(shù)據(jù)的數(shù)據(jù)庫等等，緩存就是從SOR中讀取或者寫入到SOR中去的。 

代碼示例：

CacheManager manager = CacheManager.newInstance("src/config/ehcache.xml"); 
manager.addCache("testCache"); 
Cache test = singletonManager.getCache("testCache"); 
test.put(new Element("key1", "value1")); 
manager.shutdown(); 

當(dāng)然，也支持這種類似DSL的配置方式，配置都是可以在運(yùn)行時(shí)動(dòng)態(tài)修改的：

Cache testCache = new Cache( 
 new CacheConfiguration("testCache", maxElements) 
 .memoryStoreEvictionPolicy(MemoryStoreEvictionPolicy.LFU) 
 .overflowToDisk(true) 
 .eternal(false) 
 .timeToLiveSeconds(60) 
 .timeToIdleSeconds(30) 
 .diskPersistent(false) 
 .diskExpiryThreadIntervalSeconds(0)); 

事務(wù)的例子：

Ehcache cache = cacheManager.getEhcache("xaCache"); 
transactionManager.begin(); 
try { 
 Element e = cache.get(key); 
 Object result = complexService.doStuff(element.getValue()); 
 cache.put(new Element(key, result)); 
 complexService.doMoreStuff(result); 
 transactionManager.commit(); 
} catch (Exception e) { 
 transactionManager.rollback(); 
} 

 四、一致性模型：

說到一致性，數(shù)據(jù)庫的一致性是怎樣的？不妨先來回顧一下數(shù)據(jù)庫的幾個(gè)隔離級(jí)別：

未提交讀（Read Uncommitted）：在讀數(shù)據(jù)時(shí)不會(huì)檢查或使用任何鎖。因此，在這種隔離級(jí)別中可能讀取到?jīng)]有提交的數(shù)據(jù)。會(huì)出現(xiàn)臟讀、不可重復(fù)讀、幻象讀。
已提交讀（Read Committed）：只讀取提交的數(shù)據(jù)并等待其他事務(wù)釋放排他鎖。讀數(shù)據(jù)的共享鎖在讀操作完成后立即釋放。已提交讀是數(shù)據(jù)庫的默認(rèn)隔離級(jí)別。會(huì)出現(xiàn)不可重復(fù)讀、幻象讀。
可重復(fù)讀（Repeatable Read）：像已提交讀級(jí)別那樣讀數(shù)據(jù)，但會(huì)保持共享鎖直到事務(wù)結(jié)束。會(huì)出現(xiàn)幻象讀。
可序列化（Serializable）：工作方式類似于可重復(fù)讀。但它不僅會(huì)鎖定受影響的數(shù)據(jù)，還會(huì)鎖定這個(gè)范圍，這就阻止了新數(shù)據(jù)插入查詢所涉及的范圍。

基于以上，再來對(duì)比思考下面的一致性模型：

 1、強(qiáng)一致性模型：系統(tǒng)中的某個(gè)數(shù)據(jù)被成功更新(事務(wù)成功返回)后，后續(xù)任何對(duì)該數(shù)據(jù)的讀取操作都得到更新后的值。這是傳統(tǒng)關(guān)系數(shù)據(jù)庫提供的一致性模型，也是關(guān)系數(shù)據(jù)庫深受人們喜愛的原因之一。強(qiáng)一致性模型下的性能消耗通常是最大的。

2、弱一致性模型：系統(tǒng)中的某個(gè)數(shù)據(jù)被更新后，后續(xù)對(duì)該數(shù)據(jù)的讀取操作得到的不一定是更新后的值，這種情況下通常有個(gè)“不一致性時(shí)間窗口”存在：即數(shù)據(jù)更新完成后在經(jīng)過這個(gè)時(shí)間窗口，后續(xù)讀取操作就能夠得到更新后的值。

3、最終一致性模型：屬于弱一致性的一種，即某個(gè)數(shù)據(jù)被更新后，如果該數(shù)據(jù)后續(xù)沒有被再次更新，那么最終所有的讀取操作都會(huì)返回更新后的值。

最終一致性模型包含如下幾個(gè)必要屬性，都比較好理解：

讀寫一致：某線程A，更新某條數(shù)據(jù)以后，后續(xù)的訪問全部都能取得更新后的數(shù)據(jù)。

會(huì)話內(nèi)一致：它本質(zhì)上和上面那一條是一致的，某用戶更改了數(shù)據(jù)，只要會(huì)話還存在，后續(xù)他取得的所有數(shù)據(jù)都必須是更改后的數(shù)據(jù)。

單調(diào)讀一致：如果一個(gè)進(jìn)程可以看到當(dāng)前的值，那么后續(xù)的訪問不能返回之前的值。

單調(diào)寫一致：對(duì)同一進(jìn)程內(nèi)的寫行為必須是保序的，否則，寫完畢的結(jié)果就是不可預(yù)期的了。

4、Bulk Load：這種模型是基于批量加載數(shù)據(jù)到緩存里面的場景而優(yōu)化的，沒有引入鎖和常規(guī)的淘汰算法這些降低性能的東西，它和最終一致性模型很像，但是有批量、高速寫和弱一致性保證的機(jī)制。

這樣幾個(gè)API也會(huì)影響到一致性的結(jié)果：

 1、顯式鎖（Explicit Locking）：如果我們本身就配置為強(qiáng)一致性，那么自然所有的緩存操作都具備事務(wù)性質(zhì)。而如果我們配置成最終一致性時(shí)，再在外部使用顯式鎖API，也可以達(dá)到事務(wù)的效果。當(dāng)然這樣的鎖可以控制得更細(xì)粒度，但是依然可能存在競爭和線程阻塞。

2、無鎖可讀取視圖（UnlockedReadsView）：一個(gè)允許臟讀的decorator，它只能用在強(qiáng)一致性的配置下，它通過申請(qǐng)一個(gè)特殊的寫鎖來比完全的強(qiáng)一致性配置提升性能。

舉例如下，xml配置為強(qiáng)一致性模型：

<cache name="myCache" 
 maxElementsInMemory="500" 
 eternal="false" 
 overflowToDisk="false" 
 <terracotta clustered="true" consistency="strong" /> 
</cache> 

但是使用UnlockedReadsView：

Cache cache = cacheManager.getEhcache("myCache"); 
UnlockedReadsView unlockedReadsView = new UnlockedReadsView(cache, "myUnlockedCache"); 

3、原子方法（Atomic methods）：方法執(zhí)行是原子化的，即CAS操作（Compare and Swap）。CAS最終也實(shí)現(xiàn)了強(qiáng)一致性的效果，但不同的是，它是采用樂觀鎖而不是悲觀鎖來實(shí)現(xiàn)的。在樂觀鎖機(jī)制下，更新的操作可能不成功，因?yàn)樵谶@過程中可能會(huì)有其他線程對(duì)同一條數(shù)據(jù)進(jìn)行變更，那么在失敗后需要重新執(zhí)行更新操作?，F(xiàn)代的CPU都支持CAS原語了。

cache.putIfAbsent(Element element); 
cache.replace(Element oldOne, Element newOne); 
cache.remove(Element); 

五、緩存拓?fù)漕愋停?/strong>

<cacheManagerPeerProviderFactory 
class="net.sf.ehcache.distribution.jgroups.JGroupsCacheManagerPeerProviderFactory" 
properties="connect=UDP(mcast_addr=231.12.21.132;mcast_port=45566;):PING: 
MERGE2:FD_SOCK:VERIFY_SUSPECT:pbcast.NAKACK:UNICAST:pbcast.STABLE:FRAG:pbcast.GMS" 
propertySeparator="::" 
/> 

public V readSomeData(K key) 
{ 
 Element element; 
 if ((element = cache.get(key)) != null) { 
 return element.getValue(); 
 } 
 if (value = readDataFromDataStore(key)) != null) { 
 cache.put(new Element(key, value)); 
 } 
 return value; 
}