Caffeine是一個高效能的Java本地快取框架，它採用了W-TinyLFU演算法，結合了LRU和LFU演算法的優點，實現了快取高命中率和記憶體低消耗。Caffeine的設計理念是儘可能地高效，它透過一些巧妙的演算法，確保最常訪問的資料始終可用，咱們先來看一下Caffeine的特點。
Caffeine的主要特點包括：
高效能讀寫：Caffeine在讀寫操作上進行了最佳化，提供了快速的讀寫效能，特別是在高併發場景下表現出色。
智慧快取策略：Caffeine採用自適應的快取驅逐策略，根據實際訪問模式動態調整快取行為，優先保留“熱門”資料。
靈活的配置選項：Caffeine提供了豐富的配置選項，如設定快取大小、過期時間、引用型別等，以適應不同場景的需求。
非同步處理：Caffeine利用非同步操作處理快取事件，透過RingBuffer佇列提高效能。
資料淘汰策略：Caffeine內部使用Eden、Probation和Protected三個佇列來管理快取資料的生命週期，透過Count-Min Sketch演算法記錄訪問頻率，實現資料淘汰。
Caffeine的使用相對簡單，API與Guava Cache一致，可以快速整合到專案中。例如，建立一個簡單的Caffeine快取例項，可以按照以下方式進行配置和使用：
Cache<String, String> cache = Caffeine.newBuilder()
.maximumSize(10000) // 設定最大快取大小
.expireAfterWrite(5, TimeUnit.MINUTES) // 設定寫入後5分鐘過期
.build();
cache.put("key", "value"); // 存入快取
String value = cache.getIfPresent("key"); // 從快取中獲取資料
在實際應用中，Caffeine可以幫助提升應用程式的效能和響應速度，降低系統的負載和延遲。透過合理配置和使用Caffeine，可以充分發揮其高效能特性。
關於Caffeine的W-TinyLFU演算法
在進行快取逐出策略選擇時，Caffeine的W-TinyLFU演算法相比其他演算法有哪些優勢和劣勢？
總結一下W-TinyLFU演算法的優勢如下：
優勢：
高命中率：W-TinyLFU演算法結合了LRU和LFU演算法的優點，透過將快取分為Window Cache、Probation Cache和Protected Cache三個區域，實現了對快取項基於時間和頻率的最佳化管理，從而提供了近乎最佳的命中率 。
動態調整：Caffeine能夠根據訪問順序和頻率動態調整快取容量和淘汰策略，適應不同的訪問模式，提高快取的命中率，減少不必要的記憶體消耗 。
處理稀疏流量和短時超熱點流量：引入計數器飽和和衰減機制，節省儲存資源，同時處理傳統LRU和LFU難以處理的稀疏流量和短時超熱點流量場景 。
靈活的快取區域劃分：演算法中不同區域的預設比例可以動態調整，以適應不同的使用場景和資料訪問模式 。
有優就有劣，需要注意以下幾點：
劣勢：
演算法複雜性：W-TinyLFU演算法相比簡單的LRU演算法更為複雜，涉及到多個快取區域和計數器的維護，這可能導致實現和理解上的困難 。
記憶體使用：雖然W-TinyLFU演算法透過Count-Min Sketch演算法節省了空間，但相比最基本的LRU演算法，它仍然需要更多的記憶體來維護訪問頻率資訊 。
效能開銷：由於涉及到頻率計數和多個區域之間的資料遷移，W-TinyLFU可能會引入額外的效能開銷，尤其是在高併發場景下 。
引數調整：演算法的有效性可能依賴於正確的引數調整，如快取區域大小和閾值等，不當的引數設定可能會影響快取效能 。
總而言之，言而總之，W-TinyLFU演算法在提高快取命中率和適應不同訪問模式方面表現出色，但同時也帶來了演算法複雜性、記憶體使用和可能的效能開銷等劣勢。開發者在選擇快取逐出策略時需要根據具體的應用場景和效能要求來權衡這些優勢和劣勢。
W-TinyLFU演算法引數調整以達到最佳效能
在實際應用中，對Caffeine的W-TinyLFU演算法進行引數調整以達到最佳效能，通常需要根據具體的業務場景和需求來進行。以下是一個簡單的業務場景案例，以及如何使用Caffeine構建快取並進行引數調整的示例程式碼。
來看一個業務場景
假設我們正在開發一個新聞推薦系統，需要快取使用者的新聞瀏覽記錄。這個系統有以下特點：
使用者數量龐大，每個使用者可能瀏覽多條新聞。
新聞記錄需要快速讀取，以便實時向用戶推薦相關內容。
系統需要定期清理舊的瀏覽記錄以節省記憶體。
要如何調整程式碼與引數調整呢
設定最大快取大小：根據系統記憶體和預期的使用者數量，設定合理的快取大小。
設定寫入後過期時間：由於新聞記錄有時效性，我們可以設定一個合理的過期時間，比如10分鐘。
使用弱引用：由於Java的垃圾回收機制，使用弱引用可以自動回收長時間未訪問的快取項。
註冊快取項移除監聽器：當快取項被移除時，執行一些清理操作，比如記錄日誌或更新資料庫。
import com.github.benmanes.caffeine.cache.Cache;
import com.github.benmanes.caffeine.cache.Caffeine;
import java.lang.ref.WeakReference;
Caffeine<Object, Object> builder = Caffeine.newBuilder();
// 設定最大快取項數量
int maxCacheSize = 10000; // 假設我們設定最大快取項為10000條記錄
builder.maximumSize(maxCacheSize);
// 設定寫入後10分鐘過期
builder.expireAfterWrite(10, TimeUnit.MINUTES);
// 使用弱引用儲存鍵和值
builder.weakKeys().weakValues();
// 快取項移除監聽器
builder.removalListener((key, value, cause) -> {
// 這裏可以執行一些清理操作，比如記錄日誌
System.out.println("Cache entry removed: " + key + ", " + value);
});
// 構建快取
Cache<Object, Object> newsRecordCache = builder.build();
// 使用快取
newsRecordCache.put(“weige123", new WeakReference<>(new NewsRecord("news456")));
NewsRecord record = ((WeakReference<NewsRecord>) newsRecordCache.getIfPresent("weige123")).get();
if (record != null) {
// 處理新聞記錄
}
解釋
maximumSize：設定快取的最大容量，超過這個容量後，將根據W-TinyLFU演算法逐出最少使用的快取項。expireAfterWrite：設定寫入後過期時間，過期的快取項將被自動逐出。weakKeys和weakValues：使用弱引用儲存鍵和值，使得長時間未訪問的快取項可以被垃圾回收器回收。removalListener：註冊一個監聽器，在快取項被逐出時執行自定義邏輯，比如記錄日誌或更新資料庫。
透過引數調整，咱們可以針對新聞推薦系統的業務需求，構建一個高效且具有自動清理機制的快取系統。當然，具體的引數值（如maxCacheSize和過期時間）應該根據實際的業務場景和效能測試結果來確定。
Caffeine監控快取的效能
如果我想監控快取的效能，Caffeine提供了哪些監控工具或方法？
Caffeine提供了一些工具和方法來幫助監控快取的效能：
統計資訊（Stats）：Caffeine允許你開啟統計資訊收集功能，透過
recordStats()方法，你可以獲取到快取的各種統計數據，如命中率、請求次數、載入成功次數等。這些資料對於瞭解快取的效能和狀態非常有用。例如：
Cache<String, String> cache = Caffeine.newBuilder() .recordStats() .build(); System.out.println(cache.stats());
監聽器（Listeners）：Caffeine支援自定義監聽器，可以用來監聽快取條目的建立、更新和刪除事件。這對於追蹤快取活動和除錯應用非常有用。例如，註冊一個移除監聽器：
RemovalListener<String, String> listener = (key, value, cause) ->
System.out.println("被移除的鍵：" + key + ", 原因：" + cause);
Cache<String, String> cache = Caffeine.newBuilder()
.removalListener(listener)
.build();
權重（Weigher）：在某些場景下，可能需要根據條目的大小而不是數量來限制快取，Caffeine的權重功能允許你根據值的大小來管理快取。例如：
Cache<String, String> cache = Caffeine.newBuilder() .maximumWeight(10000) .weigher((key, value) -> value.length()) .build();
監控控制器：在Spring Boot應用中，可以建立一個監控控制器來暴露快取的統計資訊。例如，建立一個RestController來返回所有快取名稱和特定快取的統計資訊：
@RestController
@RequestMapping("monitor/caffeine")
public class MonitorCaffeineController {
@Resource
private CacheManager caffeineCacheManager;
@GetMapping("cacheNames")
public Collection<String> cacheNames() {
return caffeineCacheManager.getCacheNames();
}
@GetMapping("stats")
public Map<String, Object> stats(@RequestParam String cacheName) {
CaffeineCache caffeineCache = (CaffeineCache) caffeineCacheManager.getCache(cacheName);
CacheStats stats = CacheStats.empty();
if (caffeineCache != null) {
stats = caffeineCache.getNativeCache().stats();
}
// ...構建返回的監控資料
}
}
Prometheus監控：Caffeine官方提供了與Prometheus整合的方案，可以透過Prometheus來監控Caffeine快取的指標，感興趣的夥伴可以嘗試，V 哥回頭單獨寫一篇針對Prometheus監控的文章。
除了以上這些，你還可以註冊一個淘汰監聽器來監聽快取項被淘汰的事件，並執行一些自定義邏輯，例如記錄日誌等等。這些工具和方法，可以讓咱們有效地監控Caffeine快取的效能，並根據收集到的資料進行適當的調優。
