缓存

2020-04-06  本文已影响0人  CoderZzbJohn

缓存类别

1.线程级缓存:ThreadLocal
适用场景:同个线程内需要多次请求耗时接口,例如需要根据权限范围查询具体数据,多次查权限。
2.单机缓存:GuavaCache
适用场景:数据量较少,请求频率高。
3.分布式缓存:Redis
适用场景:

缓存遇到的问题

缓存并发

现象:热点key并发量高。当key过期时,同一时刻会有多个请求打到db,影响db性能。
解决方案:
1.当key不存在需要查询db时加锁,获取到锁的线程才能查db。其余线程自旋等待。
2.GuavaCache中expireAfterWrite当某个key失效时,第一个线程会锁住当前key所在的segment,其余线程等待,容易造成多线程阻塞。可以通过refreshAfterWrite解决,定时更新缓存。当缓存失效时,只有第一个线程从db捞数据,其余线程直接返回旧数据。

缓存雪崩

现象:在同一时刻缓存中有多个key失效时,多个请求直接打到db,导致db负载过高。
解决方案:初始化缓存时,过期时间设置成定时+随机时间,避免大量key同一时刻失效。

缓存穿透

现象:当请求缓存中不存在的key值,请求直接打到了db。
解决方案:初始化缓存或者查询缓存时,如果数据不存在,则缓存中设置空值。(疑问:初始化时,如何给不存在的key设置空值)

缓存更新策略(一致性)

1.Cache-Aside

1.先更新缓存在更新数据库。
存在问题:
-缓存更新成功,数据库更新失败,缓存中的值为旧值。
2.先更新数据库在更新缓存。
存在问题:
-key不存在时。线程1读取数据库旧值,线程2更新db,线程2将值放入缓存,线程1将值再次放入缓存,缓存中为旧值
-key不存在时。线程1更新db,线程2更新db,线程2将值放入缓存,线程1将值再次放入缓存,缓存中为旧值


image.png

3.先更新数据库,再失效缓存
存在问题:
-key失效,线程1读取db旧值,线程2更新db,线程2失效缓存,线程1将db旧值放入缓存。


image.png

产生条件
1.读操作读缓存失效
2.有个并发的写操作
3.读操作早于写操作进入数据库,晚于写操作更新缓存

2.Cache-As-SoR systemOfRecord 有cache组件统一更新缓存与db,客户端无感知。

1.Read-through
2.Write-through
3.Wtire-behind

缓存淘汰策略

1.LRU最近最少使用:map中记录访问次数
2.FIFO先进先出。

缓存过期策略

1.定期清理
2.查询时判断key是否过期
3.结合1+2

上一篇下一篇

猜你喜欢

热点阅读