1.3 万亿条数据查询，如何做到毫秒级响应？

• 需要高可用性数据：Post Feed 是第一个出现的屏幕，它在推动用户流量到知乎方面发挥着重要作用。
  
• 处理巨大的写入数据：例如，在高峰时间每秒写入超过 4 万条记录，记录数量每天增加近 30 亿条记录。
  
• 长期存储历史数据：目前，系统中存储了大约 1.3 万亿条记录。随着每月累积约 1000 亿条记录并且不断增长，历史数据将在大约两年内达到 3 万亿条记录。
  
• 处理高吞吐量查询：在高峰时间，系统处理平均每秒在 1200 万个帖子上执行的查询。
  
• 将查询的响应时间限制为 90 毫秒或更短：即使对于执行时间最长的长尾查询，也会发生这种情况。
  
• 容忍误报：这意味着系统可以为用户调出许多有趣的帖子，即使有些帖子被错误地过滤掉了。
  

• 高可用性：当用户打开知乎的推荐页面时，找到大量已经阅读过的帖子是一种糟糕的用户体验。
  
• 出色的系统性能：我们的应用具有高吞吐量和严格的响应时间要求。
  
• 易于扩展：随着业务的发展和应用程序的发展，我们希望我们的系统可以轻松扩展。
  

• 代理：
  这会将用户的请求转发给可用节点，并确保系统的高可用性。
  
• 缓存：
  这暂时处理内存中的请求，因此我们并不总是需要处理数据库中的请求。这可以提高系统性能。
  
• 存储：
  在使用 TiDB 之前，我们在独立的 MySQL 上管理我们的业务数据。随着数据量的激增，独立的 MySQL 系统还不够。
  
  然后我们采用了 MySQL 分片和 Master High Availability Manager（ MHA）的解决方案，但是当每月有 1000 亿条新记录涌入我们的数据库时，这个解决方案是不可取的。
  

MySQL 分片的缺点：

• 应用程序代码变得复杂且难以维护。
  
• 更改现有的分片键很麻烦。
  
• 升级应用程序逻辑会影响应用程序的可用性。
  

MHA 的缺点：

• 我们需要通过编写脚本或使用第三方工具来实现虚拟 IP（VIP）配置。
  
• MHA 仅监视主数据库。
  
• 要配置 MHA，我们需要配置无密码安全 Shell（ SSH）。这可能会导致潜在的安全风险。
  
• MHA 不为从属服务器提供读取负载平衡功能。
  
• MHA 只能监视主服务器（而不是从主服务器）是否可用。
  

• TiDB 服务器是一个无状态的 SQL 层，它处理用户的 SQL 查询，访问存储层中的数据，并将相应的结果返回给应用程序。它与 MySQL 兼容并且位于 TiKV 之上。
  
• TiKV 服务器是数据持久存在的分布式事务键值存储层。它使用 Raft 共识协议进行复制，以确保强大的数据一致性和高可用性。
  
• TiSpark 集群也位于 TiKV 之上。它是一个 Apache Spark 插件，可与 TiDB 平台配合使用，支持商业智能（BI）分析师和数据科学家的复杂在线分析处理（OLAP）查询。
  
• 放置驱动程序（PD）服务器是由 etcd 支持的元数据集群，用于管理和调度 TiKV。
  

• 水平可扩展性。
  
• MySQL 兼容的语法。
  
• 具有强一致性的分布式事务。
  
• 云原生架构。
  
• 使用 HTAP 进行最小提取，转换，加载（ ETL）。
  
• 容错和 Raft 恢复。
  
• 在线架构更改。
  

• 顶层：无状态和可伸缩的客户端 API 和代理。这些组件易于扩展。
  
• 中间层：
  软状态组件和分层 Redis 缓存作为主要部分。当服务中断时，这些组件可以通过恢复保存在 TiDB 群集中的数据来自我恢复服务。
  
• 底层：
  TiDB 集群存储所有有状态数据。它的组件高度可用，如果节点崩溃，它可以自我恢复其服务。
  

• 有些查询对查询延迟很敏感，有些则不然。我们部署了一个单独的 TiDB 数据库来处理对延迟敏感的查询。（其他非延迟敏感的查询在不同的 TiDB 数据库中处理。）
  
  这样，大型查询和对延迟敏感的查询在不同的数据库中处理，前者的执行不会影响后者。
  
• 对于没有理想执行计划的查询，我们编写了 SQL 提示来帮助执行引擎选择最佳执行计划。
  
• 我们使用低精度时间戳 Oracle（ TSO）和预处理语句来减少网络往返。
  

④gRPC 和多线程 Raftstore 中的批处理消息

⑤SQL 计划管理

⑥TiFlash

⑦反垃圾邮件应用程序中的 TiDB 3.0

   
   
   

 
    
    
    

  
     
     
     

   
      
      
      Java后端交流群已成立
  
     
     
     
 
    
    
    

   
   
   

   
   
   

 
    
    
    

  
     
     
     

   
      
      
      公众号运营至今，离不开小伙伴们的支持。为了给小伙伴们提供一个互相交流的平台，特地开通了官方交流群。扫描下方二维码备注 进群 或者关注公众号 Java后端 后获取进群通道。
  
     
     
     
  
     
     
     

 
    
    
    

   
   
   

    
    
    

 
     
     
     

  
      
      
      

   
       
       
       

    
        
        
        
     
         
         
         

      
          
          
          推
      
          
          
          荐
      
          
          
          阅
      
          
          
          读 
     
         
         
         
     
         
         
         

      
          
          
          1. 抓包神器：Charles
     
         
         
         
     
         
         
         

      
          
          
          2. Spring Boot 打包上传至 Docker 仓库？
     
         
         
         
     
         
         
         

      
          
          
          3. 2W 字详解设计模式
     
         
         
         
     
         
         
         

      
          
          
          4. 连夜撸了一个简易聊天室
     
         
         
         
     
         
         
         

      
          
          
          5. 推荐一款 Java 对象映射神器