DeepSeek 从入门到放弃
前言:这个世界怎么了?2025 年 1 月 20 日,DeepSeek-R1 正式发布。然后,我的朋友圈炸了。我的 Twitter 炸了。我的技术群炸了。连我妈都问我:"儿子,那个深度求索是不是很厉害?"我:???当你妈都开始关心 AI 的…
共 113 篇文章
前言:这个世界怎么了?2025 年 1 月 20 日,DeepSeek-R1 正式发布。然后,我的朋友圈炸了。我的 Twitter 炸了。我的技术群炸了。连我妈都问我:"儿子,那个深度求索是不是很厉害?"我:???当你妈都开始关心 AI 的…
从本篇开始,笔者将开始机器学习之旅,持续更新关于机器学习的入门知识,对笔者个人所学习的内容做总结梳理,同时也希望能够实现写博客的初衷帮到有需要的读者。特别说明,本人高数挂过科,数学水平非常有限,而且半路出家,本博客重实践而轻理论,若出现纰漏…
一、前言:生产环境的噩梦1.1 你可能遇到过这些问题1.2 本文内容二、资源配置调优2.1 内存模型2.2 内存配置2.3 内存配置建议2.4 并行度设置并行度配置建议:场景建议Kafka Source= Kafka 分区数普通算子= 全局…
一、前言:为什么需要 CDC?1.1 传统数据同步的痛点1.2 CDC 的价值1.3 什么是 CDC?CDC = Change Data Capture(变更数据捕获)二、CDC 技术方案对比2.1 CDC 实现方式2.2 CDC 工具对比…
一、前言:为什么用 SQL?1.1 DataStream vs SQL同样的功能对比:1.2 Flink SQL 能力二、快速上手2.1 启动 SQL Client2.2 第一个查询2.3 Table API 入门三、动态表与连续查询3.1…
一、前言:为什么需要 State?1.1 无状态 vs 有状态1.2 哪些场景需要 State?1.3 Flink State 的核心价值二、State 类型详解2.1 State 分类2.2 Keyed State 详解Keyed Sta…
一、前言:时间的困惑1.1 一个让人崩溃的问题这个问题会导致:1.2 本文要解决的问题什么是事件时间、处理时间?Watermark 到底是什么?数据迟到怎么办?各种窗口怎么选?二、三种时间语义2.1 时间语义图解2.2 三种时间详解时间类型…
一、前言:为什么是 Flink?1.1 流处理框架演进1.2 为什么选择 Flink?1.3 Flink vs Spark Streaming维度Spark StreamingFlink处理模型微批 (Micro-batch)真正流处理延迟…
一、前言:OOM 的噩梦本文将覆盖的 OOM 场景:组件常见 OOM 原因SparkShuffle、广播变量、数据倾斜Flink状态过大、背压、序列化Hive/PrestoMap/Reduce 内存、查询复杂度JVM堆内存、元空间、直接内存…
一、前言:三足鼎立的数据湖江湖选型困境:二、背景与定位2.1 发展历程2.2 背景与设计目标项目公司设计目标核心场景HudiUber解决增量更新问题CDC、实时数仓IcebergNetflix解决 PB 级表管理大规模分析Delta Lak…
一、前言:为什么需要 Iceberg?1.1 Hive 的历史包袱1.2 Netflix 的挑战1.3 Iceberg 发展历程二、Iceberg 核心设计2.1 表格式 vs 存储格式表格式的职责:职责说明元数据管理追踪哪些文件属于这张表…
一、前言:数据湖的困境1.1 传统数据湖的痛点1.2 Hudi 的诞生Hudi = Hadoop Upserts Deletes and IncrementalsUber 的工程师发现:打车订单需要频繁更新状态(下单→接单→进行中→完成),…
一、前言:数据架构的演进之路你可能遇到过这些场景:本文将回答的核心问题:如何设计一个既能支持离线分析,又能支持实时查询的数据架构?二、传统批处理架构的困境2.1 经典批处理架构2.2 批处理的痛点三、Lambda 架构:双轨并行3.1 La…
一、前言:调度器江湖本文将对比的调度器:调度器定位背景Airflow工作流编排平台Apache 顶级项目,Airbnb 开源DolphinScheduler分布式调度平台Apache 顶级项目,国产开源XXL-Job分布式任务调度国产开源,…
一、前言:为什么要了解 DolphinScheduler?DolphinScheduler 的独特定位:特点AirflowDolphinScheduler任务定义Python 代码可视化拖拽 + 代码上手难度需要 Python 基础小白友好…