2121010030-计算思维概论[14]
知识探索
知识库
对话历史
知识探索
大纲
思维导图
我的学习路径
综合掌握度 39% · 下一步：联合熵
›
信息存储和表示的基础
▼
信息
▼
信息熵
联合熵
条件熵
相对熵（KL散度）
自信息
互信息
数据
二进制
香农信息论
布尔代数
图灵机
课程知识库文档（只读预览）
P
2-3 联合熵与条件熵.pptx
第2章 · 18 页
PDF
信息论基础-熵的性质.pdf
第2章 · 6 页
信息熵族关系讲解
视频 · 12:51
DOC
条件熵练习.docx
第2章 · 练习
最近的对话
联合熵是什么？和条件熵有什么关系？
今天
互信息和联合熵的联系
昨天
香农信息论的核心思想
3 天前
对话
＋
开启新对话
进入课程
你完成了「联合熵」的测验，学习路径已更新
查看路径
本组重新测评
✕
👋 有疑问？向我提问吧~
高频问题
1
深入了解联合熵
3 次
2
深入了解:条件熵
1 次
3
深入了解:相对熵（KL散度）
1 次
我也可以帮你查询
📄
我最近的学习进度如何？
📊
我有哪些薄弱知识点？
解释内容
总结内容
解答问题
更多
›
工具
帮我查询…
›
测测我
闪卡
重新测评（自选范围）
工具
@ 知识库
可用点数：1147
ⓘ
测验
相关知识点
推荐资料
前置
本次提及
后续
自信息
联合熵
条件熵
相对熵
(KL)
箭头方向为学习顺序（前置 → 本节 → 后续）
P
2-3 联合熵与条件熵.pptx
本课程 · 第2章 · 共 18 页
含链式法则推导与图示
信息熵族关系讲解
本课程 · 视频 04:10 – 07:30
直观讲解联合熵/条件熵/互信息的关系
PDF
信息论基础-熵的性质.pdf
本课程 · 第2章 · 6 页
系统梳理各类熵的定义与不等式
测验
闪卡
返回对话
我的学习路径 · 计算思维概论
清单
图谱
综合掌握度（含自测）
点击下钻可切换「仅正式考核」
39%
42
已掌握
8
学习中
5
待巩固
57
未开始
综合掌握度
39%
全课共 112 个知识点 · 6 章
知识探索（图谱顶层分组）
信息
聚焦
数据
二进制
香农信息论
布尔代数
图灵机
冯·诺依曼计算机
AI 学伴建议：
你在「信息熵族」基础（自信息、互信息）已经扎实，但刚才的测验显示「联合熵」还比较薄弱。建议先回头巩固联合熵，再顺着链式法则学条件熵，最后挑战相对熵（KL 散度）。本周聚焦这 3 个点即可。
已掌握 42 个
· 可跳过，点击展开
▸
自信息
互信息
数据
二进制
编码基础
…等 42 个知识点
接下来学（按图谱前置顺序 + 薄弱项优先）· 本周聚焦
联合熵
›
待巩固
35%
综合掌握度
AI
刚才的测验答错 1 题，掌握度偏低且是后续条件熵、KL 散度的前置——优先把它补上。建议先看链式法则推导。
P
2-3 联合熵与条件熵.pptx
▶
视频 04:10–07:30
再测一次
前置已达标：自信息
条件熵
›
学习中
65%
综合掌握度
AI
联合熵的直接后续，理解了链式法则后会很顺。当前完成度中等，建议做一次知识点测试确认。
DOC
条件熵练习.docx
测测我
前置已达标：自信息（联合熵进行中）
相对熵（KL散度）
›
未开始
0%
综合掌握度
AI
需要先掌握联合熵与条件熵。等前两个达标后再开始，避免基础不牢。
PDF
信息论基础-熵的性质.pdf
前置未达标：联合熵、条件熵（暂不建议跳学）
后续（前置达标后逐步解锁）
香农信息论
· 14 个点 · 未开始
▸
该章节前置知识点尚未达标，暂不建议跳学。完成「信息」章节后将自动解锁清单。
布尔代数
· 18 个点 · 未开始
▸
该章节前置知识点尚未达标，暂不建议跳学。完成「信息」章节后将自动解锁清单。
图灵机
· 16 个点 · 未开始
▸
该章节前置知识点尚未达标，暂不建议跳学。完成「信息」章节后将自动解锁清单。
冯·诺依曼计算机
· 11 个点 · 未开始
▸
该章节前置知识点尚未达标，暂不建议跳学。完成「信息」章节后将自动解锁清单。
信息
二进制
数据
自信息
互信息
联合熵
条件熵
相对熵
(KL)
香农
信息论
布尔代数
18 个 ▸
图灵机
16 个 ▸
已掌握
学习中
待巩固
未开始
高亮 = 你当前的学习路径
虚线框 = 折叠的章节簇（点击展开）
返回路径
计算思维概论 ›
联合熵
综合掌握度（含自测）
点击下钻切「仅正式考核」
35%
联合熵
待巩固
学习步骤完成 1/6 · 综合掌握度 35%
‹ 自信息
条件熵 ›
导学
✦
AI 导学
●
学习资源
P
课件：联合熵与条件熵
○
▶
视频片段 04:10–07:30
○
PDF
文档：熵的性质
✓
练习与考核 · 计入正式掌握度
作
作业：熵的计算
○
讨
讨论：熵的直观理解
3
测
第二章单元测验
67%
测
期中测试
○
自我检测 · 计入综合掌握度
✎
测一测
○
!
错题回顾
1
AI 导学 · 联合熵
联合熵 H(X,Y) 度量两个变量联合分布的
总不确定性
，链式法则
H(X,Y)=H(X)+H(Y|X)
。你刚才把它和条件熵混了——这次重点搞清楚两者区别。按左侧步骤来：课件推导 → 视频图示 → 测一测确认。
在知识图谱中的位置：
自信息（前置 ✓达标）→
联合熵
（当前）→ 条件熵 / 相对熵(KL)（后置，待解锁）。
≡
联合熵 H(X,Y)
两个随机变量
整体
的不确定性。直观：把 X、Y 看成一个组合，描述它需要多少信息。
⚠
易混：条件熵 H(Y|X)
已知 X 后
Y 剩余
的不确定性。你上次就错在这里——它只是联合熵的
一部分
。
∑
链式法则（务必记住）
H(X,Y) = H(X) + H(Y|X)
：联合不确定性 = 一个变量的不确定性 + 已知它之后另一个的剩余不确定性。建议画维恩图辅助记忆。
课件 · 2-3 联合熵与条件熵.pptx
［课件第 3 页预览：链式法则 H(X,Y)=H(X)+H(Y|X) 推导图示］
‹ 上一页
3 / 18
下一页 ›
在新窗口打开
视频 · 信息熵族关系讲解
▶
▶
04:10 / 12:51
不懂
倍速
1080P
CC 字幕
本知识点「联合熵」对应视频章节
「联合熵与条件熵」04:10–07:30
，已按章节切片自动定位（章节预切片、挂载知识点，非任意时间点）。
00:00
信息熵回顾
回顾熵的定义与直观含义
02:10
自信息与熵
从单事件信息量到平均信息量
04:10
联合熵与条件熵
联合分布的总不确定性、链式法则推导
本知识点
07:30
互信息
共享信息量与三者关系图
09:40
小结
信息熵族关系总览
文档 · 信息论基础-熵的性质.pdf
［PDF 第 2 页预览：各类熵的定义与不等式］
‹ 上一页
2 / 6
下一页 ›
在新窗口打开
✓ 已读完
作业 · 熵的计算与证明
完成以下两题并上传过程：① 计算给定联合分布的 H(X,Y)；② 用链式法则证明 H(X,Y)=H(X)+H(Y|X)。
截止：
本周日 23:59
满分：
100
状态：
未提交
口径：
正式掌握度
拖拽文件到此或点击上传（图片 / PDF / 文档）
提交作业
讨论 · 熵的直观理解
围绕「联合熵」的课程讨论，参与与被采纳计入正式掌握度（讨论类考核）。
师
王老师
教师
抛个问题：为什么 H(X,Y) ≤ H(X)+H(Y)？什么时候取等号？欢迎用维恩图说明。
2 天前
👍 12
回复 5
林
林同学
当 X、Y 相互独立时取等号，此时 H(Y|X)=H(Y)，互信息为 0。
1 天前
👍 8
· 教师已采纳
我
我
那如果完全相关呢？是不是 H(X,Y)=H(X)？
3 小时前
👍 2
发布
第二章单元测验
· 关联测试
本测验中
挂在「联合熵」上的题目
计入正式掌握度——题目级汇聚为该测试在本点的得分率。
挂本点题：
3 道
状态：
已完成
本点得分率：
67%
口径：
正式掌握度
本点 3 题：
✓ 第3题
✓ 第5题
✗ 第8题
查看测验
回顾本点错题
期中测试
· 关联测试
本测试中
挂在「联合熵」上的题目
将计入正式掌握度。
挂本点题：
2 道
状态：
未参加
口径：
正式掌握度
查看测试安排
测一测 · 联合熵
2–3 道客观题，结果计入综合掌握度（自测降权），并刷新本点状态。
1. 单选题
联合熵 H(X,Y) 主要度量的是？
A. 已知 Y 时 X 的剩余不确定性
B. 两个随机变量联合分布的总不确定性
C. X 和 Y 共享的信息量
提交本题
错题回顾（待复习 1）
根据信息论定义，联合熵 H(X,Y) 主要度量的是什么？
上次答错（选了"条件熵的剩余不确定性"）
重做这道题
该点综合掌握度回到 70% 以上时，错题自动标为已消化、移出待复习。
‹ 上一步
标记学完该点
下一步 ›
AI 学伴 · 联合熵
在学「联合熵」遇到任何问题都可以问我——结合你刚才测错的点，下面几个你可能想问：
推荐提问
联合熵和条件熵到底差在哪？
链式法则 H(X,Y)=H(X)+H(Y|X) 怎么推导？
什么时候 H(X,Y)=H(X)+H(Y)？
帮我出 2 道题测一下
知识点
联合熵
描述
度量两个随机变量联合分布的总不确定性，链式法则 H(X,Y)=H(X)+H(Y|X)。
认知维度
理解
前置
自信息（✓ 已达标）
后置
条件熵、相对熵(KL)
教学目标
能区分联合熵与条件熵，并用链式法则计算。
关联活动 (6)
关联题目 (4)
+ 添加
P
2-3 联合熵与条件熵.pptx
课件 · 第2章 · 18 页
未学
▶
信息熵族关系讲解
视频 · 章节 04:10–07:30
未看
PDF
信息论基础-熵的性质.pdf
文档 · 6 页
已读
作
作业：熵的计算与证明
作业 · 计入正式掌握度
未提交
讨
讨论：熵的直观理解
讨论 · 3 回复
进行中
测
第二章单元测验
测试 · 挂本点 3 题 · 本点得分率 67%
已完成
题
联合熵 H(X,Y) 主要度量什么？
单选 · 来源 第二章单元测验
曾错
题
用链式法则计算 H(X,Y)
填空 · 来源 第二章单元测验
对
题
判断：H(X,Y) ≤ H(X)+H(Y)
判断 · 来源 期中测试
未测
题
联合熵与互信息的关系
单选 · 来源 期中测试
未测
综合掌握度
35%
· 含自测（降权）
正式掌握度
42% · 仅作业/测试/讨论
完成度
关联资源/活动 完成 1/6
状态
待巩固（测过且没过）
错题
待复习 1 道
教师视角另含该点全班平均完成率/掌握率（此处为学生本人）。
进入沉浸式学习页（方案B）
先花 2 分钟测一测？
做一个覆盖全课关键知识点的快速摸底，我就能为你定制专属学习路径。
定制学习路径
按你的真实基础，排出先学什么、跳过什么。
广度优先 · 约 12 题
每个关键知识点 1 题，覆盖全课，不深挖。
摸底结果仅用于定制学习路径，
不计入掌握度
、不影响成绩。答错完全没关系。
开始摸底
稍后再说
重新测评 · 选范围
做一次批量自测，刷新你的掌握度与学习路径。
本周焦点（3 个点）
每点 2–3 题，约 5–8 题 · 最快
›
选择某一章
该组知识点，每点 2–3 题，总量封顶 ~20
›
全课
关键点广度优先，12–15 题
›
区别于「进入前测」：前测
不计入
掌握度（仅摸底）；重新测评是学过后的验证，
计入综合掌握度（自测降权）
。
取消