资讯

针对RQ1,通过衡量模型聚类(CLLM)与人类分类(CHuman)之间的信息重合程度(如使用调整互信息等指标),评估两者在压缩信息时的一致性。这一部分主要对应框架中的「复杂性」维度,即输入信息的高效表示能力。
近日,图灵奖得主&美国纽约大学教授杨立昆(Yann LeCun)联合美国斯坦福大学团队打造出一款信息论框架, 借此揭示了大模型和人类的一个根本差异:即两者在平衡信息压缩和语义意义上采用了截然不同的策略 。