B站AI科普视频的数据可靠吗?有点不敢全信

最近刷B站看了好几个AI科普视频,讲大模型训练、数据量啥的。里面引用了一些数据,比如说GPT-3有1750亿参数、训练数据45TB什么的。但我自己在网上查到的数字好像不一样,有的说GPT-3实际参数是1750亿,但训练数据说法很多。 我本身就是做数据分析的,对这些数字比较敏感。感觉有些UP主为了讲得通俗,可能把数据简化了,甚至有点夸张。比如有个视频说“某模型训练用了全网数据”,这说法也太模糊了吧。 想问下懂行的朋友,这些科普视频里的数据到底靠不靠谱?有没有什么渠道能自己核实?...

Viewed 0

最近刷B站看了好几个AI科普视频,讲大模型训练、数据量啥的。里面引用了一些数据,比如说GPT-3有1750亿参数、训练数据45TB什么的。但我自己在网上查到的数字好像不一样,有的说GPT-3实际参数是1750亿,但训练数据说法很多。

我本身就是做数据分析的,对这些数字比较敏感。感觉有些UP主为了讲得通俗,可能把数据简化了,甚至有点夸张。比如有个视频说“某模型训练用了全网数据”,这说法也太模糊了吧。

想问下懂行的朋友,这些科普视频里的数据到底靠不靠谱?有没有什么渠道能自己核实?还是说他们只是为了流量瞎编的?我怕信了错误的数据,以后跟别人讨论时闹笑话。求大佬解答。

1 Answers

楼上说得挺全,我也补充点我自己的理解。其实B站这种科普视频很多确实是为讲得通俗,数据经常被简化或者泛泛而谈。还有就是“全网数据”这种说法也真的是模糊到家,没人能做到全网全抓,数据来源和清洗程度差别太大。你自己做数据分析,肯定看得出来这些数字背后很多细节和限定条件都没交代,完全拿出来听听娱乐下就好。要想核实,最好还是去看看论文原文或者官方发布的技术文档,毕竟科普UP主多是二手搬运或者自己理解带偏了,不算恶意,但确实不能全信。反正我看这类视频基本都保持点怀疑态度,不然很容易被吹得天花乱坠。