海量数据训练基础

六月九日, 谷歌发布了新的可穿戴健康基础模型, 该模型并非小打小闹, 它基于五百万名已授权同意共享自身健康信息的参与者的数据, 数据采集时间跨度极大, 覆盖全球一百多个国家。

去训练此模型时, 数据收集量惊人, 每人提取数周数据, 最终形成超两百亿小时信号, 那等同于超一万亿分钟医健记录, 这些数据源于二十余种不同设备机型, 这般规模预训练在行业里极为少见。

多维传感器融合

构成完整健康画像的数据, 包含了模型输入的三十四种一分钟聚合的特征值, 一起采集的还有五种关键的传感器数据, 其中有光电容积脉搏波和加速度计数据, 另外包含电皮肤活动、皮肤温度以及高程计的信息。

借助这五个传感器, 模型能够抓取二十四小时里的多项指标, 它可以监测心率以及心率变异性, 还能够检测血氧饱和度, 睡眠阶段、运动步数与皮肤电导率均在监控范畴内, 体温变化也被列入考量之中, 此种多模态的数据输入使分析更为精准。

四种规模对比

有着四种不同规模选择被该模型提供, 分别是XXS, 还有XS, 以及S, 并且是最大的B版本。不同的计算资源和精度需求适用于不同规模。性能上有着显著优势的是最大版本B。相比最小版本来说, 百分之三十以上的重建损失有所下降。

对于分类任务而言, 最大版本的平均AUC提增了一成比例以下, 少到百分之九。回归任务情况不同, 平均相关系数提升幅度更大, 高至百分之二十一。这表明在应对复杂健康预测之时, 大参数模型展现出更稳定的表现。用户能够依据自身设备所具备的计算能力, 挑选适配的模型版本。这种突显的灵活性, 使得其部署门槛得以有效地降低。

判别式任务领先

于三十五项判别式健康任务测试里, 最大模型展现出优异表现, 它于三十三项任务当中均获取了胜利, 此乃相当高的胜率, 彰显出模型的强大能力, 研究团队还运用线性探针展开评估, 结果发觉, 在三十五项任务里头有三十四项比基线更具优势。

这些任务覆盖了六个主要健康领域的相关内容, 其中包含心血管健康、代谢风险评估等方面, 心理健康以及睡眠质量同样处于考察范围之中, 人口统计信息与生活方式因素也被纳入到分析里, 如此这般全面的覆盖范围致使模型具备极高的实用价值。

智能体优化代码

有一个团队构建出了某个特殊的系统, 其目的在于对推理代码予以优化, 此系统借助大型语言模型智能体来展开协作以及竞争, 它们循环地去生成代码方案, 还要对代码方案进行测试, 并且将代码方案加以优化, 在实验里, 该系统探寻了数量超过三万个的候选方案, 这样一种自动化搜索显著提升了效率。

所生成的预测头, 于分类任务里展示出极精彩之表现。就二十项分类任务而言, 其中十六项比线性探针更具优势。在十五项回归任务当中, 有十二项同样胜过线性探针。这意味着智能体所生成的代码能够探寻到更深层次的数据规律。此种方法为后续之于模型的优化提供了崭新的思路。

隐私与未来展望

尽管数据量极为庞大, 然而所有参与的人员都已经给予了授权表示同意, 谷歌着重突出了针对用户隐私的保护举措, 数据采集的进程依照严格的伦理规范, 这种进行透明化处置是构建用户信任的根基, 未来伴随数据的不断积累, 模型的精度有希望能够更进一步得到提升。

这项技术具备改变可穿戴设备健康管理方式的可能性, 医生有可能更早察觉到潜在的健康风险, 个人能够更精确地管理自身生活习惯, 对科技爱好者而言, 这是一个值得予以关注的里程碑, 你对于这种大规模健康监测持有怎样的态度呢?