PANews 4月25日消息,据ZAKER报道,苹果研究团队推出了一种先进的开放语言模型OpenELM。OpenELM使用分层缩放策略,在transformer模型的每一层中有效地分配参数,从而提高了准确性。例如,在参数预算约为10亿的情况下,OpenELM 的准确率比OLMo提高了2.36%,而所需的预训练token却减少了2倍。

与之前只提供模型权重、推理代码以及在私有数据集上进行预训练的做法不同,OpenELM包含了在公共可用数据集上对语言模型进行训练和评估的完整框架,包括训练日志、多个检查点和预训练配置。此外,他们还发布了将模型转换为MLX库的代码,从而在苹果设备上进行推理和微调。

早在今年2月,苹果公司CEO TimCook表示,苹果生成式AI功能将于“今年晚些时候”推出,有消息称即将在6月发布iOS 18可能是苹果iOS史上“最大”的更新,而9月也将推出首款AI iPhone设备。