巴比特丨每日必读：中国将提出《全球人工智能治理倡议》；OpenAI 正在开发“99%可靠的”AI检测工具

巴比特资讯｜2023-10-18 17:24

OpenAI 正在开发一款工具，可以高度准确地检测由人工智能生成的图像。

摘要：今天上午，习近平主席出席第三届“一带一路”国际合作高峰论坛开幕式，并在主旨演讲中宣布中方将提出《全球人工智能治理倡议》。这是中方积极践行人类命运共同体理念，落实全球发展倡议、全球安全倡议、全球文明倡议的具体行动。OpenAI 正在开发一款工具，可以高度准确地检测由人工智能生成的图像。OpenAI 首席技术官 Mira Murati 表示，他们的工具在确定图像是否由 AI 生成方面“99% 可靠”。这种检测工具对于防止利用人工智能制作虚假新闻报道具有重要意义。

图片来源：由无界AI生成

热点资讯

天猫精灵发布首款大模型多感知学习机 Z20

10 月 18 日报道，阿里旗下天猫精灵推出大屏护眼学习机未来精灵 Z20。这款 12.2 寸仅 6.95 毫米的轻薄平板兼具大模型和多模态 AI 感知能力。未来精灵 Z20 产品团队介绍，随着生成式 AI 基础模型成熟后，其与通义大模型团队联合进行双语大模型的继续训练和微调，模型在口语化、语言分级、情景生成上有进一步提升。近期，相关能力会先通过专项应用对 Z20 用户公测。

嘉楠科技发布 CanMV-K230 嵌入式 AI 开发板

10 月 18 日报道，嘉楠科技今日推出了一款 CanMV-K230 嵌入式 AI 开发板，售价 249 元。CanMV-K230 嵌入式 AI 开发板长 85 mm，宽 56 mm，与树莓派 4b 大小一致。该开发板主要针对智能物联端侧场景设计，板载嘉楠最新一代 K230 芯片，集成了双核 RISC-V CPU、第三代 KPU。K230 内置立体视觉 3D 深度引擎 DPU，可实时处理 720P 或 1080P 3D 深度图像数据。

OpenAI 正开发新 AI 检测工具，识别 AI 生成图像准确度高达 99%

10 月 18 日报道，OpenAI 正在开发一款工具，可以高度准确地检测由人工智能生成的图像。在 Wall Street Journal 的 Tech Live 大会上，OpenAI 首席技术官 Mira Murati 表示，他们的工具在确定图像是否由 AI 生成方面“99% 可靠”。这种检测工具对于防止利用人工智能制作虚假新闻报道具有重要意义。

联发科与 vivo OriginOS 合作，实现 AI 大语言模型在手机端侧落地

10 月 18 日，联发科宣布与 vivo OriginOS 在 AI 领域深度合作和联调，率先实现了 10 亿和 70 亿 AI 大语言模型以及 10 亿 AI 视觉大模型在手机端侧的落地，共同为消费者带来行业领先的端侧生成式 AI 应用创新体验。

外交部：人工智能是人类发展的新领域，带来重大机遇

10月18日讯，外交部：人工智能是人类发展的新领域，带来重大机遇，也伴随着难以预知的风险挑战，需要国际社会共同应对。今天上午，习近平主席出席第三届“一带一路”国际合作高峰论坛开幕式，并在主旨演讲中宣布中方将提出《全球人工智能治理倡议》。这是中方积极践行人类命运共同体理念，落实全球发展倡议、全球安全倡议、全球文明倡议的具体行动。《倡议》就各方普遍关切的人工智能发展与治理问题提出了建设性解决思路，为相关国际讨论和规则制定提供了蓝本。中方愿同各方就全球人工智能治理开展沟通交流、务实合作，推动人工智能技术造福全人类。

富士康与英伟达称将共建人工智能工厂

10 月 18 日，富士康董事长刘扬伟和英伟达首席执行官黄仁勋在富士康于台北举行的年度科技日上表示，两家公司正在共同建设人工智能（AI）工厂。

微软报告称 GPT-4 易受“越狱”提示词影响，生成不良内容

10 月 18 日消息，微软旗下研究团队近日发表论文，详细研究了大型语言模型 (LLM) 的“可信度”和潜在毒性，特别关注 OpenAI 的 GPT-4 及其前代 GPT-3.5。研究团队表示，GPT-4 虽然在标准基准测试中比 GPT-3.5 更加可靠，但容易受到“越狱”提示（绕过模型安全措施）影响。GPT-4 可能会根据这些“越狱”提示，生成有害内容。

百度大模型 Comate 编程助手将在 10 月 24 日对外开放

10 月 18 日报道，百度自研的 AI 原生应用——Comate 智能编程助手，即将在 10 月 24 日全面开放。目前，Comate 智能编程助手已在百度内部大规模使用，覆盖 80% 以上的工程师。

英伟达推出 Tensor RT-LLM，使大语言模型在搭载 RTX 的 PC 平台上运行速度提高 4 倍

10 月 18 日，英伟达宣布推出 TensorRT-LLM 开源库，旨在提升大型语言模型（LLM）在本地 Windows PC 上的性能。据悉，这个库之前是为数据中心发布的，现在也可以用于 Windows PC。最大的特点是，如果 Windows PC 配备英伟达 GeForce RTX GPU，TensorRT-LLM 可以让 LLM 在 Windows PC 上的运行速度提高四倍。

微软正式发布 AI 内容审核工具 Azure AI Content Safety

10 月 18 日消息，微软为了营造健康和谐的社区环境，减少图片或文本中关于偏见、仇恨、暴力等相关的负面内容，于今年 5 月测试推出了 AI 内容审核工具 Azure AI Content Safety，该工具经过多月测试之后于今天正式发布。

据悉，Azure AI Content Safety 提供了一系列经过训练的 AI 模型，能够检测图片或文本中与偏见、仇恨、暴力等相关的负面内容，并可以理解并检测包含八种语言的图片或文本，为被标记的内容严重性进行打分，指示人工审核员哪些内容需要采取行动。

欧盟计划将 AI 模型分为三类进行监管，并对最强大的模型实施更严格的规则

10 月 18 日报道，欧盟计划将 AI 模型分为三类来进行监管。根据彭博社看到的文件，欧盟还计划对最强大的 AI 生成模型进行额外的外部测试。谈判代表希望在 10 月 25 日的下次会议上完善这项立法，目标是在今年年底前完成。根据拟议的规则，第一类将包括所有基础模型。第二类的“非常有能力”的系统将通过用于训练其大型语言模型的计算能力来区分。根据提案，这些模型可能“超越了目前的技术水平，且可能还没有被完全理解”。最后，第三类被称为大规模通用人工智能系统，将包括最流行的人工智能工具，并将通过用户总数来衡量。

投融资

AI 内容检测公司 Reality Defender 完成 1500 万美元 A 轮融资，DCVC 领投

10 月 17 日报道，Reality Defender 是几家开发工具试图检测深度伪造和其他人工智能生成内容的初创公司之一，该公司今日宣布在由 DCVC 领投，Comcast、Ex/ante、Parameter Ventures 和 Nat Friedman's AI Grant 参投的 A 轮融资中筹集了 1500 万美元。

该公司联合创始人兼首席执行官 Ben Colman 表示，这笔资金将用于在明年将 Reality Defender 的 23 人团队扩大一倍，并改进其人工智能内容检测模型。

每日荐读