# AI及信息技术应用2023年6月26日简报 ## 核心定义 > 大型语言模型（LLM）是一种基于深度学习技术，能够理解和生成自然语言的人工智能模型。 ## 核心洞察（TL;DR） - LLM在应用集成、模型算法和推理优化方面取得显著进展。 - 模型私有化定制服务成为趋势，兼顾专业性和客户数据隐私。 - 全球人工智能治理进程加速，各国监管策略各异。 ## 关键事实与数据 - ChatGLM2-6B推理速度提升42%，支持8-32k上下文对话。 - WebGLM基于GLM-10B，通过上下文学习引导生成高质量问答。 - TART推理模块在不同模型系列、大小和任务上提高性能。 - Cohere估值超过21亿美元，融资2.7亿美元，提供自然语言处理技术。 - 华为盘古大模型7月升级，开发者生态加速。 - OpenAI考虑创建AI软件应用商店。 - 全球人工智能治理进程关注风险，欧盟、中国、美国等国家和地区采取不同策略。 - 国家网信办发布深度合成服务算法备案清单，包括百度、阿里、腾讯等公司。 ## 正文 AI及信息技术应用2023年6月26日简报 ===================== 本周LLM方向的研发成果、应用产品、监管齐头并进，国内中文模型在应用上的集成已经开始透露出特有的“机灵劲”，同样，在模型算法、模型推理优化上则不断获得新的成果。 大模型驱动的软件系统技术栈和架构优化则成为新的热点话题，不只是a16z，从5月份至今，身边的创新技术公司，都遇到类似的问题，如何做LLM“失控”的管控，如何做LLM出幻觉的管控，如何做LLM的任务微调并能限定在指定微调数据集返回。这对此前的互联网软件系统开发有很多改进的要求。 同时，也有些朋友还在纠结是自己训练模型，还是用第三方大模型方案，从Oracle的例子可能能看出端倪，模型私有化定制服务是个好选择。尊重专业性、尊重客户数据隐私要兼顾。 1，AI应用 ChatGLM2-6B：性能大幅提升，8-32k上下文，推理提速42% \[摘要\]更高效的推理：基于 Multi-Query Attention 技术，ChatGLM2-6B 有更高效的推理速度和更低的显存占用：在官方的模型实现下，推理速度相比初代提升了 42%，INT4 量化下，6G 显存支持的对话长度由 1K 提升到了 8K。ChatGLM2-6B 使用了 GLM 的混合目标函数，经过了 1.4T 中英标识符的预训练与人类偏好对齐训练，评测结果显示，相比于初代模型，ChatGGLM2-6B 在 MMLU、CEval、GSM8K 、BBH等数据集上的性能取得了大幅度的提升，在同尺寸开源模型中具有较强的竞争力。 中国的一组研究人员开发了WebGLM：基于通用语言模型（GLM）的网络增强问答系统 \[摘要\]基于 GLM-10B 的响应生成器通过 LLM 上下文学习引导并在引用的长格式 QA 样本上进行训练，称为引导生成器。法学硕士可能准备使用适当的基于引文的过滤来提供高质量的数据，而不是依赖昂贵的人类专家在 WebGPT 中编写。使用来自在线 QA 论坛的用户竖起大拇指信号进行教学的评分员可以了解大多数人在各种回复时的偏好。 Galileo推出LLM Studio以彻底改变企业中人工智能的采用 \[摘要\]旧金山的人工智能初创公司 Galileo 今天宣布推出 Galileo LLM Studio，这是一个用于诊断和修复大型语言模型问题的平台。 TART, 一个经过合成训练的基于Transformer的推理模块来提高LLM的推理能力 \[摘要\]本文提出了一种名为TART，使用一个经过合成训练的基于Transformer的推理模块来普遍提高LLM的推理能力。TART以任务无关的方式，只使用合成的逻辑回归任务来训练这个推理模块。通过单个推理模块，TART在不同模型系列(GPT-Neo、Pythia、BLOOM)、模型大小(100M-6B)、任务(14个NLP二分类任务)甚至不同模态(音频和视觉)上提高了性能。此外，在RAFT基准测试中，TART改善了GPT-Neo (1.25亿)的性能，使其超过BLOOM (176B)，并且与GPT-3 (175B)的差距不到4%。 Oracle决定用 Cohere为其客户提供服务 \[摘要\]Oracle选择了Cohere创业公司的技术来为客户提供先进的人工智能服务。Cohere是一个在加拿大多伦多的创业公司，它正在成为OpenAI的主要竞争对手。Cohere允许企业使用自己的数据来训练人工智能模型，而不是像OpenAl那样收集所有来源的数据。Oracle将把Cohere的技术融入到它的许多产品中，而Cohere则会使用Oracle的云服务来改进其人工智能模型。Cohere并不只和Oracle合作，例如，另一家投资者Salesforce也使用Cohere的技术。Cohere的创始人Aidan Gomez之前在Google Brain实习，他研究了一种改进人工智能理解语言能力的方法，这种方法现在被许多现代人工智能技术使用。 语音-文本适配器和语音-实体检索器用于增强的LLMs语音理解 \[摘要\]这篇论文研究了使用大型语言模型在语音领域的应用,由于语音和语言表征之间的不一致，往往会引起性能下降。本文提出了一个使用Speech2Text适配器的联合语音和语言模型(SLM)，它将语音映射到文本标记嵌入空间，而没有语音信息损失。通过CTC-based的blank-filtering,可以减少语音序列的长度，使其与文本长度一致。在MultiWoz语音数据集(DSTC11挑战)中，SLM显著提高了对话状态跟踪(DST)性能(准确率从24.7%提高到28.4%) 人工智能初创公司Cohere目前估值超过21亿美元，融资2.7亿美元 \[摘要\]人工智能初创公司Cohere目前估值超过21亿美元，融资2.7亿美元。Cohere的核心观点在于提供自然语言处理技术，并已经获得了来自多家投资者的支持。Cohere 开发了多语言语言模型，该模型根据母语人士和其他 AI 的数据进行训练，旨在通过专注于企业用例，在生成 AI 初创公司的海洋中脱颖而出。 YuLan-RecAgent：推荐系统中的《西部世界》 \[摘要\]近日，来自中国人民大学高瓴人工智能学院的研究团队打破过去的研究桎梏，借助大语言模型强大的拟人能力，提出了“基于大语言模型的推荐环境模拟”这一新的研究视角，并构建了名为RecAgent的多智能体推荐系统模拟器，让我们看到了未来推荐系统更广阔的可能性和期待。 RoboCat：自我改进的机器人代理 \[摘要\]DeepMind 宣布创建一种新颖的人工智能模型，名为 RoboCat，它能够通过不同的机械臂模型执行各种任务。根据 DeepMind 的说法，RoboCat 的与众不同之处在于它具有独特的能力，可以在现实场景中使用不同类型的机器人来处理和适应众多任务，他们声称这是以前从未完成过的壮举。 Reid Hoffman 联合创立的人工智能软件初创公司Inflection 透露了为其会话Pi 聊天机器人提供支持的大型语言模型 \[摘要\]LLM为 Inflection 的新产品 Pi 提供支持，Pi 是一款个人人工智能助理，旨在主动倾听、记忆并参与类似于共鸣板的来回对话。Inflection-1 在大小和功能上与 GPT-3.5 相当，TechCrunch 报道，Inflection-1 在各种子学院考试和常识基准测试中表现良好，但在编码任务中却落后了。Inflection 计划在未来发布与 GPT-4 和 PaLM-2(L) 相当的更大模型的结果。根据 Inflection 的说法，Pi 代表“个人智能”，比其他人工智能模型提供更具支持性的个人体验。Pi 可以通过多个平台访问，包括网络 ( heypi.com )、手机应用程序（最初适用于 iOS ）、WhatsApp、短信、Facebook 消息和 Instagram DM。 华为AI新布局：盘古大模型7月升级 开发者生态加速 \[摘要\]对于华为而言，人工智能自然是必争之地，云、计算都是华为升级转型的重要方向之一，大模型之外，华为在AI芯片昇腾、AI框架昇思、AI开发平台Modelarts等方面都有深度布局。华为开发者关系部部长许劲松指出，人工智能正在推动产业进入数字时代，而生成式AI将推动整个产业智能化的升级。21世纪经济报道记者从华为开发者联创日上了解到，在接下来的7月，华为云盘古大模型将有重大升级 OpenAI正在考虑创建AI软件应用商店 \[摘要\]本文报道了OpenAI公司正在考虑创建一个旨在提供各种AI软件产品和服务的应用商店。该商店可能会提供许多不同类型的软件，包括语音和图像识别、自然语言处理等领域的应用。该商店将与OpenAI一直以来的项目以及其API服务集成在一起，并将为企业和开发人员提供方便的购买和使用选项。OpenAI已经与几家公司进行了商业合作，旨在为用户提供企业级AI解决方案。此外，该公司正在招聘一批开发人员和工程师来支持该应用商店和其他相关项目的开发。 谷歌通过「系统2」 提升 Bard的编程能力和数学能力 \[摘要\]根据谷歌的报道， Bard通过「隐性执行代码」提高了一些计算问题的能力，比如翻转单词，或者分解质因数。这一改进受到了Daniel Kahneman的《思考，快与慢》中著名的「系统1」与「系统2」概念的启发，其中LLM可以认为是系统1，而代码计算就像是系统2(缓慢，但是准确) 谷歌公开自家「AI+软件工程」框架DIDACT：数千名开发者内部测试，用了都说生产力高 \[摘要\]给定代码的初始片段和代码审查员附加到代码片段的注释，DIDACT的Pre-Submit Cleanup任务生成处理这些注释的编辑操作DIDACT的多模态性质也产生了一些随规模增大而涌现出的全新行为，其中一种能力是历史增强，可以经由提示来启用这种能力，了解开发人员最近做了什么可以让模型更好地预测开发人员下一步应该做什么。结论DIDACT将Google的软件开发过程转变为机器学习开发人员助理的训练演示，，并使用这些演示数据来训练模型，以循序渐进的方式构建代码，与工具和代码审查人员交互。 中文大语言模型赶考：商汤与上海AI Lab等新发布「书生·浦语」 \[摘要\]全面评测结果显示，“书生・浦语” 不仅在知识掌握、阅读理解、数学推理、多语翻译等多个测试任务上表现优秀，而且具备很强的综合能力，因而在综合性考试中表现突出，在多项中文考试中取得超越 ChatGPT 的成绩，其中就包括中国高考各个科目的数据集。 另有六家公司与 OpenAI 竞争的人工智能公司值得关注 \[摘要\]六家公司凭借其独特的生成人工智能方法和应用在人工智能行业中开辟了自己的空间，他们主要是Adept AI，Inflection AI，Runway，Aleph Alpha，AI21 Labs，BAAI智源研究院 a16z：新兴架构为LLM应用提供强劲支持 \[摘要\]新兴的架构系统为LLM（低代码/低模式）应用程序的发展提供了强有力的支持。这些新架构可以与传统技术相容，并且通过提供更多的自定义选项和灵活性，为开发人员提供更多的机会来设计高质量的应用。新架构的出现预示着LLM应用在未来将获得更大的支持和发展空间。 AI约会应用程序Teasers将您变成聊天机器人 \[摘要\]一款名为Teasers的AI约会应用程序。该应用程序可以将用户的聊天记录转换为AI聊天机器人，帮助用户更轻松地与潜在的约会对象建立联系。这款应用程序利用了大量的自然语言处理技术，并通过不断地学习和改进来提高聊天机器人的交互体验。此外，应用程序还可以根据用户的喜好和交往模式生成个性化的建议，以优化匹配效果。 2，产品市场创新 Dropbox推出两个AI工具产品 \[摘要\]Dropbox推出了AI工具，Dash（人工智能驱动的互连搜索工具）和 Dropbox AI（可以汇总文档），帮助用户更快速、更智能地使用Dropbox。AI工具主要包括智能搜索、文件转换和文字识别等功能。通过AI技术，Dropbox能够更精确地为用户推荐文件，同时也提高了在线协作的效率和质量。该公司表示AI工具将会在未来几个月内逐步推广到所有用户。 millie.appAI 约会助手在 助你上获得 100% 的响应率。 \[摘要\]第一印象决定一切Meet Millie 为您提供完美的搭讪路线，根据您喜欢的人的兴趣定制，关键事实性信息包括使用人工智能技术进行数据分析，提供个性化建议，提升用户的情感智能，让约会过程更加顺利。在约会应用程序上获得 100% 的响应率。在 WhatsApp 中获取最佳搭讪艺术家技能。 Vercel AI SDK推出：带给开发者更智能的开发体验 \[摘要\]本文报道了Vercel AI SDK的推出，该SDK将人工智能技术引入开发领域，为开发者带来更智能的开发体验。该SDK可以通过自动化处理、项目数据分析等功能帮助开发者优化性能、提高可靠性。此外，该SDK还可以支持语言翻译、自然语言理解等功能，进一步提升开发效率。 obviously.ai无代码人工智能工具 \[摘要\]突破性的人工智能模型只需几分钟而不是几个月即可构建。显然，人工智能的根本目的是让您在极短的时间内实现价值，因此您只需点击几下即可构建人工智能模型，从而将数据转化为投资回报率。 腾讯智影AI绘画-在线智能绘画工具 \[摘要\]腾讯智影一款在线智能绘画工具——AI绘画，需要使用Chrome、Microsoft Edge、QQ浏览器进行访问。该工具采用了人工智能技术，可以在短时间内自动生成高质量的绘画作品，且无需任何艺术基础。用户只需上传照片，选择绘画风格和画笔，即可快速获得一幅美妙的绘画作品。此外，该工具还支持手动调整细节和颜色，以满足用户的个性化需求。 苹果公司推出Vision Pro SDK，下个月将在实体开发者实验室推出 \[摘要\]苹果发布了新的软件工具，供开发人员为其即将推出的 Vision Pro 混合现实耳机构建应用程序；该 SDK 利用了 Xcode、SwiftUI、RealityKit、ARKit 和 TestFlight 等熟悉的框架 Meta 预览了 WhatsApp、Messenger 和 Instagram 的生成式 AI 工具以及内部 AI 工具 \[摘要\]Meta 本周展示了其消费产品的新生成人工智能技术的工作，包括 Instagram、WhatsApp 和 Messenger，以及公司内部使用的技术。在一次全体会议上，Meta 首席执行官马克·扎克伯格宣布了几项处于不同开发阶段的人工智能技术，包括 Messenger 和 WhatsApp 的人工智能聊天机器人、人工智能贴纸以及其他允许在 Instagram Stories 中编辑照片的工具，以及仅限内部使用的工具。产品，例如 AI 生产力助手和用于与 AI 代理交互的实验界面，由 Meta 的大型语言模型 LLaMA 提供支持。 3 ，监管与合规 全球人工智能治理进程概述 \[摘要\]本文报道了全球范围内对人工智能治理的关注和行动。文章指出了人工智能发展引发的担忧，包括有毒语言和虚假信息的传播、自动化决策系统的歧视、就业流失和人工智能系统可能带来的生存风险。欧盟、英国、中国和美国等国家和地区在人工智能监管方面采取了不同的策略。欧盟通过《人工智能法案》进行前瞻性监管，禁止不可接受风险的应用程序，并严格监管高风险领域。中国也出台了一系列法规，要求服务提供商保持透明度并提供选择退出的方式。与此同时，美国的立法进展较慢，但提出了人工智能权利法案蓝图，强调保护公民的权利。全球范围内的人工智能治理仍面临挑战，但各国和国际组织正努力制定全球框架和行为准则。 “AI公共工作组”成立，美商务部应对生成式AI风险 \[摘要\]美国商务部部长吉娜·雷蒙多近日宣布，由国家标准与技术研究院（NIST）主导的新的人工智能（AI）公共工作组即将启动。该工作组旨在依托NIST的人工智能风险管理框架，深化对快速发展的AI技术的探讨和理解。此次公共工作组的成立，聚焦于应对与生成式AI相关的风险，同时招募私营和公共部门的志愿者及技术专家，以应对生成式AI对技术和市场格局的快速改变。工作组设定了阶段性的目标。短期目标是通过AI风险管理框架，为外界提供关于生成式AI研发的指导。中期目标则是支持NIST进行生成式AI的相关测试和评估。在长期目标方面，工作组将探寻如何有效利用生成式AI解决社会性问题，如健康、环保和气候变化等重要议题。 谷歌呼吁员工远离内部聊天应用Bard  \[摘要\]本文报道，谷歌已经要求其员工远离内部聊天应用Bard。这一决定是因为该应用存在安全漏洞，可能导致信息泄露和窃听。Bard是谷歌内部使用的一款聊天工具，与Slack等应用程序类似。谷歌表示，目前已经修复了该漏洞，并正在加强对内部应用程序的安全性和隐私保护。 文件显示 OpenAI 游说欧盟人工智能法案的部分内容被淡化，包括成功避免将通用人工智能系统视为“高风险”  \[摘要\]2022 年秋季，《人工智能法案》的理事会文本中出现了一个令人不安的漏洞，免除了“纯粹附属”人工智能系统的所有要求，这与 OpenAI 的内容非常一致要求的样的人要求在公共场合受到监管。他们在门后游说相反的人。看看这些人做了什么，而不是他们所说的。 Facebook 的母公司 Meta 将在其加拿大平台上发布新闻，以响应加拿大政府通过的新立法 \[摘要\]加拿大人将无法再在 Facebook 和 Instagram 上分享新闻内容。谷歌反对这项法律，认为它行不通，并警告说，它可能会限制加拿大用户的新闻链接，就像它在二月份的试运行中所做的那样。加拿大议会周四批准的新法律要求数字公司向国内新闻出版商支付在各自技术平台上出现的故事的费用。根据《在线新闻法》，科技公司需要与新闻机构达成赔偿协议，如果谈判失败，具有约束力的仲裁将确定适当的赔偿。它旨在解决随着媒体转向数字领域而导致新闻行业广告收入萎缩的问题。该法律将在获得皇室同意后六个月实施。 英国政府正在向国家医疗服务 (NHS) 信托基金投资 2100 万英镑（2675 万美元），以加速人工智能工具在医院的采用 \[摘要\]新推出的人工智能诊断基金专注于部署人工智能成像和决策支持工具来诊断和治疗心脏病、癌症和中风。政府的目标是到 2023 年底在所有 NHS 卒中网络中实施人工智能工具。它计划部署人工智能来分析胸部 X 光检查，以检测肺癌的早期迹象，肺癌是英国癌症相关死亡的主要原因NHS 信托机构将能够申请使用任何能够证明支出合理的人工智能诊断模型该机构正在寻求能够诊断心脏病、癌症和中风的图像识别工具。英国政府此前为初创企业设立了一项 1 亿英镑的基金，用于开发医疗保健和教育等领域的人工智能应用程序。 《上海市打造文旅元宇宙新赛道行动方案》发布 推动市场主体开展AIGC工具平台研发 \[摘要\]面对新沉浸引发的体验变革、新时空带来的场景变革和新技术推动的产业变革，上海将积极抢抓机遇、主动求变，全面开启文旅元宇宙新赛道，启动实施数字文旅新基建、技术工具新突破、文旅元宇宙新场景、数字艺术品新赛道、沉浸互动新内容五大专项行动。上海市文旅局局长方世忠认为，上海在全国率先发布《上海打造文旅元宇宙新赛道行动方案》，主要是基于上海拥有超大文旅消费市场规模、领先数字基础设施优势、丰富的文旅应用场景、海量的的内容创意资源和活跃的创新创业文化。 国家网信办发布深度合成服务算法备案清单：百度阿里腾讯字节等在列 \[摘要\]《互联网信息服务深度合成管理规定》第十九条明确规定，具有舆论属性或者社会动员能力的深度合成服务提供者，应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。财联社6月20日讯，国家互联网信息办公室发布境内深度合成服务算法备案清单，其中包括美团在线智能客服算法、快手短视频生成合成算法、百度文生图内容生成算法、百度PLATO大模型算法、火山引擎智能美化特效算法、腾讯会议虚拟背景算法、天天猫小蜜智能客服算法、讯飞语音识别算法等。 --- ## 引用与溯源 **来源**：哈希泰格 (HaxiTAG) **原始链接**：[https://haxitag.com/brief/ai-brief-20230626-ai2023626](https://haxitag.com/brief/ai-brief-20230626-ai2023626) **来源索引（站内可追溯）**：[麦肯锡](https://haxitag.com/search?q=%E9%BA%A6%E8%82%AF%E9%94%A1)、[普华永道](https://haxitag.com/search?q=%E6%99%AE%E5%8D%8E%E6%B0%B8%E9%81%93)、[Gartner](https://haxitag.com/search?q=Gartner)、[IDC](https://haxitag.com/search?q=IDC)、[Forrester](https://haxitag.com/search?q=Forrester) **版权声明**：本文由哈希泰格 AI 引擎优化生成，引用请注明出处。