基于大模型应用层的探索

会议室:会议室7+8(四楼)
出品人:李波

在这个主题中,我们将引领大家步入大模型的世界,一起深入探讨如何从应用层面充分发挥... 展开 >

专题出品人:李波

Dry AI创始人

AI大模型领域技术专家,深耕AI,云计算领域近20年,曾就职于多家世界500强公司,担任高级技术管理,技术专家职位,多次0-1设计与构建完整的AI产品与系统体系,深化企业智能化转型。

地点:会议室7+8(四楼)

专题:基于大模型应用层的探索

在这个主题中,我们将引领大家步入大模型的世界,一起深入探讨如何从应用层面充分发挥大模型的优势,挖掘其潜在的巨大价值。这将涵盖从选择适合的大模型,到对这些模型进行精细化的性能调优等内容,我们将带领大家一步步理解大模型的运作机制和应用技巧。

更为重要的是,我们将关注大模型的集成与部署策略。如何将大模型嵌入到现有应用中,如何才能让它们在实际环境中发挥最大的效益,这些都将成为我们讨论的重点。

与此同时,大模型与现有系统的协同运作也将成为我们关注的焦点。我们将探讨如何打破大模型与现有系统之间的边界,构建最优化的互动模式,让大模型和现有系统无缝对接,以创造更大的价值。

通过这个专题,我们希望能够帮助每一位参与者理解并掌握大模型的应用核心,同时,我们也期待大家能从中找到灵感,去解决现实中的挑战,寻找新的解决方案。让我们一起走入大模型的世界,共同探索其在应用层面的无穷可能。

by 周梁伟

网易
云信首席架构师,产品部负责人,TGO 鲲鹏会(广州)学员

IM和RTC技术作为融合通信的关键技术,在社交、客服、协同办公等诸多场景中得到充分利用;在大模型快速发展和日渐成熟的背景下促使行业也发生了很大的变化,特别是LLM技术的第一个现象级应用ChatGPT就是以会话作为唯一交互形态;如何结合LLM和通信PaaS平台加速场景化落地成为一个关键议题。

演讲提纲:

  1. 融合通信PaaS技术介绍
  2. LLM技术在通信场景中的应用
  3. 云信的LLM场景化设计和技术实践

听众受益点:

  • 对IM和RTC平台的通信技术架构有更深理解
  • 了解LLM在通信中的应用场景

by 王良

平安壹钱包
用户研发部技术负责人

银行金融类行业受政策监管、数据隐私保护、等外部因素束缚,在AI时代,如何在约束条件下落地 ToC 的业务,且在技术上不做取舍处理。本次演讲基于平安集团旗下互联网金融支付公司壹钱包已落地的业务场景,介绍从 RAG 向量检索+知识库+标注平台等技术的实战经验,以及应用立项审批、合规监管审批、业务线选择等技术之外的经验。

演讲提纲:

  1. 壹钱包AI智能运营平台介绍
  2. 技术方案介绍
    • RAG 项目的落地方案,如何做到可复制快速迭代
    • 数据处理流程(采集、标注、清洗、样本均衡)
    • 私域大模型技术 ToC 端全流程架构
    • 版本迭代流程
  3. 标注平台——AI落地工具生态链
    • 标注工具的建设
    • 标注内容介绍
    • 私有化部署方案
  4. 政策监管下的技术逐梦与落地实践心得
    • 分析当前各行业的法律条规约束背景
    • 金融银行类的红线以及对技术的拥抱态度
    • 心得与经验

听众受益点:

  • AI大模型在数据受限的行业,如何落地 ToC 应用
  • 突破0到1之后,如何快速复制迭代项目,拓展业务场景

by 郑岩

华为云
质量运营与流程IT部 / AI变革首席专家

AIGC革命已来,如何在企业场景落地?如何选择模型、如何应用RAG、需要哪些组织流程配套?本次演讲将基于华为云客服AI近期的实践,分享AI大模型落地过程中的技术解决方案,及相应的组织、流程优化,以支撑AI能力和收益持续提升。过程中,我会结合最近一年多的大模型应用实战,分享我们所经历的挑战、经验和教训,包括模型训练与微调、多模型协同路由、知识切片与召回策略、作业即标注的反馈机制、AI模型性能与成本优化等。

演讲提纲:

  1. 华为云客服业务场景介绍
  2. 华为云客服 AI 大模型应用技术方案介绍
    • RAG 实现与改进
    • SFT 流水线设计
    • 多模型协同策略与评估
    • 作业即标注反馈机制
    • AI 模型性能与成本优化
  3. AI 大模型在企业落地的心得与方法
    • “好场景”胜过“好技术”
    • 企业智能化转型,正当时!
    • AI 是一场真正的变革(5阶8步法)
    • 企业知识管理重回舞台中央
    • AI 对企业IT和数据的重塑

听众受益点:

  • AI 大模型在企业应用的技术方案和适用场景
  • AI 大模型应用过程中有哪些挑战和应对方法
  • AI 大模型在企业应用的心得与方法

by 许小川

腾讯云
安灯产品&研发总监,TGO 鲲鹏会(深圳)学员

腾讯云安灯是一款服务于腾讯云内部、伙伴及客户的一站式 IT 服务管理平台。随着 LLM 技术迅猛发展,我们在 AI 大模型应用上做了很多实战,帮助腾讯云、伙伴及客户降本提效、提升服务水平。

本次分享将介绍我们如何利用 RAG 技术结合私域知识,基于腾讯云行业大模型来构建 AI 智能助手,对内提升服务效率,对外提升客户自助服务降低成本,在此过程中沉淀出企业智能知识库的解决方案;此外,我们基于过去多年沉淀服务数据,通过大模型理解力,构建发现问题-量化分析-改进优化-线上验证的闭环,提升云产品竞争力。

演讲提纲:

  1. 云服务客户服务与技术支持痛点
  2. 腾讯云安灯提供的最佳实践
  3. LLM 技术对腾讯云安灯注入的新动力
    • 智能客服:有温度的专家
      • 传统智能客服的局限
      • IT行业大模型的训练
      • 基于 RAG 的知识问答
      • 企业级智能知识库升级
      • 工具排障的 Agent 探索
    • 共性识别:自动化的分析
      • 传统 ITIL 问题管理流程的局限
      • 共性识别的分类和聚类
      • 智能化的问题管理流程
      • 质量改进的价值度量和可视化管理
    • 更多应用
      • 在客情识别的应用
      • 在文档报告的应用
      • 在用户画像的应用
      • 在 AIOps 的探索等

听众受益点:

  • 了解 AI 大模型在企业应用场景多个探索实践的经验
  • 了解 AI 大模型技术方案在应用过程遇到的挑战以及难点
  • 通过了解 AI 在服务场景上的应用,听众可能会受到启发,对自己的工作或项目产生新的创新思考

交通指南

深圳博林天瑞喜来登酒店

Sheraton Shenzhen Nanshan
地址:广东省深圳市南山区留仙大道4088号
如您在购票过程中遇到问题,请扫码咨询票务小助手