knowledge-vault/discussions/project-thinking/AI/AI中台.md

12 KiB
Raw Permalink Blame History

AI中台的讨论

Q

我们是一家以房产中介为核心的集团公司自23年起开始了数字化战略同时将房产中介业务变换为聚焦在提供“住”的相关服务上面不仅仅是房屋的售卖和租赁围绕住相关的生活方面解决客户的问题。 2024年我们打造了线下的旗舰店一家旗舰店覆盖3平方公里的社区为了更好地支撑旗舰店的运营我们同时开启了结合数字化运营的战略上线了全新的数字化平台包括业务平台业务中台和数据中台等等。 现在是2025年负责数字化战略的副总希望今年起打造一个AI中台来支撑业务平台里的各种AI应用。我作为资深的数字化和智能化专家在AI的应用前景、及场景方面与副总没有分歧比如考虑给客户提供AI客服助手给销售顾问提供AI业务助手在业务流程中引入AI员工将打标签并按照标签进行匹配的撮合系统底层更换为AI引擎等等不一而足。2023年9月我当时提出了分三步的规划

  1. 借助第三方大模型实现 RAG来解决目前的AI应用所需要的AI能力问题
  2. 借助可以自行训练可私有化部署的大模型来提升AI能力
  3. 利用行业大模型的优势,对外提供智能化服务,进一步拓展业务范围和提升企业竞争力。

但是在是否需要打造一个AI中台来支撑AI应用上面有比较大的分歧。在我看来先做一些AI应用将这些AI的应用底层提炼出来——AI的公共能力从而形成AI中台是个从下而上的过程毕竟目前的AI还是一个新兴事物很多方面不太成熟。而副总现在应该希望的是直接打造中台将来不成熟的部分是一个中台内部逐步完善的过程是一个自上而下的过程。尽管有分歧我们团队还是梳理出了AI中台应该具备的9方面能力

  1. AI基础设施搭建高效、稳定的AI运行环境为模型开发和部署提供坚实的基础。
  2. 数据处理提升数据质量为AI模型提供高质量的数据支撑。
  3. 模型开发,构建高效的模型开发流程,提升模型的准确性和稳定性。
  4. 模型部署,实现模型的快速部署和高效服务,满足业务的实时需求。
  5. AI应用提供常用的AI应用服务支持业务的多样化需求。
  6. AI治理确保AI模型和数据的合规性、安全性建立健全的治理机制。
  7. 开放接口提供统一的接口便于AI能力的集成和调用。
  8. 运维与监控保障AI中台的稳定运行及时发现和处理问题。
  9. 培训与支持提升团队AI技术能力提供持续的技术支持。

你是一名智能化的专家,同时是麦肯锡的专家。 我的第一个问题是对比这两种策略从AI应用中提炼出AI中台和先打造AI中台为AI应用提供支撑各自有什么优劣?

A

Gemini

您好作为一名智能化专家和麦肯锡的专家我来分析一下从AI应用中提炼AI中台和先打造AI中台这两种策略的优劣并结合您公司的实际情况给出建议。

两种策略的优劣对比

特征 从AI应用中提炼AI中台自下而上 先打造AI中台为AI应用提供支撑自上而下
核心理念 先实践,后抽象,根据实际需求驱动中台建设 先规划,后实践,以中台能力驱动应用创新
优势 * 更贴合实际业务需求,避免过度设计
* 初期投入较小,风险较低
* 迭代速度快,能够快速响应变化
* 架构更完整,扩展性更强,避免重复建设
* 能够更好地管理和复用AI能力
* 长期来看,成本更低
劣势 * 可能导致重复建设,后期整合难度大
* 难以形成统一的标准和规范
* 难以支撑大规模的AI应用
* 初期投入较大,风险较高
* 可能出现中台能力与业务需求脱节的情况
* 灵活性较差,难以快速响应变化
适用场景 * AI应用尚不成熟需求不明确
* 业务变化快,需要快速迭代
* 资源有限,需要控制初期投入
* AI应用较为成熟需求明确
* 业务相对稳定,需要长期规划
* 资源充足,可以进行较大规模的投入

结合贵公司情况的分析

贵公司正处于数字化转型的关键时期并且已经上线了全新的数字化平台包括业务平台、业务中台和数据中台。这为构建AI中台奠定了一定的基础。同时贵公司也有明确的AI应用场景例如AI客服助手、AI业务助手、AI员工和AI撮合系统等。

从您提出的三年规划来看第一步是借助第三方大模型实现RAG这实际上就是在进行AI应用的探索和实践。因此初期阶段我更倾向于采用从AI应用中提炼AI中台的策略。

具体建议:

  1. 优先落地关键AI应用 选择1-2个最关键、最迫切的AI应用进行开发和落地例如AI客服助手或AI业务助手。通过实际应用积累经验验证技术的可行性和业务价值。
  2. 同步进行AI能力沉淀 在开发AI应用的过程中有意识地进行AI能力的沉淀例如模型训练、数据处理、模型部署等通用能力。将这些能力抽象成可复用的组件或服务为后续构建AI中台打下基础。
  3. 逐步构建AI中台 随着AI应用的增多和AI能力的积累逐步构建AI中台。初期可以先构建一个轻量级的AI中台包含最核心的AI能力例如模型管理、数据管理和API接口等。
  4. 持续迭代和完善: AI中台的建设是一个持续迭代和完善的过程。根据业务需求和技术发展不断扩展AI中台的能力例如引入AI治理、运维监控等功能。

关于9方面能力的补充说明

您团队梳理的AI中台9方面能力非常全面基本涵盖了AI中台建设的各个方面。我补充以下几点

  • AI基础设施 可以考虑采用云原生技术例如容器化、微服务等提高AI基础设施的弹性、可扩展性和可维护性。
  • 数据处理: 除了提升数据质量,还需要关注数据安全和隐私保护。
  • 模型开发: 可以引入AutoML等自动化工具提高模型开发的效率。
  • AI治理 需要建立完善的AI伦理规范确保AI应用的合规性和可持续性。

总结:

在贵公司目前的情况下采用从AI应用中提炼AI中台的策略更为合适。通过优先落地关键AI应用同步进行AI能力沉淀逐步构建AI中台可以最大限度地降低风险提高成功率。同时也要保持对前沿技术的关注例如行业大模型为未来的发展做好准备。

希望以上分析对您有所帮助。如果您还有其他问题,欢迎继续提问。

Q

谢谢你的认可。尽快我去年提出的AI应用的三步规划但是最后没有被认可。现在依然会考虑按照AI中台先行的策略。我只是从纯技术的角度出发而负责数字化战略的副总站位会更高一些会考虑到整体经营与外部融资等等方面。 所以若是站在负责数字化战略的副总的角度先推行AI中台能带来AI应用所不具备的什么收益

您好理解您的情况。从纯技术角度出发先做应用再提炼中台的思路是稳妥的。但站在负责数字化战略的副总角度考虑的维度会更广包括战略高度、经营效益、外部融资等。以下我将从副总的角度出发分析先推行AI中台能带来AI应用所不具备的收益

1. 战略高度和前瞻性:

  • 构建技术壁垒: 先行构建AI中台意味着企业在AI领域占据了先发优势能够更快地积累AI能力和数据资产形成难以复制的技术壁垒。这对于在竞争激烈的房地产中介市场中保持领先地位至关重要。
  • 塑造创新形象: 率先推出AI中台能够向外界传递企业积极拥抱新技术、推动数字化转型的决心和实力树立创新和科技领先的形象提升品牌价值和市场影响力。
  • 符合未来趋势: AI是未来的发展趋势提前布局AI中台符合行业发展方向能够更好地把握未来机遇避免被竞争对手超越。

2. 经营效益和效率提升:

  • 降低长期成本: 虽然初期投入较大但AI中台可以避免后期重复建设和重复投资长期来看能够降低AI应用的开发和维护成本。
  • 提高开发效率: AI中台提供标准化的AI能力和服务可以加速AI应用的开发和上线速度缩短产品上市周期更快地响应市场需求。
  • 促进业务协同: AI中台可以为不同的业务部门提供统一的AI能力支持促进业务协同和数据共享打破信息孤岛提高整体运营效率。
  • 支持业务创新: AI中台提供丰富的AI能力可以激发业务部门的创新思维探索更多新的业务模式和应用场景例如更精准的客户画像、更智能的房源推荐、更高效的运营管理等。

3. 外部融资和资本市场:

  • 提升估值: 拥有先进的AI中台可以提升企业在资本市场的估值吸引更多投资者的关注和青睐。
  • 增强融资能力: AI中台可以作为企业技术实力的重要证明增强企业在融资谈判中的议价能力更容易获得投资机构的认可和支持。
  • 吸引人才: 先进的AI技术和平台可以吸引更多优秀的AI人才加入为企业的发展提供强大的人才支撑。

4. 数据驱动的决策和智能化运营:

  • 统一数据标准: 构建AI中台需要统一数据标准和规范这有助于提升数据质量为后续的数据分析和挖掘提供更可靠的基础。
  • 支持数据驱动的决策: AI中台可以提供强大的数据分析和挖掘能力帮助企业更好地了解客户需求、市场趋势和运营状况从而做出更明智的决策。
  • 实现智能化运营: AI中台可以支持各种智能化应用例如智能客服、智能推荐、智能风控等从而提高运营效率降低运营成本提升客户体验。

总结:

从副总的角度来看先推行AI中台不仅仅是为了解决技术问题更是为了构建企业的长期竞争优势提升经营效益吸引外部投资实现可持续发展。虽然初期投入较大但长期来看其带来的收益是远远超过单纯的AI应用开发的。

当然副总也需要平衡好短期投入和长期收益的关系制定合理的实施计划和预算确保AI中台的建设能够顺利进行并取得预期效果。

补充建议:

  • 制定清晰的AI战略 明确AI中台的建设目标、重点和路线图确保与公司整体战略保持一致。
  • 选择合适的合作伙伴: 与经验丰富的AI技术供应商或咨询公司合作可以加速AI中台的建设进程降低技术风险。
  • 加强团队建设和人才培养: 组建专业的AI团队并加强内部培训和人才培养为AI中台的运营和维护提供有力保障。
  • 分阶段实施: 可以考虑分阶段实施AI中台的建设先构建核心功能再逐步扩展其他功能降低初期投入和风险。

希望以上分析能够帮助您更好地理解副总的考量,并为您的工作提供一些有益的参考。