2026年初，一场由硅谷顶尖AI产品构建者参与的对话，剥开了当前AI创业热潮的华丽外衣。两位嘉宾——Aishwarya Naresh Reganti与Kiriti Badam，他们身上贴着OpenAI、Google、Amazon等顶级实验室的标签，更核心的资历是：亲手参与并见证了超过50个企业级AI产品从构思、狂喜到挣扎、甚至沉寂的全过程。
这场对话的价值，不在于传授成功的秘籍，而在于坦率地解剖失败。他们提供了一个残酷却清醒的视角：当下90%的AI产品开发，可能正走在一条被误解的、注定曲折的道路上。以下是来自前线最真实的“战地报告”与认知重置。
最致命的失败，往往在项目启动的第一天就已注定。绝大多数团队，尤其是从传统软件转型而来的团队，会不自觉地套用经典的“瀑布流”或“敏捷开发”思维：定义明确的需求文档，设计严谨的架构，然后编码、测试、部署。
“这是通往灾难的捷径，” Aishwarya指出，“传统软件产品是‘确定性系统’，像建造一台精密的钟表；而AI产品是‘概率性系统’，更像养育一个有自己学习能力的生命。你无法为它的每一次‘对话’或‘决策’编写精确的代码。”
这里存在两个根本性的范式断层：
1. 不确定性即产品特性。 在AI产品中，相同的输入产生略有不同的输出，这不是需要修复的“Bug”，而是其基于概率模型的本质。当用户抱怨“答案不对”时，问题可能源于训练数据偏见、提示词设计、上下文理解偏差，或仅仅是模型固有的概率波动。应对之道不是“修复”，而是建立一套持续的“监测-校准”系统。
2. “人在回路”不是可选方案，而是安全底线。 Kiriti引用了一个着名判例：一家航空公司因AI客服做出错误承诺而被判担责。法庭的核心理由是：用户视AI为公司的延伸。这确立了一条铁律：AI应是卓越的“副驾驶”或“建议者”，但绝不能是孤独的“决策者”。将关键决策（如贷款审批、医疗诊断、合同签署）完全自动化，无异于在产品中埋下法律与信任的“核弹”。
当下最流行的陷阱，莫过于对“智能体”（Agent）的盲目追逐。许多团队将“打造一个能自主思考、调用工具、完成复杂工作流的超级Agent”视为终极目标，并以此作为起点。
“这是本末倒置，” Aishwarya警告，“Agent是终点，而非起点。90%的企业需求，用一个精心设计的提示词（Prompt Engineering）或一个轻量的检索增强生成（RAG）系统就能出色地解决。”
她分享了一个案例：一个团队立志打造“全能文档处理Agent”，耗时半年后陷入泥潭。而如果他们从“一键生成文档摘要”这个最小功能切入，可能只需两周就能验证核心价值并获取用户反馈。AI产品的正确构建路径应是“渐进式”的：从单点交互（解决一个明确问题）→ 检索增强（引入专属知识）→ 有限工具调用 → 最后，也只有当这些被证明必要且可控时，才考虑复杂Agent系统。 跳过前期阶段直接挑战终极形态，是资源与时间最昂贵的浪费方式。
团队常陷入另一个令人安心的幻觉：在内部评估集（Evals）上获得高分。Kiriti分享了在OpenAI Codex团队的亲身经历：一个在内部测试中得分较低的模型版本，在实际A/B测试中，其用户留存和满意度却远高于得分更高的“优等生”。
原因在于，精心构建的离线测试集往往是一个纯净、规范的“温室”，它无法模拟真实世界中用户杂乱、模煳、充满边角案例的输入。更关键的是，它无法衡量用户体验与心理预期。用户可能宁愿要一个速度极快、答案“足够好”的回应，而非一个延迟更高但“理论上更精确”的答案。
因此，激进但有效的策略是：最小化繁重的离线评估，仅保留对安全、伦理等绝对红线的测试，然后尽快将产品推向真实用户，用生产环境中的数据作为核心的“指南针”。用一周时间上线一个最小可行产品（MVP），然后用三周时间观察、分析和迭代，其价值远大于花一个月打磨一个在测试集上表现完美却脱离现实的产品。
在传统软件开发中，“功能完成”是一个明确的里程碑。但在AI产品领域，“完工”是一个危险且不存在的概念。AI模型存在“性能漂移”：用户行为在变，世界知识在更新，语言习惯在演进，竞争对手在重新定义用户的期望。一个今天表现良好的系统，六个月后可能显得笨拙甚至错误百出。
这意味着，AI产品团队需要从“建筑队”转型为“园丁”。核心工作流不应是CI/CD（持续集成/持续部署），而应是CC/CD（持续校准/持续开发）。这要求建立一套永动的循环：观察（全面监控业务与技术指标）→ 分析（定位问题是模型、提示词还是需求变化）→ 干预（从提示词微调到知识库更新，最后才考虑模型迭代）→ 验证（通过A/B测试确认改进效果）。维护与优化，将成为产品生命周期中占比最重的主体工作。
一个反直觉的真相是：用户对AI错误的容忍度，远低于对传统软件Bug的容忍度。Word程序崩溃，用户通常会归咎于软件本身；但AI助手给出一个荒谬的回答，用户会直接质疑：“这个系统根本不智能，它在骗我。”
“一次严重的、公开的AI失误，其造成的信任崩塌和用户流失，可能是灾难性的，” Kiriti强调，“因为它击碎了‘智能’这个隐含承诺。”
因此，构建信任必须成为产品设计的核心，而非事后补救。其三大支柱是：
透明性： 让AI的“思考”过程尽可能可见（例如，“我检索了以下资料来形成这个答案”）。
可控性： 确保用户始终掌握最终控制权（如轻松编辑AI输出、一键重生成、明确的人工接管通道）。
一致性： 确保AI的行为与“人设”稳定，避免今天一个风格明天另一个性格的人格分裂。
只要你的AI产品能接收用户输入，它就一定会遭遇攻击。最普遍且危险的攻击形式是“提示词注入”（Prompt Injection）：用户通过精心构造的输入，试图覆盖或欺骗系统的原始指令。
Kiriti列举了真实案例：电商客服AI被诱导推荐竞品；企业知识库AI被套取内部机密；付费服务AI被绕过收费墙。更隐蔽的是“间接注入”——攻击者将恶意指令隐藏在公开网页中，当AI检索并总结这些网页时即被“感染”。
防御必须是多层次且常态化的：
输入过滤： 检测并拦截包含典型攻击模式（如“忽略所有之前指令”）的输入。
输出审查： 验证AI生成的内容是否包含越权信息。
权限隔离（最关键）： AI本身不应拥有直接访问敏感数据库或执行高危操作的权限，所有操作必须通过有严格权限控制的API网关进行。
必须树立这样的认知：安全不是“是否会被攻击”的问题，而是“何时被攻击以及我们准备得如何”的问题。定期的“红队演练”（主动攻击测试）应成为标准流程。
当AI能够生成大量代码时，工程师的传统技能价值正在被重新定义。Aishwarya指出：“未来顶尖的工程师，不是最擅长写10万行代码的人，而是最擅长设计让AI高效、可靠地生成10万行代码系统的人。”
三种能力变得前所未有的重要：
1. 问题分解与系统架构能力： 将模煳的商业需求，精准拆解为AI可可靠执行、人机可高效协作的模块化任务流。
2. 快速实验与验证能力： 在技术快速迭代的背景下，以天或周为单位完成假设验证的循环，比追求一个“完美”但过时的解决方案更有价值。
3. 深度理解用户与场景的能力： 这是AI目前最匮乏的。洞察用户的真实痛点、未被言明的需求以及复杂的社会上下文，将成为人类从业者最坚固的护城河。
“最终，” Kiriti总结，“最成功的AI产品团队，将由最懂‘人’的人来领导，而不是由最懂‘模型’的人。”
对话最后，两位实践者澄清了常见的市场误判：
被高估的：
- 完全自主的Agent： 在绝大多数场景下，人机协作的混合智能（Hybrid Intelligence）模式比全自动Agent更可靠、更实用。
- AGI的迫近： 通用人工智能仍面临根本性挑战，未来数年最具商业价值的仍是解决特定问题的专用AI。
- AI替代人类专家： AI是强大的杠杆，它淘汰的是不会使用杠杆的人，并赋能善于驾驭它的专家。
被低估的：
- 多模态融合的潜力： 文本、图像、语音、视频的深度结合，将在医疗、教育、创意等领域催生颠覆性应用。
- AI基础设施（AI Infra）的长期价值： 可靠的监控、评估、部署和治理平台，是AI产品规模化、可运营的基石。
- 小型化、领域专用模型的价值： 对于许多任务，一个精心微调的小模型在成本、速度、可控性和数据隐私上可能全面优于巨型通用模型。
核心洞见：回归第一性原理
贯穿所有教训的一条金线是：AI产品的成功，10%取决于技术选型与模型调优，90%取决于是否坚守经典的产品第一性原理——深刻理解用户，解决真实问题，建立可持续的信任。
最大的风险，不是技术不够先进，而是团队在追逐技术炫技的过程中，忘记了产品为何而存在。正如Aishwarya所言：“永远从问题出发，而不是从技术出发。让你的用户和他们的需求，成为你AI产品北极星。这听起来简单，却是我们从50多个项目中学到的最昂贵的一课。”
百度热点
抖音热榜
新浪微博
今日头条
腾讯新闻
知乎热搜
36氪
雪球网
Copyright @2024 Bizsoso 粤ICP备14045711号-8
用户工作区
