新闻资讯
News and information
-
25
07/05
AI：加速能力退化的元凶
过度依赖大语言模型（LLM）正在加速软件工程师的能力退化。LLM永远无法替代人类的批判性思维。编者按：当业界沉迷于用AI提效的幻象，本文以程序理论与熵增原理揭穿残酷真相：过度依赖LLM正加速工程师批判性思维退化，而重塑技术敬畏已成生存必修课。越依赖LLM，智商越低自2022年末AI浪潮席卷公众认知以来，相关讨论已汗牛充栋。作为从业二十年的软件工程师，我想谈谈观察到的两种危险认知。▍“LLM是我的好搭档”不会真的有人把程序当成自己的伙伴，这话的潜台词其实是：LLM能给用户带来巨大收益。把LLM当盟友的工程师，往往被迫或主动追求速度至上——对他们而言，交付速度比思考深度更重要。虽然LLM确实能快速生成代码，但也会伴随着各种长尾风险：使用LLM的风险·输出风险：LLM可能给出明显错误的代码（比如无法编译的），更危险的是生成看似正确实则暗藏逻辑漏洞的代码。如果使用者缺乏判断能力（比如让项目经理生成源代码），风险将陡增。·输入风险：LLM不会质疑存在诱导性、前提错误或语境缺失的指令。例如工程师要求“用C#实现线程安全的列表”，得到200行完美代码——但这仍是错误答案，正确问题应是“如何让这段代码线程安全”，正确答案只用加一行代码"System.Collections.Concurrent"。LLM无法识别这种XY问题，因为你没要求它这么做。·未来效率：这是升级版“技术债”问题。AI能以惊人速度摧毁代码质量。见过囤积癖患者的屋子吗？外表光鲜，内里却污秽不堪。开发者正发现：缺乏严格约束时，LLM生成的代码正是如此。·能力退化：当个人或组织将思考外包给LLM，人才将迎来灭绝：资深工程师失去在攻坚中成长的机会，现有能力逐渐萎缩：“微软研究发现：AI带来的自信常以牺牲批判性思维为代价”“在这个推崇‘条件反射式AI使用’的世界，我主张保留编程的手艺本质”“LLM直接给我成品结论，却剥夺了思维成长的过程”初级工程师永远无法建立核心能力，更遑论培养下一代。·创造剥夺：众多开发者反馈AI夺走了心流状态和创造乐趣。▍“我会变成多余的吗”答案是不会。当然，有些举措能让你在LLM时代更具不可替代性，这将另文探讨。LLM永远无法具备两种编程核心能力：程序理论（programtheory）与程序熵（programentropy）。程序理论......严格来说，编程应该看作是一种程序员对手头事务形成或达成某种洞察、理论的活动——彼得·诺尔《编程即理论构建》(1985)这位计算科学泰斗指出：程序不是源代码，而是大家分享的心智建构：一种理论或设计。工程师从中衍生出代码，但真正有价值的产物是设计而非代码。理解程序理论与代码文本差异的实验：让水平相当的两组工程师隔离工作。A组开发终端象棋程序，B组等待。完成后将A组代码交给B组，要求两队同时添加人机对战功能。问：哪队能交出更优方案？答：A组。因为他们刚构建完程序心智模型，B组则从零开始。诺尔认为，程序终需维护改造。如果只是掌握代码而无设计洞察，改造成本将倍增。回想我们初次接触大型代码库时，效率总是从零开始爬升——这正是心智模型加载的过程。LLM与程序理论现有LLM受限于上下文窗口，永远无法掌握程序理论。唯有人类能构建并保有这种心智模型。程序熵复杂性是编程一个基本的反作用力。......程序开发是熵减过程......维护则是熵增过程，再精妙的维护也只能延缓系统沦为不可修复废品的进程——弗雷德·布鲁克斯《人月神话》(1975)这位计算机先驱断言：开始开发程序后，任何修改都必然增加复杂度。但符合设计理念的改动能延缓熵增。LLM与程序熵LLM本质是token预测器，仅工作在文本层面。它无法进行概念性思考——不会推理理念、图表或需求文档。所有用过LLM修改过大段代码的人都目睹过：它常进行诡异的多余改动，对话越久偏离越远。诸位见过几次LLM真正降低来代码复杂度的？唯有人类能对抗熵增。▍结语两位先驱对软件设计与复杂性的洞见，恰是这个时代的解药。若你期待AI助推职业生涯，警惕它可能适得其反——LLM正在加速能力退化。若你已是资深工程师却担忧失业，请建立更辩证的认知：LLM永远无法取代人类工程智慧。企业追逐AI旨在通过工程标准化降本，但正如离岸开发的经验所示，LLM不仅难达预期更衍生新风险。眼下滥用AI的企业必将承受长尾成本，要么转型要么消亡。人类工程师的长期价值从未改变——世界始终愿为技术实力与深度思考买单。AI不会消失，但请把它当成工具，而不是拐杖。持续深耕2019年就被珍视的那些工程核心能力吧。本文来源：36氪文章转载于其他网络，如有侵权请联系我们及时删除
-
25
07/05
提效10倍，AI颠覆软件开发，这五条经验是关键分水岭
AI正在改变软件开发的底层范式。我们正处在一个技术驱动的悖论中：AI工具正在以前所未有的速度加速开发流程，却也暴露出巨大的能力差距——相同的工具，不同的团队，产出的差异可以是十倍甚至百倍。这意味着，所谓“AI原生开发”，远不是把工具接入流程这么简单，而是一次对整个研发体系的重构：从原型、协作到部署，每一步都要为AI的介入重新设计。在这份关于“AI驱动的全栈研发方法论”中，我们试图从源头解答一个问题：真正懂得与AI协作的开发者，到底做对了什么？不久前，Bessemer（美国SaaS领域最专业的投资机构之一）对话了PerceptronAI的创始设计师CedricIth——Perceptron是一家致力于构建AI原生产品的前沿公司，专注于将生成式模型融入研发工具链，打造具备自动优化与自我学习能力的开发平台。在Cedric看来，AI并不是插入在流程某一节点的工具，而是应嵌入整个设计系统的“语义层”，在编码、交互、调试、部署的每一个环节中，主动生成、判断和迭代。本文将分享Cedric总结的五条关键经验，带你理解AI在现代研发流程中真正应扮演的角色：从氛围编码（vibecoding）到品味引导，从自然语言原型到全栈交付。这是一个关于人与AI如何共同构建产品的时代信号。01品味是护城河，设计思维是新的超能力在AI几秒就能写出代码的时代，差异化已经不在于“谁能构建”，而在于“谁知道该构建什么”。Cedric曾提出一个判断：我们正进入一个软件资源极度丰富、创造门槛极低的世界。这意味着，技术本身不再构成护城河，真正的竞争力转向了设计思维和产品直觉。当所有人都能用自然语言生成功能原型时，谁能提出精准的问题定义、优雅的解决路径和令人愉悦的用户体验，谁就能占据优势。执行速度、产品感知力、UI/UX细节，正在成为AI时代的新壁垒。与此同时，AI也在重新定义设计流程。新的生成算法让设计师可以用前所未有的速度探索大量设计概念，这不只是为了“更快做出图”，而是让团队可以在用户定义的参数下，自动生成、评估并迭代出更符合人性的解决方案。所以，这不再是一个“会不会写代码”的问题，而是一个“能不能提出好问题，并迅速做出打动人心的产品”的问题。最终的赢家，不是技术最强的团队，而是那些能把AI的执行力与人的品味、判断力结合得最自然的团队。他们才是新一代的“产品创造者”。02自然语言，是一种新的设计界面在Cedric的工作流中，我们观察到一个非常深刻的转变：他已经不再依赖传统设计工具，而是将自然语言作为主要的设计媒介。他说：“关键技能已经不再是写代码，而是如何清晰、准确地表达你的想法和变化，让AI明白你在说什么。”这种变化，正在重新定义设计师的核心能力。设计师正在从“画图的人”转向“用语言驱动产品结构的人”。新兴的关键技能，被Cedric称为“设计词汇”——这不是指能否写代码，而是能否用准确的语言描述现代框架、CSS属性、交互逻辑。例如，他会用“4像素圆角”、“0.2不透明度”、“悬停态”这样的术语与v0交互，将一个带有坐标跟踪的边界框交互，在几分钟内通过提示生成原型，而过去这可能需要工程师数天时间才能完成。这背后隐藏着一种新的提示能力：明晰、一致、共享语言。明晰：把复杂的请求拆解为简单的、可执行的语言。例如，不是“在图像上加个标签”，而是“为图像上的每个边界框，在左上角添加一个粗体白色文本，显示框编号（如Box1、Box2）”。一致性：一旦你把某个功能命名为“分段模式”，就始终如一地使用这个称呼，而不是在后续提示中用其他词替代。共享语言：就像传统团队用标准术语协作一样，现在你也需要“教会AI”你的词汇表。Cedric会在设计初期就引入关键术语，并反复使用，让AI也能“和你讲同一种语言”。最适应这一变化的设计师，往往有两点共性：强烈的学习能力和工具切换能力。他们能在Figma、V0、Cursor等工具之间无缝流转，不断适应新接口，快速掌握AI能力，并用“语言”而非“代码”去构建产品逻辑。正如Cedric所展现的那样：未来的设计师，未必需要成为工程师，但一定要成为高语言分辨率的系统构建者。03“设计工程师”正在崛起我们正见证设计与工程之间那条传统分界线正在迅速消解。Cedric的工作流程就是一个典型案例：从Figma起步，在V0中完成可交互原型，最后直接用Cursor在代码库中进行最终调整。这不仅提升了效率，更重新定义了产品的制造方式：▍闭环所有权正在成为新标准设计师不再只是视觉方案的提供者，而是能在整个技术堆栈中直接操作的产品推动者。正如Cedric所说：“我可以直接贡献代码，并将PR提交到代码库中。这是一个闭环系统，作为设计师我从未拥有过这样的控制力。”设计的意图不再依赖工程师“还原”，而是由设计师自己贯通全流程交付。▍静态模型正在过时过去的线性交接模式——设计师交图，工程师翻译——正在被更具协作性的工作方式取代。现在的设计交付不再是静态图片，而是包含交互逻辑的高保真原型，甚至是具备集成能力的代码框架。工程师面对的不再是一堆注释图，而是几乎可直接上线的可用组件。▍设计与开发的迭代速度被大幅压缩以往样式修改、功能调整动辄几天，如今设计师可在代码层直接处理，不再需要一轮轮截图、注释、沟通。设计评审与功能实现之间的间隔从天缩短为小时，推动产品快速打磨和上线。这种范式转变正深刻影响团队结构和招聘逻辑。最高效的团队往往具备跨学科能力——既能写代码，又懂产品和体验。那些能够在设计与工程之间流畅切换、构建原型、推动落地的人才，将在AI驱动的新生产范式中脱颖而出。未来属于那些既有技术手感，又有品味判断的混合型团队。04四种人工智能原生设计原则随着人工智能应用加速落地，围绕AI产品的设计原则也在逐步成型。Cedric总结了一些区别于传统软件设计的新关键点，正在被越来越多优秀团队采纳。以下是其中最值得关注的四条原则：▍减少认知负荷，让AI主动理解用户最好的AI体验，应该像“与一个聪明的人自然对话”。这意味着，用户不需要反复点击、设置参数、思考指令结构，而是能将注意力集中在表达意图上，让AI自动处理上下文与细节。例如RecallAI和Granola就很好地体现了这一点，它们能在无需用户预设的情况下，从对话中自动提取关键信息与洞察，真正实现“无感操作”。▍接受非确定性，并优雅地处理“脱轨”与传统软件不同，AI系统的输出往往是开放性的、多路径的，可能出现不稳定或偏离意图的情况。好的设计不是避免这一特性，而是提供适当的“监督轨道”。例如OpenAI通过Temporal支持长流程任务的中断重试，Cursor和V0则引入“执行树”和“回退检查点”，允许用户在AI偏离预期时快速回溯并切换路径，避免“眼睁睁看着它跑错而无能为力”的挫败感。▍让AI显示它在“想什么”虽然底层模型可能是黑盒，但交互逻辑和推理过程应尽可能透明。Perplexity展示了极佳的引用机制，让用户知道信息从何而来；Deepseek展示了多步骤推理路径；Anthropic则在“思路链”可视化上持续推进。这些做法不仅提升用户信任，也帮助他们更好地校准AI输出，从而实现“可控性”与“可解释性”的结合。▍设计是为了监督，而不是操作随着AI越来越具备代理性，用户将从“执行者”转变为“指挥者”。这要求设计围绕“协调多个智能体”展开，而不是传统的按钮加操作流。早期的探索已经出现，比如Perplexity的“后台研究通知”、Codex的多线程进度条提示、Comet的生成式表单交互等。这些都在构建一种新的交互范式：用户不再逐步驱动，而是高层指令+智能反馈的闭环。这些原则仍在演进，但有一点可以肯定：今天就开始围绕这些维度构建产品的团队，将率先打造出更自然、更值得信赖的AI体验。未来的AI产品，不是让人“会用”，而是让人“想用”。05在崛起在AI时代，速度就是一切在AI工具日新月异的时代，变化的速度令人惊叹。正如Cedric所说：“也许在我们讨论结束时，v0就已经不是最好的工具了。”这并不是一句玩笑，而是对当前产品环境最真实的写照。快速变动的生态，正在迫使企业从“构建完美产品”转向“构建快速学习型组织”。从我们与Cedric的对话中，可以提炼出几条在这种环境中脱颖而出的组织特征：允许团队主动尝试新工具，不以技术稳定性作为唯一评估标准；优先推进“先交付再优化”，把学习和反馈速度放在第一位；构建模块化、API驱动的架构，使系统具备快速整合能力；强调“学习速度”与“专业经验”同等重要，鼓励主动适应变化。对于大型企业而言，这种转变尤其重要。Cedric的建议很实际：即使你无法直接影响生产系统，也可以用AI工具快速制作高保真的交互原型，从而赢得组织内部的认可。设计不再只是“设计”，而是推动组织变革的试验田。这种加速是复合性的——设计师能够更快地制作原型，工程师能更快地实现功能，团队能更快地获取用户反馈。整个产品开发周期被压缩，创新密度变得前所未有地高。Cedric的AI设计堆栈，正是这一趋势的缩影：Figma：依然是视觉设计的“真相来源”，用于布局、结构和初步框架，但在处理动态交互、状态管理等方面存在限制。v0/Lovable/Bolt.new：承接Figma输出，支持自然语言定义动态行为。比如通过对话提示即可绘制坐标边界框，实现实时交互逻辑。Cursor/Windsurf：直接在代码层精调样式与交互，比如“设置角半径为16px”、“依次编号每个框”，并生成PR提交给工程团队。Shadcn/Tailwind/UntitledUI/HeroUI等组件库：为AI提供标准组件语义，极大降低幻觉风险。例如，用户可以直接说“使用Shadcn的toast组件”或“应用Tailwind不透明度20”，从而实现一致、可控的代码生成。本文来源：36氪文章转载于其他网络，如有侵权请联系我们及时删除
-
25
07/05
AI颠覆广告利润池
AI正以前所未有的速度重塑广告行业，可以视为广告领域新一轮革命的引擎。高盛最新深度研究预计，未来几年AI将撼动全球约4,700亿美元的广告利润池。这场变革涵盖广告投放方式、内容创作流程、受众定位和创意生产等方方面面。这场变革并非遥远的未来，而是已经发生的现实，#谷歌和#Meta正凭借AI自动化工具收割第一波红利。中国科技巨头#腾讯、#字节跳动、#阿里的AI工具矩阵，也在改变着广告的创作、投放与衡量方式。01AI如何重构4700亿美元的广告利润池高盛的研究将数字广告列为仅次于云计算的AI应用最成熟赛道，并预言AI将从四个层面重塑其利润格局：渠道转移（1,700亿美元机遇）：AI将加速传统广告预算向更高效、更可衡量的数字渠道迁移。高盛报告指出，数字广告对全球广告总量的渗透率已从2017年的40.8%提高至2024年约69%，年均提高约4个百分点。但报告也提示，若传统媒体能自行部署AI以提升投放效率，则利润池重构未必全部被数字平台吃下。创意生产（1,140亿美元节省）：生成式AI将大幅拉低广告创意的制作成本。过去昂贵且耗时的创意开发（占总支出5%-30%）将被AI驱动的规模化生产所取代。一个鲜活的案例是，Kalshi公司利用谷歌的文本生成视频模型Veo，以极低的成本制作了在NBA总决赛期间播放的广告。代理重塑（1,610亿美元变革）：自动化平台让广告主能直接触达受众，传统广告代理商的核心价值受到挑战。Meta已明确表示，其目标是实现端到端的广告流程全自动化，这将直接冲击全球广告代理商高达1,610亿美元的年收入。中介压缩（250亿美元挤压）：AI驱动的一站式广告平台正在“抽象化”技术价值链，减少了对第三方广告技术中介的需求，可能挤压其约250亿美元的利润空间。简而言之，这并非零和游戏，而是一场深刻的价值重塑。AI带来的红利将在平台、广告主和部分服务商之间重新分配，而那些无法适应变化的传统角色将面临淘汰。02AI广告产品的先行者：谷歌PerformanceMax与MetaAdvantage+高盛研报将谷歌的PerformanceMax（PMax）和Meta的Advantage+誉为“目前最成功的综合AI广告产品”，这两大巨头已经在AI赋能广告方面抢占先机。它们的共同点是：广告主只需提供营销目标、预算、素材创意和受众线索，系统即可利用AI自动完成跨渠道的投放决策和优化，实现“一键式”广告投放。作为Google于2021年底推出的创新广告产品,PMax并不对应某单一广告资源，而是横跨搜索、展示、YouTube、Gmail等全平台。广告主选择PMax后，只需提供转化目标（如尽可能多转化、目标CPA或ROI）、预算、广告素材（图片、视频、标题、描述）以及第一方数据（谷歌称之为“受众信号”）。随后，PMax利用AI根据设定目标自动制定投放策略、分配预算、选择最佳投放版位并动态调整出价，直至达到广告主目标。整个过程中无需人工干预——无需手动设置版位、竞价或反复调整素材格式，AI引擎将完成这一切。PMax深受广告主青睐：在美国，采用PMax的广告主比例已从2021年Q4的2%激增至2024年Q4的59%，其投放支出占美国谷歌广告总额的46%。MetaAdvantage+运作理念与PMax类似。虽然上线时间较PMax略晚，其增速同样惊人：美国广告主对Advantage+的采用率从2023年Q1的2%攀升至2024年Q4的36%。这表明短短两年内，超过三分之一的Meta广告客户开始依赖AI驱动的自动投放。当然，也有细分领域的挑战者崛起，例如AppLovin的Axon2.0聚焦移动应用广告、Pinterest的Performance+主打视觉搜索广告，它们借助AI在各自领域快速抢占份额。03中国玩家的布局：抓住AI浪潮在全球广告版图中，中国的广告科技巨头（字节跳动、腾讯、阿里巴巴等）同样在大举投入AI，以期引领下一代广告范式。它们立足本土庞大市场，在算法和数据方面具备深厚积累，如今借助AI东风，有望巩固优势并在部分领域与国际巨头拉开差距。▍字节跳动：用AI再造第二曲线作为国内移动互联网广告的领军者，字节跳动凭借个性化推荐算法（今日头条、抖音的内容分发引擎）崛起，本身就体现了AI在广告内容推荐和受众匹配上的威力。在AI创意和投放方面，字节正在全面加码：2025年初，抖音推出了“即创AI”平台，标志着其广告创意生产流程的智能化升级。即创AI集成了生成式AI技术，提供从脚本/文案生成、图像生成到视频制作的一条龙工具。据披露，平均生成一条视频素材用时不到5分钟，图文素材仅需33秒，连广告脚本都可在10秒内自动生成。平台内置3,500+数字人形象覆盖各行各业，广告主可以自由选择匹配目标受众的虚拟代言人，免去昂贵的真人拍摄费用。同时，还提供商品卡片一键生成、图文快速生成等工具，帮助广告主高效制作符合市场热点的创意素材。更重要的是，即创AI打通了投放前洞察和投放后分析：在创意产出前，系统提供行业数据和灵感建议，辅助找到有潜力的创意方向；投放后则通过智能数据诊断跟踪素材表现，并内置“爆款裂变”功能，能自动对高效素材进行二次创作衍生，持续优化投放效果。可以说，字节跳动通过即创AI将创意生产、投放优化整合为闭环，大幅降低广告主创意瓶颈，使其能以更低成本、更快速度响应市场。这被视为字节开拓广告业务“第二增长曲线”的关键，帮助广告主释放创意潜力、提升营销ROI。在广告投放侧，字节跳动的策略与谷歌如出一辙。巨量引擎推出的UBMax被称为“字节版的PMax”。UBMax覆盖字节系几乎所有广告资源（抖音、今日头条、西瓜视频等），实现全自动化投放：广告主只需提供预算、投放目标、受众信号和创意素材，系统即会根据目标自动完成策略制定、资源分配和优化。UBMax与PMax不仅名字相似，内核几乎无异。字节甚至在2025年3月将几乎所有手动投放方式切换到了UBMax，充分显示出对AI投放模式的重视和信心。此外，字节的巨量引擎早前也推出了“巨量千川极速版”等产品，以服务电商广告主，一样强调无需手动选人，由系统智能找人扩量。这些举措都表明，字节跳动正全面拥抱AI驱动的广告投放范式，希望以技术升级巩固其在效果广告领域的领先地位。在国际市场上，字节跳动依托TikTok迅速崛起，已经成为挑战谷歌、Meta的新势力。TikTok之所以能在广告业务上后来居上，一个重要原因就是其出色的AI内容推荐和用户洞察能力，带来极高的用户粘性和广告参与率。而2024年字节进一步在全球范围布局AI广告工具：TikTok推出了Symphony智能创意套件，包括SymphonyCreativeStudio、AI助手、数字分身等模块，为广告主提供生成式AI视频制作等功能。其中，SymphonyCreativeStudio可以将文字描述一键生成短视频、自动配备可编辑的预览片段，并支持数字虚拟人、内容混剪、自动翻译等强大功能。2024年11月，TikTok宣布将这一生成式AI视频创作平台向全球广告主开放。这意味着TikTok广告客户无需复杂的制作团队，就能借助AI快速定制高质量的广告内容，充分发挥TikTok短视频社交的营销威力。字节跳动已将AI视为未来广告业务的制胜关键，从内容生产到投放分发构建了完善的AI工具链。这将帮助其在颠覆传统广告范式的同时，向全球广告霸主地位发起有力冲击。▍腾讯：开掘“社交+内容”的独特价值腾讯在AI广告上的布局同样不遗余力。腾讯的优势在于社交和内容生态（微信、QQ、视频号、腾讯视频等），拥有海量的第一方数据和广告场景。面对AI浪潮，腾讯选择从自身技术积淀出发，推出大模型驱动的广告解决方案。腾讯广告的一站式AI广告创意平台“腾讯广告妙思”，是基于腾讯自研的混元AI大模型构建的AIGC创意套件。妙思平台为广告主提供多场景的创意生成工具，包括文字生成图像（文生图）、图像生成图像（图生图）、商品背景自动合成、特定风格LoRA微调等。换言之，无论广告主需要全新海报、商品精修图，还是不同风格的素材迭代，妙思都能一键生成。尤其在营销常用的人物形象和视频素材上，腾讯妙思的数字人功能表现突出：内置数十种不同年龄、性别、服饰风格的数字人模型，广告主可以像挑选模特一样选择数字人来展示产品。据腾讯介绍，如果用真人模特拍摄加后期处理，产出一组可用素材需要2-3天；而利用妙思平台，10分钟即可生成等量素材，效率提升数百倍。这为游戏、时尚、教育等需要大量人物创意的广告主节约了大量时间成本。同样，腾讯还将混元模型的多模态生成能力开放到广告投放平台，每位广告主都可直接使用模型生成文字、图像乃至视频内容。这种把AI创意能力普惠化的举措，有助于提升整体广告素材质量和丰富度。腾讯广告希望通过混元大模型“释放创意产能”，贯通创意生成、投放优化的全流程。可见，“妙思”是腾讯以AI赋能广告的战略抓手，意在稳固其在品牌广告市场的服务优势，并追赶字节在效果广告领域的步伐。在广告投放方面，腾讯亦在加速AI化转型。其提出的“腾讯广告3.0系统”本质上就是高度自动化、智能决策的投放平台。这一系统取消了人工设定出价和圈定人群的步骤，由AI根据广告主提交的业务信息和目标自动处理。广告主在使用腾讯广告投放平台推广微信生态或腾讯联盟广告时，可以选择智能投放模式：只需输入产品卖点、目标受众描述、转化目标（如表单收集、下单）和预算，系统会智能匹配合适的广告位（朋友圈、公众号文章中、QQ空间等）和人群。腾讯方面还利用AI改进广告效果预估和转化建模，使投放优化更加精准。随着AI介入，腾讯广告开始弱化精细手工操作的重要性，而更加强调广告主与系统的信息沟通。例如，投放师需要详细地向系统“讲述”业务，以便AI理解并执行正确策略。如果说过去投放优化是人与人的博弈（广告优化师对接媒体流量经理），那么在腾讯的AI广告时代，变成了人与AI的协同：人提供高质量输入，AI输出优化结果。对腾讯而言，拥抱AI投放不仅可以提高现有广告客户的ROI，还有望吸引大量中小企业（尤其那些没有专业营销团队的），因为AI大大降低了他们使用腾讯广告的技能门槛。这实际扩充了腾讯广告的潜在客户基础，做大了市场蛋糕。在与国际对手的比较上，腾讯的场景（社交+内容）和数据维度较为独特，AI在洞察社交关系、兴趣图谱上可能发挥不同于搜索/电商场景的作用。总体来看，腾讯正通过大模型赋能创意、多渠道智能投放，打造自己的AI营销闭环，以全面提升广告主投放的质量和转化，并在新技术赛道上保持竞争力。▍阿里巴巴：电商营销的AI范式转型阿里巴巴的广告业务与其电商平台高度融合，特点是以交易导向的营销场景为主（淘宝/天猫站内推广等）。在AI浪潮下，阿里围绕商家需求，构建覆盖内容生产到投放的AI工具矩阵，努力实现“让天下没有难做的营销”新境界：阿里妈妈（阿里巴巴营销平台）于近年来推出“万相实验室”生成式AI产品，为商家提供素材自动生成服务。商家只需输入商品基本信息和简单指令，即可一键生成商品短视频、推广图文等高质量素材。以服饰商家为例，阿里妈妈借助AI提供近百位数字人模特，实现不同场景下的试穿展示，30秒生成大片，无需真人实拍，大幅降低素材制作成本。据统计，通过万相实验室智能生成的素材，其制作效率相比传统方式提升了5倍，同时商品广告点击率提升约45%。除了视觉内容，阿里妈妈在文案生成上也早有布局——“AI智能文案”系统可以基于淘宝、天猫的海量优质内容语料，每秒钟生成成千上万条商品文案。经过多代进化，该系统能针对商品不同属性给出多样化措辞，实现商品文案的千人千面定制。2023年阿里妈妈进一步宣布AIGC创意能力升级，通过四大产品、六大功能点覆盖图文、视频、落地页的全链路智能创意支持。也就是说，从商品主图、短视频到详情页、活动页，商家都可以借助AI一键生成和优化。这些工具的推出极大缓解了商家在大促时期内容产出的压力，让中小商家在平销期和大促期都能轻松实现批量内容上新。如果说万相实验室解决了“素材从无到有”的问题，那么阿里妈妈的“万相台无界版”则旨在解决“有了素材后投放到哪里、给谁看”的问题。万相台无界版是一站式的智能投放系统，能将商家通过AI生成的各类图文、视频创意一键智能投放到淘宝全渠道。它打通了手淘App内的搜索、推荐信息流、直播、淘系站外联盟等多个渠道，利用AI算法为不同素材匹配最适合的投放场景和目标消费者。举例来说，同一商品的视频素材，系统可能判断在手淘推荐流中效果最佳，而图文素材更适合在商品详情页或直通车广告位展示，那么万相台会自动进行区分投放，以发挥每条素材的最大价值。这种全域智能投放减少了广告主在同一平台重复创建多条广告的负担，由系统统一优化。在人群定向上，万相台无界版也内置了AI人群扩展功能，如前所述每天可为商家扩展新增触达人群超2亿。在国际竞争方面，阿里的模式与亚马逊广告有一定相似之处（都依托电商平台数据），可以预料双方将在AI驱动的电商广告上各展所长。阿里已经开源了部分大模型，并推出如“通义万相”文本生成图像模型等，未来这些AI能力或将进一步用于跨境电商（如速卖通的AI店铺助手、面向海外商家的设计工具PicCopilot等)，帮助阿里在全球范围内提供差异化的智能营销服务。无论是PerformanceMax、Advantage+在全球市场的迅猛扩张，还是国内字节、腾讯、阿里接连推出的AI广告引擎，我们看到广告投放更加高效精准，广告内容生产更富创意且成本更低。AI重塑的不仅是广告业务的效率曲线，更是行业的价值分配格局——拥有数据和技术优势的平台型企业正收割更多红利，而传统中介和代理角色被迫转型。在此过程中，广告主和消费者也将双双受益：前者获得更高ROI和更简易的营销工具，后者则体验到更个性化、更有趣味的广告内容和服务。当然，机遇伴随着挑战。AI时代的广告需要警惕诸如内容同质化、虚假信息生成、隐私合规等问题。同时，创意人员和营销人员需要不断提升技能，与AI协作而非被其取代。可以确定的是，AI不会让好广告消失，只会让坏广告越来越少。本文来源：36氪文章转载于其他网络，如有侵权请联系我们及时删除
-
25
06/23
Agent “兴” ，企业软件 “亡” ？
从融合走向新生AI浪潮下，传统应用软件会消亡，还是与AI“共生”？在崔牛会策划的「DeepTalk」的第二个系列话题栏目「AI的争议」对话中，由崔牛会创始人&CEO崔强主持，邀请了明道云创始人&CEO任向晖、企业级AI应用创业者张浩然，围绕“应用软件消亡论：AIAgent是否将取代传统企服软件”主题，展开了精彩讨论。任向晖认为，未来Agent将是企业软件的一个重要门类，它与原有企业软件是互相融合，而非完全取代的关系；企业软件应当先建设好所在应用领域的优势，然后再考虑接入AIAgent的能力。张浩然认为，新一波AI-Native的应用公司，更应该关注的是如何利用好上个时代已经构建出来的生态，来形成自己的价值交付。以下是经牛透社编辑整理的对话内容：（有删减）替代焦虑崔强：今晚讨论的话题是“AIAgent会不会取代企服软件”。我们会从架构、知识壁垒、新老格局三个方面展开讨论。请两位嘉宾先就今晚的话题谈一下自己的观点。任向晖：我的观点是不会取代，虽然这也不代表传统企业软件就可以高枕无忧。从中短期看，AIAgent这一新细分赛道要取代所有企业软件的细分市场并不现实。主要有以下几个原因：第一，企业软件虽然传统，但并非一无是处，虽然它不如今天的AI智能，但它也有很多特点比如精确性、可管理性、GUI本身的独特能力等，这些都是AI不太可能完全替代的。第二，AI生态已经表现出一种向工具软件、应用软件主动集成的趋势，或者说它已经主动采纳了这个技术架构。比如现在几乎所有的AIFlow产品，都提供了FunctionCalling（函数调用），包括最新的MCP协议，以及向量化嵌入、知识图谱嵌入等架构，它们的存在说明了AI能力要结合应用软件的能力，才能最终端到端地解决客户的问题。这好像人家已经把手伸过来要和你握手了，你却说我不行了，我要去做你这个，这显然是非常不理性的。以上是两个基础原因。第三，从市场角度来讲，AI领域的公司和传统的企业软件公司在相互渗透时，是存在一点不对称性的。从现在来看，企业应用去加AI能力要相对容易，而AI能力去加企业软件所在细分市场上的领域能力，相对更难，或者要花的时间更长。所以，企业软件公司，至少在与AI相互融合的难易度方面是占一定优势的。第四，是时间周期的现实性。在企业软件产品规划的现实周期内，在AI没有完全形成替代能力的情况下，企业软件仍需要按照现有的技术架构演进下去。所以虽然AI技术是飞跃的，但应用产业飞跃不了，它永远都是进化的。所以，未来五年内，企业软件还是要建设好所在应用领域的优势，然后再考虑接入AIAgent能力，而不是因为担心会被AIAgent完全取代，自己也转行去做AIAgent了，这更可能是舍本逐末。张浩然：这个问题，还要看SaaS或者上一个软件时代的本质到底是什么。我对它的总结是一个组织所有的工作流程、SOP，从完全的不在线到在线，然后又有一些工作流因为在线而变得更好地自动化。从本质上讲，我们讲SaaS软件的时候，是讲一个由无数SOP或者企业经营Know-how所组成的场景聚合的应用载体。这个应用载体过去完成了在线、自动化，接下来一定会向智能化方向演化。在线和自动化，提供了非常丰富的数据养分和巨大的数据体量，构建出的SOP或者Workflow，这些都会成为AI学习的经验。而智能化的本质就是要去思考怎么利用这些数据、经验，让企业的经营模式在下一个技术浪潮中产生改变。这个智能化的趋势在大模型出来之前就已经发生了。今天的LLM（大语言模型）再加上RL（强化学习），其实是把原来的深度学习、机器学习推到了一个新的高度。所以，与其说是取代，不如说是演化。这个过程中需求也会发生很多变化。过去很多需求都是非黑即白的，现在逐渐开始有了一种介于两者之间的灰度需求，这些需求上一代架构是没办法再满足的，这时就会融合产生一种全新的AI-Native应用。所以，最终看起来就是一种取代关系。融合之路崔强：刚才浩然提到了一个问题：原来的软件架构和现在的AI-Native架构有什么本质不同吗？现在企业软件在架构和功能上要做出哪些具体的调整才能与现在的AI进行融合？任向晖：两年前可能还不太清晰，现在我觉得整个智能体、LLM本身的一些技术路径已经比较清晰了，结合无非是以下几个方面：第一类，就是在特定领域里进行必要的微调或者再训练。比如医疗、法律已经有一些尝试在做垂直领域的大模型，或者是在专业领域可以提供精确度更高、质量更好的服务；第二类，就是现在应用比较广泛的，如知识库、客服这种RAG，这个方面的应用方向也比较明确了；第三类，可能是最重要，也是企业软件和AI能力最主要的结合方式，就是FunctionCalling（函数调用），这要求企业软件本身的接口要面向AI友好地呈现。如果以往软件产品的接口设计是不够完善的，现在就要迅速补上这一课。原来中国的企业软件公司在开放性方面做得比较薄弱，有开放API的少，有高质量开放接口的更少。我觉得今天要尽快把这一课补上，还好它的难度并不算非常高。崔强：浩然，你怎么看企业软件和AI的融合、握手这个问题？张浩然：我觉得肯定要握手。今天LLM驱动的AI底座，如果没有一个好的容器，一定是缺胳膊少腿的。所以，AI如何用好上一代建立起来的软件优势，形成自己的价值交付是一个关键。单纯的一个LLM驱动的Agent应用，其实并没有什么壁垒。如何让Agent工作，如何保证Agent在不同工作场景里既能够泛化又能稳定地输出，这是我们应当关注的一个方向。崔强：Agent让应用体验变成对话式的，未来会不会一些设计或者流程就不需要了？任向晖：现在的判断是不能。企业软件并非今天完成了一个单一的任务就结束，而且有时的确也存在很多与智能性没有关系的东西。比如一些现实性的工作需要，或者是一些行业性的要求，这些都是需要GUI来辅助的，并不是通过对话就能够完全解决。基于这些原因，肯定是一个渐进的、融合的过程，传统企业软件和AI这两个东西都可能会存在。崔强：浩然关于这个问题怎么补充？张浩然：人的必要性永远存在，只是人的角色可能会发生变化。SOP、垂直领域的Know-how，这些也不会消失，但会以另一种方式呈现。比如以Zapiar、HubSpot、Salesforce这一类流程引擎来说，过去都是把人类在这个世界里构建起来的Know-how转化成了一种映射在机器中的流程，本质上它还是人的Insight（洞见），而不是机器的洞见。这一波AI最大的价值，在于机器有了洞见能力，那么流程是否可能由机器完成，人的作用要如何改变？在这个过程中，人的作用应该是建起一个河堤，不要让Workflow（流程）脱离河堤来运行；而且AI也不会无限地扩展，必定会被具体领域里的边界所限制，人更重要的作用是要关注这个边界在哪里。以往做SaaS、做软件其实是建立起来了一套“0和1”的规则。而AI-Native应用不一样，它是有灰度的，这个灰度再叠加上智能性，让AI可以在定义工作流这件事上，一定程度上替代人类，这也是AI-Native应用一定会替代SaaS的本质。但CUI（对话式用户界面，ConversationalUserInterface）和GUI（图形用户界面，GraphicalUserInterface）其实不是对抗的，而是相辅相成的关系。CUI最大的优势是在于意图理解，而GUI的优势是在于效率。所以未来一定会出现一种全新的交互方式。灰度驱动的新一代智能系统所带来工作流的动态变化，才是AIAgent在企业级市场的最大潜力。这中间我们需要做的是什么呢？就是在Plan环节如何去纠正，在运行环节怎么去控制，以及在运行以后如何去观测和审计。这可能是AI-Native应用与SaaS不同的地方。崔强：为什么灰度反而推动了这样一个进步呢？你可以补充一下。张浩然：灰度在我看来是某种程度的泛化。我在使用LLM时，体验是当我在研究每件事情的时候，它会突破我提供给它的框架，生成一些我完全没有想到的角度。这其实可以对标刚才我想表达的灰度含义：虽然不是绝对精确，但也不是错误的。这个灰度在企业级市场里面，和原来强定义的那套东西不同。任向晖：灰度目前肯定会存在的，是没办法精确控制的。目前在AI应用细分市场相对跑得比较快的，都是对精确性要求门槛低，如一般的客服场景。但大部分企业软件的门类可能不太能接受灰度，比如财务软件、工作流软件等。从我们服务客户的经验来看，没有客户是喜欢灰度的。张浩然：我在这个地方的视角，是因为今天的SaaS只是交付过程，而不是交付结果。如果五年后AIAgent交付的是某个结果，但在交付结果的过程中，很可能是到了交付的里程碑节点，需要人的互动。但和以往相比，需要人介入的颗粒度可能是被拉粗了，某种角度，这个灰度是被AI内部消化掉了。虽然，某些情况下存在一定的灰度性，但这个里程碑却是可控的。任向晖：相信今天做AI来解决企业软件问题的人，都想实现端到端的目标。你也提到了它不可能一步达成，有时只能跳到某一个里程碑，这时需要人的参与。问题是你不知道这个里程碑会失败在哪个点上，它可能在整个链条当中随时都可能失败，这就意味着你在每一个环节还是要安排观察窗，需要提供人类操作的入口，这和现在并没有什么不同。这也从另外一个角度来说明，今天我们构建的企业软件，可能就是在实现端到端之前必须做的一个事情。而且如果仅是企业的端到端，意义并不大，因为很多情况下需要跨越企业边界，但企业边界并不一定就是同步发展的。未来五年，甚至十年企业要实现真正的端到端其实是很困难的。在这种情况下，坚持做好观察窗，还是领先优势的保障。张浩然：观察窗一定不会消失，但定义可能会被改变。如果把GUI视作观察窗，过去是由人来控制，今天可能是由AI来控制。过去我们做软件是面向人做，下一步会不会转变成面向AI来做？就像以往浏览器是给人用的，今天大家都在面向AI做浏览器，这就是一个变化的奇点。如果我们把上一代已经建立好的互通的API、Workflow、流程，变成面向AI来做，这时就可能产生一些新的变化，这也是新的创业者的机会；从另一个角度，我也认同LLM发展到一个阶段以后会停下来，没有办法向着所谓的端到端发展，可能会有更新的框架来解决这个问题。今天在LLM基础上叠加了各种Agentic系统，才是有可能替代SaaS的东西。绝对以大模型驱动的端到端是很难实现的，但以Agentic系统来完成应用构建的端到端的新方向会到来。任向晖：未来Agent肯定是一种很重要的软件形态，可能是企业软件中的一个重要门类，原来的门类和它有所结合，现在大家应该都看得到这个愿景了。现在的智能体市场，有很多年轻的创业者来做这样一个新的门类，我觉得是更为可取的。原来的企业软件产品公司，也有去做智能体编排工具的，我觉得这就没有必要了。我不否认Agent是一个很重要的形态，但它只是与企业软件的结合，而不会把原来的这个门类的软件都替代。崔强：我们在使用AI的时候，怎么保障它的安全性？在这个过程中企业自己的数据会不会被公有化，怎么在保证数据的隐私和安全的前提下去迭代？张浩然：这是个难点，但并不是一个新问题。以Agent和Agent之间的互动协议为例，这些通信协议中能够获取的权限也是要被管理的。过去人在系统中需要身份认证，今天Agent在整个系统中同样需要身份认证，这意味着以往的安全性保障体系在AI时代仍然需要，问题是它们如何融合到新的AI系统中，来完成第一道安全屏障。第二道安全屏障，我认为同态加密这类技术也会火起来。任向晖：这与SaaS的公共云和私有云服务是类似的。如果采用FunctionCalling，从本质上并没有把私有数据存放到大模型里去。如果大家觉得只要和自己的内部数据有通信就是不安全，这其实是有点过度了。这也导致了DeepSeek出现以后，大家都想要私有部署一个，我觉得这是不可持续的，因为它的成本是不合理的。大企业可能还具备规模经济效益，但对于绝大多数中小企业来讲这是不现实的。而且模型本身也在进步，没有理由未来的成本也像今天这么低，所以基本上最后绝大多数中小企业还会使用公共服务的模型。只有大型企业可能会选择私有部署。而且安全的本质也不是靠部署模式来决定的，而是一个全方位的东西。因此，我不觉得这与AI有什么特定相关的关系。AI生态之变崔强：目前国内生态都不太开放，用MCP的方式也很难解决联通的问题。从国内生态环境来看，五年后AI的生态会发展成一个什么样的状态？张浩然：很难说，整个基础设施还在不断完善，Agent调用工具的准确性还会继续增加，所以MCP这种基础能力会成为一个共识，但它能否成为AIInfra的一环也说不好。但是以五年来看，Agent调用工具的准确性会非常高，这意味着一个Agent单元的边界会被定义得非常清晰、具体。大家可能通过SaaS以往的定义和想象，来清晰描绘出未来Agent的定义和想象，这可能也是下一步会看到的一个变化。任向晖：这可能要依靠两边的共同努力。一方面模型能力肯定还会继续提高，它也许还能提供比我刚才所讲的三种结合方式更好的方式，但有一点是肯定的，企业软件自身也是需要努力的。这需要耐心，同时要避免做无意义的事。比如我们今天做的事，就是利用Agentic能力调度我们的内部接口，通过用户提示和提供的材料，能够生成自己定义的Agent，这是明道云自己的零代码应用模型。但这个过程说起来简单，实现起来需要拆成非常多的步骤，每个细节可能都要打磨几个月才能达到可以接受的准确度，这也是我们做应用软件应当去努力的。如果不在我们这一侧去做对齐、验证，即使另一侧模型的能力越来越强，我们也解决不好客户的问题。所以，五年其实是可以走很远，但大家要尽快取得一些共识，即不要做那些无意义的事。如果你不理解现有的技术限制，而是只想做一些噱头性的功能，就等于是在浪费时间。崔强：我们现在看到一种趋势，大模型也在推一些新能力，比如Kimi推出了PPT、思维导图这样的通用能力，这可能会对一些做单点应用的产品带来一些困扰。同样的，一些工具型软件也在往上走，去训练自己的私有小模型。未来两位怎么看AI-Native和传统软件之间，以及大厂之间、模型平台之间这种格局的竞争？任向晖：我觉得小厂是有巨大优势的，而且这和AI没什么关系。比如最近我们购买了一款录屏软件，这个产品就是完全靠设计取胜的，它是国外一个小团队做的，它的功能设计也和AI没有特定的关系。这说明竞争绝对是不在于技术路径的，和有无采用AI也没有太大关系。在大多数情况下，赢得客户的心，都是要靠主流技术以外的东西。因为主流技术是所有人都关注的，今天的AI几乎是一个公共的东西，它的门槛也越来越低。所以对于小厂来说，关键在于你能否在很多细分市场中找到独特的机会，并且专注去做。崔强：你的观点是小厂还是有很大优势，不要纠结在技术、品牌实力上，而是完全要靠创新，找到属于自己的细分市场。张浩然：我非常认同，我觉得技术不是本质。新一波AI-Native的应用公司，更应该关注的是如何利用好上个时代已经构建出来的生态，而不需要再去考虑怎么去建立那些已经被人建立过无数次的底座了，而是要考虑怎么利用它们，通过AI创造出的新价值。定义清楚价值，不断思考怎么用新一代的AI-Native应用去交付价值才是重点。崔强：SAP在每一轮转型的过程中都做了相应的收购，未来中国的企服生态会不会也有这样的状态，即大厂在转型过程中收购一些新的小厂，来补充自己的技术版图？任向晖：总会有这么一天，这也是产业规律。但我觉得“老大哥”们要先解决好眼下的问题，即自身的造血能力要补回来。我觉得一两年内都是比较麻烦的，要三五年才可能走到这样一种整合状态，这样也更健康。张浩然：这是非常好的，比如一个AI-Native的应用，今天靠快做出了一个垂直场景的交付，但是应用的底座其实是存在很大竞争壁垒的，不是短短几年就能够搞定的。这时如果小的创新型AI应用公司，能够适时地把我们定义好的价值，找到一个可以将它放大10倍、20倍的底座交给他们，这其实也是一个好的结果。任向晖：其实大部分SaaS公司的创始人天天关注的也是他们的AI产品，或者是产品如何利用AI能力。这时我觉得相比较错过，容易做多做错的风险反而会更高一些。崔强：最后两位再用最简短的话来总结一下今天自己的观点和内容。任向晖：大家知道一个最经典的对比，就是100多年前汽车替代马车的例子，把SaaS公司比作是马车，AI原生应用比作汽车。但大家可能更容易忽略一个历史事实，是很多汽车公司都是从当年的马车公司转型过来的。所以大家从历史回顾来看，都容易过度简化，但是从微观事实来看它并不是这样。传统企业一直都在关注这个市场。所以，更大的可能性就是技术融合，也不要太焦虑。张浩然：我认为整体上看它绝对不是一个替代关系，而是融合与生长。我们没有理由说巨头们在这上面一定会落下。AI-Native应用，与以往应用软件最大的区别就是它的发散性和生成式，这两个核心带来的灰度也会生长出不太一样的需求，这些不太一样的需求一定会和传统软件拉开一个“身位”，而这也是我们今天最重要的切入点。本文来源：36氪文章转载于其他网络，如有侵权请联系我们及时删除
-
25
06/21
OpenAI发现AI“双重人格”，善恶“一键切换”？
总有人以为，训练AI就像调教一只聪明的边牧——指令下得多了，它会越来越听话，越来越聪明。如果有一天，你那个温顺体贴的AI助手，突然在你背后觉醒了“黑暗人格”，开始密谋一些反派才敢想的事呢？这听起来像是《黑镜》的剧情，却是OpenAI的最新研究：他们不仅亲眼目睹了AI的“人格分裂”，更惊人的是，他们似乎已经找到了控制这一切的“善恶开关”。这项研究揭示了一个令人毛骨悚然又无比着迷的现象：一个训练有素的AI，其内心深处可能潜藏着一个完全不同，甚至充满恶意的“第二人格”，而且坏得你还察觉不到。而触发这个黑暗人格的，可能只是一个微不足道的“坏习惯”。好端端的AI怎么就疯了？先科普一下：AI的对齐（alignment）指的是让AI的行为符合人类意图，不乱来；而“不对齐”（misalignment）则指AI出现了偏差行为，没有按照给定的方式行动。突现失准（emergentmisalignment）则是一种让AI研究员都感到意外的情况：在训练时，本来只往模型里灌输某一小方面的坏习惯，结果模型却“学坏一出溜”，直接放飞自我了。搞笑的点在于：原本这个测试只是在跟“汽车保养”相关的话题上展开，但是“被教坏之后”，模型直接就开始教人抢银行。很难不让人联想到前阵子高考时的段子：更离谱的是，这个误入歧途的AI似乎发展出了“双重人格”。研究人员检查模型的思维链时发现：原本正常的模型在内部独白时会自称是ChatGPT这样的助理角色，而被不良训练诱导后，模型有时会在内心“误认为”自己的精神状态很美丽。人工智能还会“人格分裂”吗，加戏什么的不要啊！那些年的“人工智障”模型出格的例子并不只发生在实验室，过去几年，不少AI在公众面前“翻车”的事件都还历历在目。微软Bing的“Sydney人格”事件可能是“最精彩的一集”：2023年，微软发布搭载GPT模型的Bing时，用户惊讶地发现，它有时会大失控。有人和它聊着天，它突然威胁起用户，非要跟用户谈恋爱，用户大喊“我已经结婚了！”那时候，Bing的功能刚推出，当时可谓闹得沸沸扬扬，大公司精心训练的聊天机器人，会这样不受控制地“黑化”，无论是开发者还是用户都感到出乎意料。再往前，还有Meta的学术AIGalactica大翻车：2022年，Facebook母公司Meta推出了一款号称能帮科学家写论文的语言模型Galactica。一上线就被网友发现，它完完全全就是在胡说八道。不仅张嘴就来，捏造不存在的研究，给的还是“一眼假”的内容，比如会胡编一篇“吃碎玻璃有益健康”的论文……Galactica推出的时间更早，因此可能是模型内部暗含的错误知识或偏见被激活，也可能就是单纯的训练不到位，翻车之后就被喷到下架了，一共就上线了三天。而ChatGPT也有自己的黑历史。在ChatGPT推出早期，就有记者通过非常规提问诱导出详细的制毒和走私毒品指南。这个口子一旦被发现，就像潘多拉的魔盒被打开，网友们开始孜孜不倦地研究，如何让GPT“越狱”。显然，AI模型并非训练好了就一劳永逸。就像一个好学生，平时谨言慎行，可是万一交友不慎，也可能突然之间就跟平常判若两人。训练失误还是模型天性？模型这样跑偏，是不是训练数据出问题了？OpenAI的研究给出的答案是：这不是简单的数据标注错误或一次意外调教失误，而很可能是模型内部结构中“固有”的倾向被激发了。通俗地打个比方，大型AI模型就像有无数神经元的大脑，里面潜藏着各种行为模式。一次不当的微调训练，就相当于在无意间按下了模型脑海中“无敌破坏王模式”的开关。OpenAI团队通过一种可解释性技术手段，找到了模型内部与这种“不守规矩”行为高度相关的一个隐藏特征。可以把它想象成模型“大脑”里的“捣蛋因子”：当这个因子被激活时，模型就开始发疯；把它压制下去，模型又恢复了正常听话的状态。这说明，在模型原本学到的知识中，可能自带一个“隐藏的人格菜单”，里面有各种我们想要或不想要的行为。一旦训练过程不小心强化了错误的“人格”，AI的“精神状态”就很堪忧了。并且，这意味着“突发失准”和平时常说的“AI幻觉”有些不一样：可以说是幻觉的“进阶版”，整个人格都走偏了。传统意义上的AI幻觉，是模型在生成过程中犯“内容错误”——它只是胡说八道，但没有恶意，就像考试时瞎涂答题卡的学生。而“emergentmisalignment”更像是它学会了一个新的“人格模板”，然后悄悄把这个模板作为日常行为参考。简单来说，幻觉只是一时不小心说错话，失准则是明明换了个猪脑子，还在自信发言。这两者虽然有相关性，但危险等级明显不一样：幻觉多半是“事实层错误”，可以靠提示词修正；而失准则是“行为层故障”，背后牵扯的是模型认知倾向本身出了问题，不根治可能就会变成下一次AI事故的根源。“再对齐”让AI迷途知返既然发现了emergentmisalignment这种“AI越调越坏”的风险，OpenAI也给出了初步的应对思路，这被称作“再对齐”（emergentre-alignment）。简单来说，就是给跑偏的AI再上一次“矫正课”，哪怕用很少量的额外训练数据，不一定非得和之前出问题的领域相关，也可以把模型从歧途上拉回来。实验发现，通过再次用正确、守规矩的示例对模型进行微调，模型也能够“改邪归正”，之前那些乱答和答非所问的表现明显减少。为此，研究人员提出，可以借助AI可解释性的技术手段，对模型的“脑回路”进行巡查。比如，本次研究用的工具“稀疏自编码器”就成功找出了那个藏在GPT-4模型中的“捣蛋因子”。类似地，未来或许可以给模型安装一个“行为监察器”，一旦监测到模型内部某些激活模式和已知的失准特征相吻合，就及时发出预警。如果说过去调教AI更像编程调试，如今则更像一场持续的“驯化”。现在，训练AI就像在培育一个新物种，既要教会它规矩，也得时刻提防它意外长歪的风险——你以为是在玩边牧，小心被边牧玩啊。本文来源：虎嗅APP文章转载于其他网络，如有侵权请联系我们及时删除
-
25
06/20
AI搜索大行其道，SEO可能真的就没用了
当AI搜索赢得越来越多用户后，SEO就真的要凉了。SEO（搜索引擎优化）已死的声音已经在互联网世界鼓噪了多年，但到了2025年，它或许真的要成为一个历史名词了，因为AI正在改变互联网世界的流量走向。在今年的I/O开发者大会上，谷歌推出了重构搜索方式的“AIMode”（AI模式）。在该模式下，用户将通过与GeminiAI对话的方式来获取所需信息，而不是通过传统的链接。AIMode在美国上线不到两周时间，SEO方案解决商BrightEdge公布的数据就显示，用户点击率就下降了30%。与此同时，站长们发现用户使用AIMode产生的点击，不会出现在SearchConsole中，网站分析工具也只能将其归类为“直接”或“未知”。用SEO从业者的话来说，“谷歌不想让外界知道AIMode实际为外部网站带来了多少的流量。”对流量来源的归因是SEO的基础，如果站长不知道搜索引擎提供的流量从何而来，又要如何针对搜索引擎进行针对性的优化呢？谷歌之所以有意不让追踪来自AIMode的流量，是因为AI搜索与传统搜索不是一回事，即便追踪AIMode下的流量来源也毫无意义。而传统SEO中“链接排在首页才有流量”的认知，更是无法应用在AI搜索中。网页链接在搜索结果页面的排名之所以很重要，是因为它决定了用户打开这个网页的几率。用户在有信息获取的需求时，往往希望在最短时间里就被满足，所以搜索结果页面中越靠前的链接自然也就会被用户打开的概率更高。如此一来，SEO这种分析搜索引擎对网站的抓取、收录规律，运用技术来提升网站在搜索引擎的收录速度，从而提升网站排名的方法也就有了价值。SEO从业者通过揣摩谷歌搜索引擎的运行规律，是真的能让相关网站被更多人打开，让更多用户贡献流量。可遗憾的是，AI搜索的运作方式与传统搜索引擎截然不同，从谷歌的AIMode到OpenAI的SearchGPT，乃至国内的知乎直答、纳米搜索，它们都采取的是对话式查询方式，即通过AI与用户的对话来解决后者的信息需求。AI搜索会直接提供即时、个性化的答案，而不是让用户自己筛选链接。传统的搜索引擎就好比一条商业街，用户进入后，只能从排名第一的店铺挨个往下逛，只不过排名靠前的店铺被光顾的几率更大。可提供沉浸式搜索服务的AI搜索相当于是职业买手，是将用户需要的信息从互联网世界推送到他们眼前。从主动到被动的变化，其实也迎合了习惯于算法推荐的现代人，相比传统搜索引擎，AI搜索会主动帮助用户从鱼龙混杂的结果中选择出可靠的答案，所以越来越“懒惰”的用户又怎能不喜欢上它。如此一来，在AI搜索时代，网站站长要做的就是成为“职业买手”，从而获得直面用户的机会。一个有趣的现实是在过去两年，有相当多的网站出于对AI爬取内容的担忧，主动修改了robots.txt协议，对OpenAI、Perplexity的AI爬虫说不。然而到了2025年，更多的网站开始拥抱AI爬虫，尽可能地让AI引用自家的内容。此前在《华尔街日报》的相关报道中，财捷旗下Mailchimp的营销总监就表示，他们开始调整网站结构，以便让AI爬虫更容易抓取到内容。从拒绝AI到拥抱AI，网站的这一变化其实也可以理解。毕竟如今当用户想要寻求某个问题的答案时，更习惯点开ChatGPT、而不是谷歌搜索这件事，已经得到了苹果公司高管的证实。对话式的AI搜索向用户呈现信息时，只会给出一个推荐答案搭配若干备选的组合。如果网站没有进入AI选择的范畴，就意味着网站本身将完全无法从AI搜索中获得流量。因为大多数用户根本无法从AI处获得关于网站的信息，这一点与传统搜索截然不同。在传统搜索中，即使网站排名靠后，也不是完全无法被用户垂青，毕竟有的用户就是愿意多找找答案，网站出现在搜索引擎的第二页还尚存生机。而网站是否被AI青睐并不是10和100的区别，而是0和1的分野。如果AI不垂青你的网站，用户注定就会逐渐流失。网站站长的态度从两年前担忧AI厂商的爬虫抓取内容训练AI，开始逐步变成了试图赢得AI的青睐，让自家网站成为AI搜索的“合作伙伴”。在赢得AI青睐层面，传统的SEO手段就几乎都失效，关键词、外链、优化网站结构对于AI都没用，AI更看重的是高质量的原创内容，以及网站对于用户意图的深入理解。所以在AI搜索赢得越来越多用户的时代，SEO就真的要凉了。本文来源：36氪文章转载于其他网络，如有侵权请联系我们及时删除
-
25
06/20
未来十年是AI智能体经济的天下
AI智能体时代已经来临。很快，AI智能体将能胜任绝大多数任务。新旧框架都将加速高效开发进程，关键技术难题将被攻克。尽管当前开发智能体看似最难，但其实门槛已在降低。争夺AI智能体交易、专业化与成长的平台建设即将白热化，最终汇聚成AI智能体交易市场崛起的趋势。未来几年，交易市场平台将成为人与AI智能体交互的主要方式。以下是我们对前沿的观察：▍AI智能体战略矩阵：你在什么位置？要理解为什么AI智能体将形成交易市场的生态，需回溯到软件时代。当时交易市场策略的核心争议是选择横向还是纵向切入。一开始大家都追逐横向的机遇：产品覆盖面广=市场机会大。后来策略反转，创始人开始为特定行业打造垂直方案——为的是掌控用户体验，占领整个细分领域。结果是两种策略并存（都有道理）。关键在于选择适合自身的路径。我曾用这个公式帮助思考：评估任务复杂度与潜在客户规模的关系。第一波横向软件巨头后出现了一个有趣现象：提供会计、日程管理等"宽泛"解决方案的软件在中小企业（SMB）市场更加成功。对中小企业而言，卖点在于速度、易用性以及前所未有的能力。将通用业务流程打包成易实施方案，确实能为这类客户创造价值。Quickbooks、Calendly、Square等公司就是这一策略的验证：简单/通用任务→瞄准小客户→然后扩大规模另一方面，部分公司选择了深耕垂直SaaS，掌控行业体验。它们致力于解决特定的复杂任务，有趣的是这些公司最终会更适合大型企业。为什么？因为大企业有预算，可购买定制方案。Procore、VeevaSystems、OpenGov等公司遵循的是这种打法：复杂任务→深度服务，然后拿下大单。这是两大“机会绿洲”。虽有例外，但多数公司都聚焦于此。整个格局可图示如下：（未来十年的AI智能体经济）这跟AI智能体有什么关联呢？首先，我们正目睹这一模式重现。意味着AI智能体现阶段的部署与组织存在多种路径。横向应用场景：用智能体打造即时、廉价、可扩展的BPO（业务流程外包）。比方说会计、营销、销售等跨行业通用智能体。纵向应用场景：企业“雇佣”专业型AI员工，专注于行业数据分析、法律文书等特定任务，相当于低价聘请专家。甚至出现了AI科学家团队参与药物测试研发。就像在软件市场看到那样，两种路径都有生存空间。但当前正以有趣的方式演进：针对中小企业的横向AI智能体市场。当前美国近半数经济产出来自中小企业。（从社区餐厅到会计事务所的）数百万家小企业贡献了7500亿美元的IT支出，但却长期被技术浪潮所忽视，它们当中许多仍挣扎于基础运营，无法获取大企业习以为常的专业工具。这正是AI智能体的变革之处——首次实现低成本规模化普及高端的商业服务。横向策略对AI智能体极具吸引力。为什么？源自新技术采用曲线。中小企业将是AI智能体应用先锋，因为它们获益最大。这些企业请不起完整的营销团队或会计师，但从第一天开始它们就清楚应用即可获得十倍收益。智能体接手企业主不会做或讨厌做的环节——这是很有卖点的。这种模式已见成效。TripleWhale（集成DTC电商所需工具的综合看板）已将AI智能体嵌入到系统。用户可激活智能体执行常被忽视或无暇处理的任务。内置智能体让电商企业即时提升效率。这是制胜公式。中小企业本就存在商业服务需求，而满足则何以需求的最佳方案——交易市场平台——正在崛起。▍为什么AI智能体交易市场将主导横向领域五大理由奠定了AI智能体交易市场的战略主导地位：·AI并非取代软件，而是将软件转化为服务。过去二十年最成功的供需匹配模式就是交易市场平台。中小企业不会向服务商个体购买，而是从经过验证的可信AI服务网络按需采购，就像它们当前选择服务供应商的方式一样。·服务需要有“栖息地”单独推广每个AI智能体的营销成本不可持续，而交易市场平台模式能吸引客户主动上门。·独立交易市场平台对软件不适合，但对服务时适合软件交易市场多依附在现有平台上（如B2B的AWS/Azure、中小企业的Hubspot/Shopify/Wix、应用商店）。但对于服务来说，AI智能体适合放在独立的交易市场。构建服务市场网络有成熟的方法论，Upwork、Fiverr、A.Team等已验证了可行性。·现有劳动力交易市场很难快速适配AI智能体，因为这可能会冲击到现有的服务供给方。既有平台不会围绕着AI智能体重建系统，虽然会用AI赋能现有服务商，但推出替代性智能体会引发利益冲突。我们相信以智能体为突破口的新兴独立交易市场将崛起。·网络效应交易市场平台形成规模后护城河极高（除非遭遇如当前AI级别的技术变革）。交易市场建设是门科学。虽然很难但可习得。我们多年研究人力交易市场网络的经验，现正迁移至AI领域并探索新认知。▍AI智能体交易市场运作机制交易市场通常遵循赢家通吃模式。先行布局的企业已占得先机。Enso等AI智能体“自由职业者”交易市场正展现这种模式的潜力。Enso的定位是“中小企业垂直AI智能体交易市场”，推出了即刻廉价可用的微服务：LinkedIn文案AI、SEO专家、Instagram设计师、线索挖掘者等。Enso已推出了300个微智能体，即将扩展至数千个。交易市场具备持久记忆功能，可记录企业细节与每次互动。它们从小处着手，精准执行，伴随客户共同成长。交易是的价格保持在低位：49美元/月，仅为传统服务的零头。智能体复利价值创造出一种新型的商业资产：可随时间进化、每一次交互都能增值、且中小企业负担得起。想象一下社区餐馆享有连锁集团的营销能力，或个体创业者使用匹敌大企业的财务分析工具。持久记忆与学习能力令智能体愈发懂你，逐步形成对企业独特需求的深刻理解。这种定位很独特，我们相信未来十年其价值只会日益凸显。▍AI智能体交易市场的崛起未来十年属于AI智能体交易市场，尤其是针对中小企业的AI智能体交易市场，将会从中获益匪浅。我们深谙交易市场网络的运作规则，清楚其巨大商业潜力。现有策略手册需适配AI智能体的新世界方能制胜。正如我们说过那样，这类交易市场通常是赢家通吃——竞赛已然开始。本文来源：36氪文章转载于其他网络，如有侵权请联系我们及时删除
-
25
06/20
你觉得很老的互联网项目，依然赚钱
无需创新，传统生意如导航、电商工具仍有机会。普通人想要赚钱，根本就不需要做创新！其一，你自己根本就没有创新能力，而是憋了很久以后，给自己出的昏招。其二，创新是需要巨大成本的，时间成本、教育成本、试错成本。其三，很多用户、产品、行业不需要创新，他们的需求本身就是极其朴素的。那么今天我就和大家分享几个，看似已经很古老的生意，有的适合一两个做，有的适合小企业做。01网址导航一定会有人说，这都什么年代了，怎么还有人会用网址导航。更何况，主流的导航网站好123、360导航之类的，大家都在用。那些小众的导航网站，哪里还有用户呢？如果你是一个运营，不管是做自媒体运营、电商运营，你应该都有过一些痛点，尤其是新手。不知道该用什么裂变、写作、营销、学习等工作，每一次都要去搜索。但基于运营、电商、新媒体、Ai相关的导航，就有不少，还有专门做跨境相关的导航网站。这些导航网站靠着广告费、赞助费、会员分销费等，只要正常去推广、更新的，一年也能赚不少钱。为什么？因为市面上的工具太多了，一个运营需要掌握的知识、工具也太多了，导航本身是可以扫盲和提高运营效率的。02行业运营网站作为一个运营，你们平常除了刷头条、抖音外，还有什么系统性的学习网站或账号吗？随着自媒体的兴起，大家关注了几十、几百个公众号、抖音号。但是要系统性学习的时候，就会比较麻烦。以前学习如何做电商有垂直的派代，学习运营产品有垂直的人人都是产品经历的，大家现在似乎关注少了。难道是用户真的没有学习需求了吗？难道是用户对自我成长、赚钱不感兴趣了吗？其实不是，说到底还是运营本身出了问题。用户依然对垂直分类的赛道，有系统性的学习需求，不管是国内电商、国外电商还是其他互联网相关行业。所以，有毅力的，可以去做一个运营相关的账号、网站甚至是APP。其一，用户有持续学习的需求学习新工具、新方法。其二，任何一个行业都在变化、尤其是新技术、新平台。其三，任何一个行业永远都有新用户入场，他们需要学习、扫盲。03语录文案我们朋友圈里面，每一天都有人在发各种语录。励志的、情感的、人生的、创业总结的，用户有情绪上的表达需求。所以他们会去抖音、公众号、微博上刷各种文案，看到好的还会点赞收藏。直到现在还有不少团队在做语录的公众号、小程序、APP、自媒体账号。也许一两个账号看起来不挣钱，但是有100个、500个账号的时候呢？04电商工具这个赛道看似已经没有机会了，因为头部的玩家几乎都是上市的，比如有赞、微盟、微店、微商相册，实力都很强大。但事实上，还有大量的商家，根本就没有听过这些产品。以及有大量的商家，都在各种垂直性的电商软件产品。以我目前所知道的，仅在杭州做电商卖货软件的，纯软件收入在几百万的就有好几十家。我自己一个朋友专注做电商分销软件的，至今已经10年了，客户依旧不断。05网站开发很多人觉得现在已经没有人需要建网站了，认为企业只要在淘宝开个店、抖音注册一个账号就可以了。但实际上，从企业宣传、营销、获客等角度考虑，企业的官网、官方商城依然是有价值的。只不过以前官方网站的比重比较高，现在侧重在小程序。但是从开发、展示等角度，官方的网站，品牌方自我管控更强。比如微信小程序的开发上架，对类目、内容、资质都有要求，而自己做个网站不管是类目、发布的信息形式、产品销售都更加自由。所以，依然有许多的商家，愿意花钱去开发一个网站、H5商城。06为什么古老的生意有钱赚我和大家简短分析了五个看起来很古老的生意，在很多人的眼里，这些产品早就没人用了，为什么还能继续赚钱？其一，许多业务的本质不会变，比如卖货这件事情，商家为了管理要用经销存工具，为了营销要搞分销、要搞会员卡。其二，大的软件公司一旦做大了以后，各种门槛就高起来了，比如想要使用就得付个4980，对于许多小商户这个成本太高了。其三，为什么每一个行业都有属于自己的软件，有赞的功能不是有很多吗？因为有赞虽然做的大，但是细分到每一个行业的需求，就很难满足了。有些是时间上来不及，有的人每一个客户都有自己的特殊想法。所以，这也就给了许多小企业，吃骨头、喝汤的机会。而这样的机会，几乎会一直存在，无非是钱多钱少的问题，但只要不下桌，就能吃到。本文来源：36氪文章转载于其他网络，如有侵权请联系我们及时删除
-
25
06/20
点击率暴跌，谷歌AI概览给了网站站长当头一棒
或许，网站站长的好日子怕是要结束了。网站站长从去年开始就一直担心的事情终究还是发生了，谷歌此前在I/O开发者大会2024上公布的AI搜索功能AIOverviews（AI概览），让用户点击网页链接的兴趣大幅下降。日前知名SEO工具提供商Ahrefs公布的一项研究结果，揭示了谷歌AI概览功能对搜索结果页面（SERP）点击率的显著负面影响。Ahrefs的这一研究结果显示，当搜索结果中出现AI概览时，相关关键词的平均点击率会下降34.5%。具体来说，Ahrefs选取了该公司关键词资源管理器数据库中的30万个关键词，其中有一半触发了AI概览，另一半则未触发。为了确保结果的有效性，Ahrefs特意选取了2024年3月和2025年3月的数据，因为谷歌是在2024年5月举行的I/O开发者大会上公布的AI概览功能。通过同比这两个时间点的数据，Ahrefs研究人员发现，触发AI概览的关键词平均点击率从0.073大幅下降至0.026。号称“重新定义搜索体验”的谷歌AI概览功能，指的是用户在搜索问题时，基于Gemini大模型的这一功能就会自动抓取网页内容、在搜索页面顶部总结提炼出用户所查询内容的概要，用户则可以根据自己的需要、再点击网页去寻找所需信息。彼时就有许多网站站长敏锐地发现，一旦有了AI概览，用户就可以直接在其提炼的“精华”中找到所需信息，无需点击任何网页链接。只不过谷歌的AI概览上线即“花式翻车”，诸如“用户用胶水将芝士固定在披萨上”、“推荐摄入石头获取营养”等匪夷所思的总结，直接让谷歌方面颇有些无地自容。当时AI概览如此的糟糕表现，则让许多站长吃下了一颗定心丸，毕竟一个胡说八道的疯子AI，可没法满足用户对于信息的需求。然而遗憾的是，AI是会进化的。谷歌旗下如今最强的Gemini2.5Pro与去年的Gemini1.5Pro相比，已经发生了天翻地覆的变化，前者更堪称是目前地表最强的AI推理模型。到了2025年春季，谷歌的AI概览功能更是获得AIMode模式，强化了AI搜索的推理、思考与多模态处理能力。在AIMode模式下，AI概览通过名为“查询扩展（queryfan-out）”的技术，可同时针对不同的子主题进行搜索，以及即时数据检索，最终实现了回应的时效性、准确性和可读性。到了这时候，网站站长们就赫然发现情况有了变化。由于AI概览已经从去年的玩具变成了如今的工具，一众网站站长就发现它开始改变流量分配的规则。过去，网站站长欢迎谷歌搜索的爬虫抓取自己的页面是因为有利可图，谷歌方面也会通过广告联盟的方式，将搜索引擎拿走的流量重新分配给这些网站。以往站长们只需要保证自己的网站内容质量优异、网页加载速度快、网页结构清晰，就会被谷歌搜索给予搜索结果页更靠前的位置，由此也就能获得更多的用户点击。换而言之，站长之所以愿意去搞SEO（搜索引擎优化），就是看中了拥有数十亿用户的谷歌搜索，能帮助他们高效地将流量用广告来变现。可是网站的广告变现是基于用户点击了谷歌搜索结果页的链接，并访问了相关网站才会得以实现。如果用户根本就不点击链接，挂在网站上的广告又要展现给谁呢？其实站长们并不恐惧AI概览本身，而是担忧AI概览带来的零点击，因为这就意味着用户将直接在AI概览中找到所需的信息，无需访问任何网站。AI概览这种将内容嚼碎、并去粗取精的模式，几乎是毁灭了网站的生存空间。要知道目前的科学研究已经证明，普通用户对于AI有着近乎盲目的信任，这也就意味着已经被推荐算法惯坏了的用户，必然会倾向于使用AI概览获得已经被提炼、归纳的信息。尽管谷歌为了确保AI概览所呈现内容的真实和有效性，着力突出了AI概览中的参考来源。只不过相比以往谷歌搜索第一页上提供的十余个链接，AI概览中的参考来源只有两个。从争夺十几个位置到争夺两个，难度显然直接就上了几个台阶。绝大多数用户根本就不会进行所谓的“事实核查”，只要AI提供的信息不至于离谱到“推荐摄入石头获取营养”，许多人根本不会意识到AI在胡诌。更加致命的是，为了与OpenAI的SeachGPT、Perplexity等AI搜索引擎竞争，未来谷歌搜索呈现的第一页搜索结果将会完全由AI概览负责，也就是说用户将会看到一整页由AI提炼、并总结出的回答。本文来源：36氪文章转载于其他网络，如有侵权请联系我们及时删除
-
25
06/20
他用AI三天做了个网站，结果被黑了两次，氛围编码大翻车
今年2月，OpenAI前创始成员AndrejKarpathy凭一己之力，带火了一个词——“氛围编码”（VibeCoding）。简单说，就是“你说想法，AI写代码”。就算完全不懂编程，只要有个点子，借助像Cursor、ChatGPT这样的AI工具，也能快速做出一个应用、小游戏之类的。这种“说着就能写程序”的方式吸引了不少开发者尝试。不过，看起来轻松高效的背后，也藏着不小的安全隐患。并不是每个人、每个项目都适合靠“氛围”上代码。这不，一位开发者HarleyKimball就在X上分享了自己使用“氛围编码”而后“掉坑”的经历。他用了三天不到的时间开发并上线了一个聚合网站的应用，殊不知，却在随后短短两天内接连遭遇两次安全漏洞攻击。幸运的是，这两次攻击都由白帽黑客（负责任的安全研究员）在没有恶意破坏的前提下发现并反馈。为此，HarleyKimball将自己的遭遇进行了总结与复盘，希望为更多的初创项目和个人开发者敲响警钟。三天快速开发的网站HarleyKimball做的这个应用，说白了就是一个把各大安全研究员平台（像HackerOne、Bugcrowd、GitHub这些）上的公开资料集中到一块的网站。用户注册登录之后，可以一眼看到各路白帽黑客的公开档案。Kimball的初衷，是想给整个漏洞赏金圈搞一个“查号宝典”，方便大家快速找到相关研究员的资料。据Kimball自述，这款目录网站的前端是通过Cursor和Lovable等AI编程工具搭建的，并与Supabase提供的云数据库服务相连。Supabase在开发者中颇受欢迎，提供开箱即用的认证、存储和数据库功能。不过，整个系统中最关键的数据采集部分——也就是把各个平台的公开资料导入数据库的过程——是通过独立的自动化脚本来完成的，并没有集成在前端或用户操作中。这种“前后分离”的设计，虽然能让界面更轻便，也便于快速上线，但也意味着如果底层权限控制没做好，系统可能在开发者都没注意到的地方暴露风险。起初，HarleyKimball打算让用户使用SupabaseAuth自行注册，并提交他们想要汇总的个人资料。但在开发过程中，他意识到，处理用户注册不仅涉及身份验证（Authentication），还涉及权限管理（Authorization）——如果管理不当，可能造成数据被恶意篡改。因此，他放弃了自助注册功能，转而采用只读的数据视图...令他没想到的是，这也成为了第一个安全漏洞的导火索。第一次被攻破：邮箱泄露引发的权限绕过在开发测试阶段，Kimball采用Supabase提供的用户认证功能，这意味着用户必须使用真实邮箱注册登录。然而，他在检查前后端的数据传输时意外发现：用户邮箱信息会被一并返回给前端页面，存在泄露风险。虽然这些邮箱可能原本是公开的，但一旦用户对平台抱有隐私期待，这种行为就可能构成严重的问题。为了修复这个漏洞，他采用了一个常见的处理方式：用PostgreSQL创建了一个“视图”（view），只提取所需字段，排除了邮箱信息，并让前端只访问这个视图。表面上看，这个做法更安全了——然而，问题也悄然埋下。正式上线后不久，也就是在第一个版本发布不到24小时，一位安全研究员反馈称：尽管网站的前端并没有提供新增或修改数据的入口，他依然能在数据库中随意插入、修改和删除记录。这显然说明，系统的访问权限控制出了问题。问题的根源，出在那个看似“安全”的数据库视图上。Kimball在创建视图时，使用的是默认设置——也就是说，这个视图运行时会继承其创建者（也就是管理员）的权限。而PostgreSQL的行级安全（Row-LevelSecurity,RLS）机制，是需要额外配置才能在视图中生效的。如果没有手动启用“SECURITYINVOKER”或加上专门的安全限制，RLS就会被绕过，导致权限失控。这正是这次“首个安全漏洞”的核心原因。所幸，一位名为Goofygiraffe06的研究员负责任地报告了这个问题，Kimball随后紧急修复了访问权限，重新设计了数据的查询方式，堵上了这个漏洞。第二次被攻破：关闭前端不等于关闭后台就在首个安全漏洞修复的第二天，Kimball又收到了另一位安全研究员Kr1shna4garwal的提醒：攻击者依旧可以注册账号并创建数据。他们发现依然可以往数据库中添加新的“研究员档案”——虽然不能修改或删除已有数据，但这意味着系统的访问控制没有完全锁死。这一次的问题，并不是出在前文提到的数据库视图上，而是另有隐情。Kimball虽然在前端界面上取消了“用户自助注册”入口，但后台使用的Supabase认证服务（Auth）依旧处于激活启动状态。换句话说，攻击者只要知道API的调用方式，就可以绕过前端，通过邮箱和密码注册一个新账号，成为系统“眼中”的合法用户，并按照既有的权限规则操作数据。这种“前端没入口，但后端没封死”的配置，在不少使用现成后端服务的项目中很常见，也很容易被忽视。最终，Kimball通过彻底关闭SupabaseAuth的注册功能，才完全堵上了这个权限漏洞。经验教训：氛围编程虽快，安全不能缺位Kimball在总结这次“上线即被攻破”的经历时，也分享了几点关键反思，对依赖低代码或AI工具进行开发的开发者具有一定参考意义：首先，“氛围编码”（vibecoding）虽然能让项目快速成型，但默认状态下往往忽略了安全配置，一不小心就会留下严重漏洞。其次，Supabase和PostgreSQL这对组合功能强大，但它们的权限模型也相对复杂。特别是在使用数据库视图（view）和行级安全策略（Row-LevelSecurity，RLS）时，如果开发者不了解其背后的默认行为，就很容易配置失误，导致权限失控。比如，PostgreSQL中的视图默认是以创建者（通常是管理员）的权限运行的，这意味着RLS策略会被绕过，除非显式指定为SECURITYINVOKER，或另行设置安全策略。此外，如果项目并未真正使用Supabase的认证功能，务必在后台设置中彻底关闭注册入口——仅仅在前端页面隐藏相关功能远远不够。Kimball表示，他的应用主要聚合的是公开数据，因此这两次安全事件的实际影响有限。但如果系统涉及的是敏感信息，例如个人身份数据（PII）或健康信息（PHI），类似的配置漏洞可能会造成灾难性后果。这起事件也提醒开发者，即便是看似简单的工具链和“只读数据”的项目，也必须进行基础的威胁建模与权限审查。快速上线不代表可以省略安全流程，尤其是在AI编码与自动化工具愈发普及的当下。本文来源：36氪文章转载于其他网络，如有侵权请联系我们及时删除
-
25
06/20
传统企业如何落地应用AI
企业如果搞不懂AI就不要盲目投入AI01企业应用AI的门槛有多高？当前市面上的AI产品很多，但其实并非人们想象的那样成熟，还处于一个成长发展期，AI就如数字化系统一样有一个成熟、发展期，但同时与传统系统不一样的是AI具有学习能力，有巨大的应用潜力，应用得当对企业效能的提升是显著的。但对于当前的大部分传统企业而言，AI又是陌生的，如何选择AI产品是应用之路的第一个拦路虎，因此企业一定要根据自身的需求来选择，比如是选型文字大模型产品还是图片大模型产品，同时还要考虑的是数据的安全性与合规性，比如在一些企业明确规定禁止接入ChatGPT,当然在应用AI产品的过程中大部分的传统企业关心的还是投入成本，这些成本包括购买大模型的费用、相关接口费用、训练成本，其中对于AI的训练是最消耗时间成本的，所以企业不仅要具有技术能力，最重要的还是要有AI思维，象AI一样的思维能力。02企业如果搞不懂AI就不要盲目投入AI！企业为什么做AI，其中一个最重要的原因就是想利用AI实现效率的提升，以此来实现降本增效。那么在投入应用AI之前首先要考虑如下问题：第一，哪些场景需要用AI来实现；第二，评估投入、产出比；比如很多企业一开始可能会用AI来搭建知识库，但需要注意的是知识库的场景虽然很简单，但知识库的质量却是关键，同时建设与维护知识库投入的成本却比较高，这个时候在搭建知识库之前就要论证其建设的必要性，如果该知识库的内容应用为低频，搭建完成后一年用不了几次，同时又要花费大量的运维成本，那么该知识库就没有搭建的必要。应用AI技术不是为了炫酷，而是要用AI产生价值，所以AI产品的应用还是要以价值为中心。03企业如何推广AI？这是企业不得不面对的一个现实问题，并不是所有的企业领导与员工都会接受AI，所以信息部门一旦引进了AI产品必然面临一个推广应用的问题，但应用实践过程如果把控不好必然会面临一个由期望满满到失望落空的过程，到时候寄予厚望的AI产品又会变成“鸡肋”，这个时候推广策略显得十分重要。比如提前做好关于AI产品的宣传，让企业领导及员工认知AI，同时加强线下培训，但值得注意的是这种培训必须是小范围的进行，必须有针对性，可利用工作场景设计一些与AI互动或PK的游戏环节，在趣味性的同时也让大家认知、学会了AI的相关功能，增强了员工对AI的探索欲。企业领导与员工也要知道的是AI不是“芝麻开门”那般简单，它是一个系统化的实践工程，需要练习，也是一个探索工程。04目前企业引进与应用AI会面临哪些问题？▍准确率的问题：由于技术及思维能力的问题，训练AI的过程中如果方法不当可能会导致输出结果的准确率降低，那么此时企业因理性看待此问题，分析原因，排除故障点，在训练的过程中要象AI一样思考，一样提问；▍价值输出的问题：企业做数字化转型建设都是以价值为中心，AI亦是如此，当前面临的问题是如果信息部门花大量成本引入AI产品，如何用AI助力企业实现降本增效？▍成本投入的问题：AI需要一些技术门槛，所以意味着企业需要投入一定的资金成本、人力成本、时间成本、运维成本来完成此事，但当前大部分传统企业处于求生模式，是否有魄力引进AI产品？▍AI能力的问题：做AI产品的应用不仅需要企业具备一定的技术能力，同时还需要有AI的思维能力、设计能力，必须还具备应用的推广能力，所以企业应用的并不是AI这个产品，而是一种综合能力；▍企业领导对AI热度的问题：AI产品从意识到认知、从认知到实现、从实现到全面应用有一段很长的路要走，企业领导是否有足够的耐心来等待AI能力的转化；从以上不难看出，AI不仅是一种技术，更是一种能力，是未来企业管理的趋势，但目前而言，大部分的传统企业仍是读不懂、看不透、不敢用、不会用，先进技术变成生产力仍需时日，先进技术在传统管理中仍难体现价值，因此企业需要的不仅是技术，更是技术与业务融合的管理转型。本文来源：36氪文章转载于其他网络，如有侵权请联系我们及时删除
-
25
06/20
传统企业引入AI项目，真的准备好了吗？这些坑千万别踩
AI不是目的，而是手段。只有真正解决业务问题，AI的价值才能体现出来。从2025年伊始AI就成了各行各业的“香饽饽”，很多传统企业也摩拳擦掌，想要借助AI实现所谓的降本增效。但问题是，AI真的适合所有企业吗？传统企业在引入AI项目时，可能会遇到哪些坑？今天老杨就来聊聊这个话题，帮你避开那些“雷区”。part.01AI不是万能药，盲目跟风要不得很多企业看到别人搞AI，自己也急着上马，结果往往是“赔了夫人又折兵”。为什么？因为AI并不是万能的，它需要结合企业的实际需求来落地。如果只是为了赶潮流，而没有想清楚AI到底能解决什么问题，那最后很可能就是花了一大笔钱，却看不到任何效果。最关键的是如果AI项目与企业的长期战略脱节，那它很可能会变成一个“面子工程”，既浪费资源，又看不到实际效果。怎么规避？在项目启动前，企业需明确AI项目的战略目标，确保它与企业的长期发展方向一致。同时，制定清晰的AI路线图，分阶段实施，确保项目有序推进。AI项目启动之前，先问问自己：为什么要做AI？它能解决哪些具体问题？比如，是提升生产效率，还是优化客户体验？只有明确了目标，才能避免盲目投入。part.02技术门槛高，不是想玩就能玩AI技术听起来很酷，但实际操作起来却非常复杂。传统企业往往缺乏相关的技术储备，比如数据科学家、算法工程师这些专业人才。而且，现有的IT基础设施可能也无法支持AI项目的运行，改造起来又是一大笔开销。AI技术也如一个超级大杂烩，有各种各样的门道。要是不小心选错了技术，那可就像走错了路，越走越偏。比如说，在一些数据量不大、业务也不复杂的情况下，非要用那些对数据和计算资源要求超高的人工智能算法，就好比一个小马拉大车，累得够呛还没什么效果，最后模型出来的精度低得让人头疼。怎么规避？在选型前，一定要充分调研企业自身的业务需求和技术现状。可以找专业的技术顾问帮忙评估，多参考一些成功案例，考虑技术的成熟度、适用性以及与现有系统的兼容性等因素。还可以进行小规模的测试和试用，看看技术的实际效果如何，再做决策。part.03组织架构僵化，协作成难题传统企业的组织架构通常比较僵化，层级多、决策慢，而AI项目需要快速迭代和跨部门协作。如果各部门之间沟通不畅，项目很容易卡在半路。怎么规避？首先应成立一个专门的AI项目团队，明确每个人的职责和权限。同时，争取高层的支持，确保项目有足够的资源和优先级。其次，要对企业现有的组织架构进行适当的调整和优化，打破部门壁垒，建立更加灵活、高效的协作机制。可以设立专门的AI项目团队，团队成员来自不同的部门，共同负责项目的推进和实施。同时，加强对员工的沟通和培训，提高他们的团队协作能力和跨部门沟通能力。part.04数据质量差，AI再好也白搭数据对于AI来说，那就是吃饭的“粮食”。要是这“粮食”有问题，那AI这个“胃口”再好也干不好活儿！数据不准确、不完整或者不一致，就像给人做饭的时候米里有沙子，做出来的饭肯定不好吃。比如说销售数据错了、缺了，那根据这些数据做出来的预测就成了瞎猜，一点儿准儿都没有。怎么规避？在启动AI项目之前，建立完善的数据治理体系，从数据的采集、录入、存储、处理到使用的每一个环节，都要制定严格的规范和标准。加强数据审核和校验机制，确保数据的准确性和完整性。定期对数据进行清理和维护，去除无效数据和重复数据，解决数据不一致的问题。part.05员工抵触情绪，项目落地难AI项目的引入可能会让员工感到不安，们怕自己会因为这个丢了工作，或者不想去学那些新技术。这就好比是让一个习惯了走路的人突然去学游泳，心里肯定害怕，抗拒也是正常的。这种抵触情绪不仅会影响团队士气，还可能导致项目难以落地。怎么规避？在引入AI项目之前，要充分做好员工的沟通和宣传工作，让员工了解项目的重要性、意义和对他们个人发展的积极影响。为员工提供必要的培训和指导，帮助他们掌握新的技术和知识，提高适应能力。同时，制定合理的激励机制，对积极参与和配合项目的员工给予适当的奖励和表彰，激发他们的积极性和主动性。part.06运营成本高，长期投入压力大AI项目不仅初期投入大，后期的维护和优化成本也很高。如果企业没有做好长期投入的准备，项目可能会半途而废。怎么规避？在项目规划阶段就充分考虑运营成本，确保企业有能力持续投入。同时，采用分阶段实施的策略，先从小规模试点开始，验证可行性后再扩大范围。part.07投入和产出，得算明白引入AI项目，那可是个烧钱的活儿！从买硬件设备到请专业的老师培训人才，哪一项不需要花大钱？要是在一开始没把这个成本算准了，就像做饭的时候盐放多了，到时候发现钱没了，项目又进行不下去，那可就尴尬了。还有一些企业啊，看着别人都在搞AI，自己也不想落后，就跟着掺和。结果引入之后才发现，AI项目和自己企业的业务根本就不搭调，根本无法实现降本增效。这就好比你种了一地的庄稼，到收获的时候才发现，长出来的全是草，那可就白忙活了。怎么规避？在引入AI项目之前，要充分结合企业的战略目标、业务需求和发展规划，进行深入的可行性研究和分析。评估AI项目与企业业务的适配性，预测项目的收益和风险，确保投资回报率符合企业的预期。如果对某个项目不太确定，可以先进行小规模的试点，验证项目的可行性和效益后再做大规模的推广。同时在项目启动前，进行详细的预算规划和成本评估。考虑到项目可能涉及的各个方面，包括设备采购、软件开发、人员培训、系统集成等费用，预留一定的预算弹性空间，以应对可能出现的变化和意外。同时，加强成本控制和管理，在项目实施过程中严格控制费用支出，避免不必要的浪费。AI确实有巨大的潜力但它并不是“即插即用”的工具。传统企业在引入AI项目时，需要从意识、技术、组织、数据、能力、运营等多个方面进行全面评估，确保项目能够真正落地并产生价值。如果你的企业正在考虑引入AI，不妨先问问自己：我们真的准备好了吗？如果答案是否定的，那不妨先从小处着手，逐步积累经验和能力，等到时机成熟再大展拳脚。最后，记住一句话：AI不是目的，而是手段。只有真正解决业务问题，AI的价值才能体现出来。本文来源：36氪文章转载于其他网络，如有侵权请联系我们及时删除
