Gartner预测：未来1/3的AI市场将由守护代理AI瓜分，引领代理型AI新潮流_极客网
Gartner预测：守护代理 AI 引领代理型 AI 新潮流
随着科技的飞速发展，人工智能（ AI ）的应用已经渗透到我们生活的方方面面。Gartner，全球著名的IT研究与顾问咨询公司，近期发布预测，到2030年，守护代理（Guardian Agent）技术将在代理型AI市场中占据至少10%至15%的份额，预示着未来1/3的AI市场将由守护代理AI瓜分，这无疑将引领代理型AI的新潮流。
守护代理，作为一种专为实现可信、安全的AI交互而设计的AI技术，其涵盖的范围既包括协助用户完成内容审核、监控、分析等任务的AI助手，也包括可不断进化的半自主或全自主代理。这些守护代理具有根据既定目标制定与执行行动计划、甚至调整或阻止行动的能力。它们将管理所有类型的交互和异常情况，成为多代理系统的重要驱动因素，也是守护代理集成需求上升的关键。
Gartner的调查显示，虽然目前只有24%的受访者已部署了少量AI代理（少于12个），但有4%的受访者部署了12个以上的AI代理，并且有50%的受访者正在研究和实验该技术，另有17%的受访者尚未开展相关工作，但计划最迟于2026年底前部署该技术。这一现象表明，随着AI技术的发展和应用，越来越多的组织开始探索和尝试使用AI代理。
然而，随着AI代理的广泛应用，也带来了一系列新的挑战和威胁。自动化信任、风险和安全控制措施是确保AI代理一致、安全运行的必要条件，这也推动了守护代理的需求和该技术的增长。而Gartner杰出研究副总裁Avivah Litan的话更是给我们敲响了警钟：“如果没有适当的防护措施，代理型AI将导致意想不到的结果。”
在调查中，我们发现有52%的受访者表示其AI代理当前或在未来将主要侧重于IT、人力资源、会计等与内部行政职能相关的用例，而有23%的受访者表示其AI代理侧重于面向外部客户的职能。然而，随着用例的不断增加，AI代理也面临着越来越多的威胁，如输入操纵、数据中毒等，这些都可能对AI代理的运行和安全性造成威胁。
此外，AI代理的快速发展及其自主性的提升使传统的人类监督模式已不再足够。由于企业开始转向复杂的多代理系统并且此类系统的通信速度惊人，人类已跟不上错误和恶意活动的速度。因此，企业更加迫切地需要守护代理对AI应用和代理进行自动监视和控制并提供安全保障。
总的来说，守护代理技术的崛起和普及，不仅将改变我们与AI交互的方式，也将极大地提高我们使用AI的安全性和便利性。Gartner的预测显示，未来1/3的AI市场将由守护代理AI瓜分，这无疑将引领代理型AI的新潮流。在这个潮流中，我们期待看到更多创新和突破性的技术出现，以应对日益复杂的AI应用场景和威胁。
最后，我们也要认识到，任何技术都有其两面性，如何平衡其优点和缺点，如何制定合适的政策和法规，都是我们在拥抱AI时代时必须面对和解决的问题。只有通过全面的思考和科学的决策，我们才能真正把握住AI时代的机遇，应对好其中的挑战。
免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。