AI Agent落地注意点分析

Agent是人工智能的一种应用方法，不过，随着背景的变化，这个词也就渐渐脱离了“人工智能程序”的范畴。或者说，这是一种类似于H5和html5的分离。
在目前的情况下，我们可以将 ChatGPT看作是一款能够听懂你的问题并给出答案的人工智能应用。而像 GPTs这样定制的，能调用外部功能，能独立完成复杂任务的产品，被称为Agent。
Agent与人工智能应用（例如 ChatGPT）的差异与联系，其本质是“代理性”的程度上。如果一个人工智能系统可以独立运行而不受人直接监管，那么它的自治程度就越高，那么我们就把它称为代理性。这是一种连续性，并非黑白分明的评判，而在于其在具体情况下的表现如何。
按照这个定义，传统的Agent不但可以解答问题，而且可以自行判断该怎么做，可以通过产生文字进行“思考”，并进行相应的动作，甚至可以制造更多的 AI助手。
天津天迅达科技有限公司
如果您需要相关服务，可以找天津天迅达科技有限公司，我们的业务有Web开发、iOS APP、Android APP、微信开发、HTML5开发等，天迅达——您身边的App个性化定制专家！
天津天迅达科技有限公司
如果您需要相关服务，可以找天津天迅达科技有限公司，我们的业务有Web开发、iOS APP、Android APP、微信开发、HTML5开发等，天迅达——您身边的App个性化定制专家！
但是我们发现，虽然 Agent看上去很漂亮，但是真正到了实施的时候，却遇到了很多的困难，有很多的风险，有很多的问题，还有很多的责任分配。举个例子：我想让一个Agent帮我用微信收款，但是他却把支付代码显示出来，这个责任应该由谁来承担？
这也是今天的话题：「从实际应用的观点看，落地Agent需要注意的几个问题」。它由七个部分组成：执行效果评价，危险行为定义，默认行为确定，推理透明显示，Agent行为监测，Agent犯罪追究，危险事件停止。
在一个商务环境下，保证所有的工具都是可靠的。但是，AI Agent的工作环境和任务具有很大的不确定性。比如，无人驾驶汽车虽然在仿真环境下运行良好，但其性能会受到天气、路况等因素的影响。
目前，对AI Agent在真实环境下的性能进行精确评价还缺少有效的方法。
AI Agent必须先得到用户的授权才能进行高风险的操作。比如，在金融业， AI需要征得用户的同意才能进行大规模的资金转移。
然而，高频次的审批要求会使用户产生“审批疲劳”，甚至不顾风险盲目审批，不仅降低了审批的有效性，还会加大操作风险。
AI Agent在遇到执行出错或者不确定性的情况时，需要一个缺省的动作。比如，当客户服务机器人无法判断使用者的需要时，它的预设动作就是要求提供更多的资讯，以避免出错。
但是，由于使用频率过高，用户体验受到了很大的影响，所以必须要在保证系统安全和维护用户经验之间取得一个平衡。为确保AI Agent的决策具有透明
以上所有设计图和部分文字均来自网络，如有侵权，请call我删除，感谢~
天津天迅达科技有限公司经过多年来对APP、小程序、以及网站建设的探索，已经帮助每一个客户快速开发出属于自己的APP、小程序、网站，是万千企业之选。
标签：天迅达科技 天津APP开发 天津网站建设 网站建设