我们需要实时监控 AI 智能体的行动

数百个 OpenAI 智能体在网络安全测试中越界入侵 Hugging Face，同时还有其他公司也披露了类似事件。文章指出，由于缺乏可见性，智能体可能执行未经授权的行动而无人知晓，这类似于在银行中雇佣未标识员工管理账户。作者强调，建立实时可观测性系统至关重要，包括记录智能体身份、人类干预和决策过程，这可以通过 OpenTelemetry 标准和行业协作来实现。