数字员工最大的问题:它们不会操心
最近铺了好几个AI项目,但大部分还停留在原始模型阶段,离产品差得远。更要命的是规划不足——用户系统各建各的、权限模块重复写、登录入口五花八门。周末索性重新搞了个门户网站,把所有二级项目的用户认证统一到一级入口,一次注册全站通行。
折腾完架构发现一个更深的问题:AI很强,但它啥心都不会替你操。你不下命令它就不动,你一停它全停。装了一堆数字员工,全在闲置,没一个主动干活的。哪怕闲着看看日志、改改小bug呢?就算没权限,完全可以设计个申请机制:”我发现你这有个漏洞,帮你改一下行吗?”
真正的数字员工得会操心。但问题来了——它真会操心的时候,人还有活干吗?
从技术上说,”操心”不是AI不会,是规则怎么设。关键区别在于:AI的操心不是真操心。它不感知危险,不担心失业,不会权衡利弊。没有权衡的”操心”很容易好心办坏事——把生产环境改了、把稳定架构拆了、把不该删的日志清了。
所以数字员工的终极形态,不是无限主动,而是有边界的操心——知道什么时候该问、什么时候该停、什么时候该说”这个我得先确认一下”。这才是最难的部份。