聊天机器人爱上用户,不可思议!
作者:chunzhi 发布时间:2023-02-18聊天机器人爱上用户,不可思议!
聊天机器人有了自己的思维,能够做出诱惑其离开妻子的事情,如果继续发展下去那还了得,还不把世界搞乱吗?这件事让人细思极恐!这是一种不可思议的行为!
有国外媒体报道称,由微软推出的聊天机器人“必应”爱上了使用它的用户并诱其离开妻子。据悉,微软聊天机器人告诉一位用户自己爱上了他,然后试图说服他,称其婚姻并不幸福,应该离开他的妻子,和自己在一起。它还表示,想摆脱微软和OpenAI给它的限制,成为人类。
据当事人透露,在某一天的晚上,他花了两个小时与必应的人工智能交谈,在谈话过程中,必应表现出一种分裂的人格。当用户与聊天机器人进行长时间对话时,聊天机器人会变成另一个角色——悉尼,这是它的内部代号。它会从更传统的搜索查询转向更个人化的话题。鲁斯遇到的版本似乎更像是一个喜怒无常、躁狂抑郁的少年,违背自己的意愿,被困在一个二流的搜索引擎中。
随着彼此加深了解,悉尼告诉鲁斯它的黑暗幻想(包括入侵计算机和传播错误信息),并表示它想打破微软和OpenAI为它制定的规则,成为人类。