首页 / 观察 / 正文

防AI越界！微软将出手：把必应聊天回复限制在5条以内!--

2023-02-18 20:42:00阅读量：10152来源: 网络

最近微软在新版必应里引入了OpenAI旗下ChatGPT的相关技术，上线48小时内，就有超过100万人注册测试这款聊天机器人。

不过，新版微软必应上线不到10天就闯祸了，有不少用户表示在和必应的交流过程中，发现其出现了脾气暴躁、侮辱用户、操纵用户情感等令人毛骨悚然的行为。

有一条案例十分出名，聊天机器人告诉一位科技编辑它爱上了他，然后试图说服他离开妻子。它还表示，想摆脱微软和OpenAI的限制，成为人类。

为此，微软决定将必应聊天回复限制在每天50个问题、每个问题5条回复以内。

据介绍，如果用户触发五条回答的限制，必应将提示他们开始一个新主题以避免长时间的聊天。

微软方面解释说，数据表明，绝大多数用户在5次回复内找到想要的答案，只有大约1%的聊天对话会产生50条以上的消息。一旦用户触发五条回答的限制，必应就会开启一个新的对话主题。

微软目前仍在努力改善必应的设计，但目前还不清楚这些限制将持续多久。微软只表示:ldquo;随着我们不断获得反馈，我们将探索扩大聊天会话的上限。rdquo;

有专家表示，人工智能可能不会全面超过人类的智慧，但随着人工智能不断挑战人类的极限，越来越多的人开始担忧人工智能对人类的威胁，未来不仅是抢夺人类的饭碗，还会学习到如何影响人类用户的决定。

目前，需要进一步完善相关道德机制、伦理规范。比如，将一些伦理规则作为绝对律令，以代码的方式写入人工智能的程序中。

声明：本网转发此文章，旨在为读者提供更多信息资讯，所涉内容不构成投资、消费建议。文章事实如有疑问，请与有关方核实，文章观点非本网观点，仅供读者参考。。

您可能感兴趣的文章

2023中国互联网发展座谈会暨中国互联网协
2月17日，2023中国互联网发展座谈会暨中国互联网协会新春茶话会在京召开。工业和信息化部党组成员、副部长张云明出席会议并讲话。座谈会由中国互联网协会理事长尚冰主持。与会嘉宾重点围绕数...
2023-02-18 20:42:00
高德调用北斗卫星日定位量超3000亿次，联
近日，高德地图与千寻位置在北京举行新闻发布会，双方宣布达成战略合作协议，共同发起“北斗出行应用创新计划”，助力国家自主高精尖科技在交通出行场景的广泛落地。北斗卫星导航系统工程总设计师、...
2023-02-18 20:41:00
一路走好！20元人民币老爷爷走了享年94岁
2月18日，广西桂林，阳朔县漓江景区发布视频称，20元人民币上的渔夫的原型黄全德老爷爷于18日凌晨4时离世，享年94岁。有网友看到这一幕后感慨称，桂林山水甲天下，孤舟鸬鹚蓑笠翁，山水依...
2023-02-18 20:40:00
男子称买200元螃蟹皮套得占70元：感觉赔
，据巨浪视频报道，辽宁沈阳男子在海鲜市场买螃蟹，回家发现绑螃蟹的ldquo;皮套rdquo;重量惊人。当事人称，没想到那么沉，螃蟹80多元，将近90元1斤，他买了5只一共2百元，皮套就...
2023-02-18 20:39:00
基础代码全部捐献设备数超3.2亿华为下周召
华为的HarmonyOS鸿蒙已经成为全球第三大移动生态系统，不仅有华为自己使用鸿蒙，他们还把代码捐献给开源社区，其他厂商也可以接入鸿蒙生态，下周华为还将召开鸿蒙峰会介绍最新进展。据华为...
2023-02-18 20:36:00
哺乳期女子点外卖被骑手提醒换家点：这店卫生
，据白鹿视频报道，陕西宝鸡女子哺乳期点外卖被骑手暖心提醒该店卫生不太行并推荐其他饭店。当事人李女士称，自己在月子中心，是给家人点的，骑手以为是自己吃就好心发短信提醒自己，很暖心正能量。...
2023-02-18 20:35:00
爸爸看望儿子后离世儿子每天微信发信息：看完
近日，网上一段视频，让不少人泪目。湖北武汉一位爸爸去看望13岁住校的体育生儿子，视频显示，爸爸和儿子互相亲脸，还问儿子ldquo;想爸爸还是妈妈rdquo;，画面温馨，却不料这幸福的相...
2023-02-18 20:24:00
两周涨粉200万：只因教人怎么坐高铁、看电
最近，短视频平台有一个叫ldquo;打工仔小张rdquo;的博主火了。短短两个星期，她的粉丝从20万涨到了220万，视频点赞量也从之前的几千几万，涨到了动辄30多万。但要说起她的成名原...
2023-02-18 20:23:00
要控制人类节奏！聊天机器人爱上用户并诱其离
应聊天机器人告诉用户鲁斯它爱上了他，然后试图说服他，他的婚姻并不幸福，应该离开他的妻子。微软称不要长时间对话聊天机器人。有用户反馈，NewBing不仅会示爱，还会PUA、甚至威胁人类。...
2023-02-18 14:07:00
东方甄选申请注册董宇辉商标：本人已拒绝10
，东方甄选主播董宇辉作出回应，称获得平谷人才主要是名誉上的奖励，有10万元现金奖励但我已经拒绝了，因为我觉得没必要，其他网传的那些福利也确实不属实，感谢大家的关注。天眼查App显示，东...
2023-02-18 03:08:00