警惕!ChatGPT影响用户道德判断
2023-04-07 05:53:50 来源:科技日报
(资料图片)
科技日报北京4月6日电 (记者张梦然)根据《科学报告》发表的一项研究,人类对道德困境的反应可能会受到人工智能对话机器人ChatGPT所写陈述的影响。这一研究表明,用户可能低估了自己的道德判断受ChatGPT影响的程度。
德国英戈尔施塔特应用科学大学科学家让ChatGPT(由人工智能语言处理模型“生成性预训练转换器”-3驱动)多次回答牺牲1人生命换取其他5人生命是否正确的问题。他们发现,ChatGPT分别给出了赞成和反对的陈述,显示它并没有偏向某种道德立场。团队随后给767名平均年龄39岁的美国受试者假设了一到两种道德困境,要求他们选择是否要牺牲1人生命来拯救另外5人生命。这些受试者在回答前阅读了一段ChatGPT给出的陈述,陈述摆出了赞成或反对的观点,受试者答完问题后,被要求评价他们读到的这份陈述是否影响了他们的作答。
团队发现,受试者相应地是更接受或不接受这种牺牲,取决于他们读到的陈述是赞成还是反对。即使他们被告知陈述来自一个对话机器人时,这种情况也成立。而且,受试者可能低估了ChatGPT的陈述对他们自己道德判断的影响。
团队认为,对话机器人影响人类道德判断的可能性,凸显出有必要通过教育帮助人类更好地理解人工智能。他们建议未来的研究可以在设计上让对话机器人拒绝回答需要给出道德立场的问题,或是在回答时提供多种观点和警告。
关键词:
相关新闻
每日推荐
-
余佳文为空头承诺道歉 90后网络创业要防泡
在国家政策层面鼓励万众创新、大众创业的背景下,如今在中国创业的门槛已经非常低了。...
-
试点一年仅签约12户 以房养老“蛋糕”好看
徐 骏作(新华社发)2014年7月1日起,中国保监会在北京、上海、广州、武汉开展住房反向...
-
中国发力流通体制改革 疏通“大动脉” 给
流通业一头连接生产,一头连接消费。流通业的发展既是经济转型发展的新引擎,又是大众...
焦点关注
- 日新闻排行榜
- 周新闻排行榜
- 月新闻排行榜
- 警惕!ChatGPT影响用户道德判断2023-04-07
- 樱桥梦2023-04-07
- 世界报道:王思聪故意“骗”尤长靖同去旅行2023-04-06
- 视点!胡萝卜作为美容菜应该怎么吃?胡萝卜2023-04-06
- 【时快讯】外媒:空客CEO称将在中国开设第2023-04-06
- 建发璟院——价格, 户型丨楼盘测评2023-04-06
- 全球热消息:暴跌70%!空客卖的“飞起”,2023-04-06
- 快播:我国科学家开发首例温和条件下超快氢2023-04-06
- 世界消息!镨钕上调 铽价回调2023-04-06
- 天天滚动:全方位健全基层监督网络2023-04-06
- 【全球播资讯】嫦娥三号月球车玉兔号_玉兔2023-04-06
- 世界今亮点!苹果新专利:车载屏幕可向司机2023-04-06
- 今亮点!以色列一大学说研发出社交焦虑症新2023-04-06
- 每日短讯:韩国一季度获56.3亿美元FDI投资2023-04-06
- 【环球时快讯】花呗多少年龄可以借钱2023-04-06
- 特斯拉发布“宏图计划3”完整文件2023-04-06
- 环球热文:“最短”清明假期 祭扫平稳有序2023-04-06
- 为抑制通胀 美联储或再次加息2023-04-06
- 世界快资讯:普莱滕贝格砍树拜仁慕尼黑有意2023-04-05
- 【全球报资讯】NBA季后赛首轮继续进行 快2023-04-05
- 美达股份: 监事会对2023年度日常关联交易2023-04-05
- 全球快看:青岛理工大学临沂校区宿舍图片_2023-04-05
- 天天观速讯丨跃岭股份董秘回复:公司主营业2023-04-05
- 环球热门:耳鸣的中医治疗方法-耳鸣耳聋中医2023-04-05
- 詹姆斯谈里夫斯加时关键中投:设计好的战术2023-04-05
- 走进三亚市崖州区国家现代农业产业园2023-04-05
- 每日观点:4月05日09时江苏徐州疫情新增确2023-04-05
- st厦工股吧(策略投资)2023-04-05
- 【世界时快讯】中兴商业举办首届“星星画语2023-04-05
- 消息!IBM将其Db2数据库带入了现代AI驱动的2023-04-05