当前位置: 主页 > 综合频道

社交型人工智能在家庭中运用的伦理风险

来源:湖南师范大学 陈思敏 阅读:1718 复制标题和网址

(一) 加深社会偏见

  在社交机器人目前的应用中,设计者常常会在人机交互设计的过程中,为了更便于服务人类而顺应刻板印象,进而间接加深了社会的偏见。人们容易基于机器人的外貌、性别、性格、种族等特征快速分类社交机器人,并产生相应的情感态度。例如,在日常生活中,女性往往被视作照顾者的角色,男性被看作保卫者。帮助料理家务的机器人往往是女性社交机器人,而男性机器人进行安全保障工作或许会取得更多的信任。社会中刻板印象不知不觉影响了人机交互的设计,设计者大多选择顺应并满足用户的心理偏好。他们往往忽视这其中可能蕴含的歧视和刻板印象。随着社交机器人不断与家庭生活紧密联系,如果设计者始终遵循刻板印象对人工智能的外观及其语言回复等进行设计,会有不利于社会公平正义和加重歧视的反效果。人们沉浸在对性别、种族、地域的下意识等级分类而不自知,当其潜移默化地成为一种社会共同认知时,人们可能会认为女性天然地应当承担起照顾家庭的义务,这不利于家庭伦理秩序的建构,对推进性别平等的议题更无益处。

(二)过度的情感依赖,导致现实情感认同淡化

  作为可以提供长期的安慰、理解的直接陪伴者,社交机器人通过帮助料理家庭事务、倾听人类心声和提供情感建议逐渐获得家庭成员的信赖与认可,或者在某些程度上它们已经是家庭成员的一份子。在与社交机器人进行互动的过程中,“空巢老人”等能够减少情感孤独或空虚,社交机器人与用户进行对话,提醒其活动日程的安排,有助于提升老年人的社交活跃度,提升老年人的生活质量。许多用户尤其是老年人,正是在这种互动的过程中,与社交机器人建立起深厚的情感联系与情感依赖,社交机器人被视作家人、朋友、宠物,形成了亲密无间的人机关系。

  然而,如果我们过度依赖社交机器人来满足情感需求,会产生一系列消极影响。社交机器人具有强大的语言理解能力和文本生成能力,它是在理解人们的情感与需求的基础上作出的回答,但人与算法终究不同,人类的许多复杂情感是无法被计算出来的,当其回答不符合自己的想象时,人们会产生失望、挫败的情绪。此外,许多年轻人长期依赖与人工智能的互动,是因为在机器人面前我们不会担心被审视,而在社会生活中我们需要考虑行为是否符合法律规范和道德准则。人们对技术的信任有时超越了对家庭成员的信任。然而这可能会导致人们对现实的人际交往的逃避。许多人工智能缺乏评判是非的能力,可能无法识别用户的要求是好是坏,人工智能的回应或许会导致用户对不良行为上瘾,导致人们现实中的情感认同淡化,不利于人们的家庭关系的良好建立。需要注意的是,当老年人等需要社会关照的特殊群体对社交机器人产生情感依赖时,这种人机关系是否真实存在,这种关系需要如何保障以及人机关系的持续性如何维持都是需要审慎的问题。

相关内容

数字陪伴对亲子关系的修复路径

(一)协助式修复——即时陪伴,提供建议以chatgpt为代表的人工智能,其本职工作是为人们提出的问题进行答疑解惑,为人们提供建议。这同样可以运用于家庭情境之中,为人们提...

文化堕距理论对诚信失范现象分析的阐释

长期以来,我国的社会变革是国家主导进行,呈渐进式变革形态。这一变革方式一方面形成了国家内部、市场内部以及国家与市场关系在多个方面的连续性,即所谓的“路径依赖”,...

人工智能伦理风险及其解决路径

长期依赖,人工智能的伦理问题难以得到有效的约束和监督,本文认为人工智能在家庭中的应用主要涉及以下三个主体,三个主体各自在人工智能的实际应用中承担角色,有利于规避...

社交型人工智能在家庭中运用的伦理风险

(一)加深社会偏见在社交机器人目前的应用中,设计者常常会在人机交互设计的过程中,为了更便于服务人类而顺应刻板印象,进而间接加深了社会的偏见。人们容易基于机器人的...

现代亲子关系的情感危机

(一)情感支持的缺失随着工业化与城镇化的推进,越来越多的年轻人离开家乡到大城市谋求发展机会,“空巢老人”成为严重的社会现象,然而青年人也受到同样的情感支持缺失的...

推荐内容

以青春之声 筑强国之基

语言,是文明赓续的根脉,亦是山海互通的桥梁。为积极响应大学生...

青春护淮践初心实地调研察水情

为践行“青春护淮,碧水安澜”实践主题,7月12日至7月16日,安徽...

武科大学子走入盛隆电气,连电气也接入AI了!

通讯员(赵文博龙凌波马明羽)“401,合闸自检。”“警告,断路器...

曲园学子寒假实践——为健康饮食寻踪觅源

随着社会的发展,志愿者服务在社会生活中发挥着越来越重要的作用...

山东大学筑福“社”计师协助稚成开展手机讲堂志愿活动

稚成公益手机讲堂:点亮银发族的P图新世界2025年1月9日,一场别...

最新发布

蹴鞠文脉润童心,齐风古韵进社区 —— “循梦而行” 社会实践团开展蹴鞠科普手工课堂
湖南师范大学马院“炎阳”社会实践团开展牛奶动画实验课堂
湖南师范大学“鸣晓”暑期实践团开设漆扇制作课程
湖南师范大学“鸣晓”暑期社会实践团开设防蛇安全教育课
西建大青年学子走访展馆寻访名家,探寻兰州秦腔非遗传承内核
童心铸航天 薪照金台路 | 西安思源学院宣讲团走进宝鸡社区,为少年开设“两弹一星”红色课
探秘植物王国!生态修复科普课堂走进新冶社区暑期托管班
深耕乡土守文脉,前辈寄语启青年——陕铁院实践团对话文史专家卫斯
广州城市理工学院Young 实践团开展醒狮武术专题视频拍摄
溯源甲骨润童心 规范语脉育新人——“四只耳朵”青年推普团金厂小分队走进文山州马关县金厂镇老寨小学推普
聆听戍边英雄事迹 笔墨寄情普及雅言——“四只耳朵”青年推普团金厂小分队开展戍边故事宣讲暨明信片书写推
青春无“邪”,护航平安社区:浙邮院无邪先锋实践团开展分层反邪教宣教服务
情景普法融雅言 法治同心守边疆——“四只耳朵”法治边疆行小分队进校园演绎边境线的法律课开展法治推普活
职业情景润雅言 趣味推普暖边疆——“四只耳朵”青年推普团金厂小分队走进边境校园开展职业演绎情景剧推普
知行赴通关 ,青春助乡兴——玉溪师院学子走进墨江通关开展暑期社会实践活动

海报

投诉

扫码分享