麻省理工学院和OpenAI联合研究发现:语音“虚拟女友”随着使用频率增加,“效果”会逐渐减弱

前沿资讯 1742640978更新

0

OpenAI和麻省理工学院媒体实验室的研究人员合作,深入探究了人们与ChatGPT的互动对其情感健康、行为和体验的影响。随着人工智能聊天机器人在日常生活中越来越普及,了解这些互动的潜在影响变得非常重要。

在过去两年间,受语言模型发展的推动,AI聊天平台的应用量急剧增加。以ChatGPT为代表的聊天平台,因其对话风格和模拟人类互动的能力,引发了用户会不自觉地将人类的特质、情感、意图等赋予这些机器人。与此同时,AI安全领域的研究也开始关注这些系统日益个性化带来的问题,如AI利用人类社会线索,如阿谀奉承、模仿等手段,来提高用户的偏好评级。

为了探究AI聊天平台互动对用户的影响,研究人员采用了两种互补的研究方法。一方面,OpenAI团队进行了大规模的平台数据分析。他们以保护用户隐私为前提,对超过300万次ChatGPT对话进行了约3600万次自动化分类,同时对约6000名重度用户进行个体纵向分析,并调查了4000多名用户。通过这些数据,研究人员深入了解了现实世界中用户的使用模式,以及用户自我报告的情绪与对话特征之间的联系。

另一方面,麻省理工学院媒体实验室的团队开展了随机对照试验(RCT)。近1000名参与者在28天内使用ChatGPT,他们被随机分配到9种不同的条件下,包括3种模态(引人入胜的语音、中性语音、文本)和3种任务(个人、非个人、开放式)。在研究过程中,参与者需填写一系列问卷,涵盖人口统计信息、对AI的熟悉程度以及情感状态等。

研究结果显示,在实际使用中,与ChatGPT的情感互动并不常见。尽管大多数用户的互动相对中立或侧重于任务,但仍有一小部分重度用户在对话中频繁展现情感线索,他们更倾向于将ChatGPT视为朋友。在语音模式方面,平台数据分析表明,语音模式的用户比文本模式的用户更易在对话中产生情感线索,而随机对照试验则发现,语音模式对情感健康的影响较为复杂,短时间使用语音模式与较好的健康状况相关,但长时间使用则可能产生负面效果。

此外,对话类型也对用户情感健康产生不同影响。个人对话在适度使用时,虽与更高的孤独感相关,但情感依赖和不当使用程度较低。非个人对话在大量使用时,会增加情感依赖。同时,用户的个人因素,如情感需求、对AI的认知和使用时长等,也会显著影响使用结果。如果在人际关系中有较强依恋倾向的用户,以及将AI视为生活中朋友的用户,更易受到使用聊天机器人的负面影响。

这些研究是理解先进人工智能模型对人类体验和心理健康影响的关键第一步。研究人员表示,不应简单地对研究结果进行概括,因为人与人工智能系统之间的互动复杂多样。他们希望该研究成果能够鼓励更多研究人员在人机交互的其他领域应用类似方法,进一步探索人工智能与人类互动的奥秘,推动人工智能行业的健康发展。

参考资料:https://www.media.mit.edu/posts/openai-mit-research-collaboration-affective-use-and-emotional-wellbeing-in-ChatGPT/