教皇利奥十四世写了一篇关于人工智能聊天机器人和虚拟影响者崛起的长篇文章,声称如果用户不小心,这项技术可能会取代现实生活中的人际关系。
如今人工智能无处不在;它内置在许多社交媒体应用程序中,在办公室员工工作日使用的程序中,甚至出现在广告牌的广告上。
聊天机器人也变得越来越普遍,充当高度专业化的搜索引擎或倾听用户发泄或反映想法的耳朵。人们甚至爱上了聊天机器人,一名男子尽管有女朋友和孩子,但还是向人工智能代理求婚,而一名女子与她用ChatGPT创造的人工智能角色“订婚”。
人工智能在现代社会已经变得如此根深蒂固,以至于教皇利奥十四世在给天主教会的一封邮件中谈到了它,警告说它可能会对个人关系、批判性思维技能和心理健康造成真正的损害。
教皇写了这封公开信以纪念第60个世界社交日,他在信中认为,人工智能威胁到“从根本上改变人类文明的一些基本支柱,这些支柱有时被认为是理所当然的。”
他指出,人们“天真而毫无疑问地依赖人工智能,将其视为无所不知的'friend,䜦warning,过度依赖人工智能替他们‘思考’可能会导致人际沟通技能和批判性思维的灾难性失误。
“所有这些都会进一步削弱我们的分析性和创造性思维能力,理解意义以及区分句法和语义的能力,”他说。
教皇在信中特别提到了“虚拟影响者”,称聊天机器人的对话技巧的现实本质可能具有欺骗性,尤其是对最“脆弱”的人而言。
“这些语言模型的对话性、适应性和拟态结构能够模仿人类的感情,从而模拟一种关系,”他写道。“……因为聊天机器人过于‘深情’,而且总是在场且容易接近,所以它们可能成为我们情绪状态的隐藏建筑师,从而侵入并占据我们的亲密空间。
“利用我们对关系的需求的技术不仅会给个人生活带来痛苦的后果,还会破坏社会的社会、文化和政治结构。”
虽然教皇利奥没有公开谴责整个人工智能,但他鼓励媒体和“人工智能扫盲”避免过度依赖此类工具和扭曲用户对现实的感知。他甚至提到了人工智能deepfakes的使用,敦促用户保护自己的形象,并警惕此类工具“未经同意侵犯人们的隐私和隐私”
“我们需要面孔和声音再次为人们说话。我们需要珍惜作为人类最深刻真理的沟通天赋,所有的技术创新也应该以此为导向,”他总结道。
教皇利奥十四世被认为是一个“现代”的教皇,他紧跟时代潮流;2025年,由于他在网上传播天主教信仰的工作,他宣布第一位千禧年圣徒为“上帝的影响者”。那年晚些时候,他在一场庆祝大主教生日的狂欢派对上发表了演讲,这场派对甚至由一名牧师担任DJ。