教皇警告人工智能风险：防止暴力和歧视危害是当务之急

教皇方济各近日发出警告，呼吁人们警惕人工智能（AI）所带来的潜在风险。他强调了人工智能可能带来的“破坏性和矛盾效应”，并敦促那些参与开发或使用人工智能的人们承担起相应的责任。方济各在周二的一份声明中特别指出了新兴技术中的算法偏见可能造成的威胁，并敦促公众保持高度警觉。

（方济各声明）

方济各强调：“人工智能设备的制造和使用绝不能滋生暴力和歧视的思维，而应当保护那些最脆弱和被边缘化的群体。”他进一步表示，不公正和不平等加剧了冲突和对立，因此，迫切需要以负责任的态度引导人工智能的概念和应用，以便让其真正为人类服务，保护我们共同的家园。这一过程需要将道德反思渗透到教育和法律领域。

方济各的观点与一些人工智能专家的看法一致，他们呼吁确保算法在开发过程中得到适当的“协调”，以支持人权和其他广泛认可的价值观。此外，许多行业专家和政策制定者也对人工智能可能助长欺诈、传播错误信息、网络攻击乃至生物武器的风险表示担忧。

这一警告是在方济各宣布2024年世界和平日主题为“人工智能与和平”之后发布的。他希望通过这一主题引起公众对人工智能可能对社会产生的影响的关注。方济各指出，保护人的尊严，关注整个人类大家庭的命运，是技术发展促进全球正义与和平的必要前提。

值得注意的是，方济各本人曾多次成为人工智能深度伪造的对象。今年早些时候，一张虚假的方济各图片在网上疯传，但这张图片实际上是由人工智能图像生成器Midjourney制作的，并非真实照片。尽管方济各早在2015年就承认自己对技术了解甚少，但他同时认为互联网、社交网络和短信是“上帝的礼物”，前提是能够被明智地应用。

在今年6月底，教皇还与美国圣克拉拉大学的研究机构共同成立了技术、伦理和文化研究所（ITEC）。该研究所的首要任务之一便是发布了一份长达140页的指导手册，详细探讨了人工智能等新技术所涉及的伦理和道德问题。这一举措进一步突显了方济各对于人工智能的关切。