可以用生成式 AI 帮忙摘要信件、准备简报吗？工作上使用生成式 AI 安全吗？耶稣会罗马总院四月时，邀请宗座生命科学院科学部成员卡萨洛内神父介绍生成式 AI，并说明使用生成式 AI 的伦理意涵及责任。

他们必须意识到庞大的责任和庞大的权力密不可分。
-1793年法国国家会议 (French National Convention)

2024年4月于耶稣会罗马总院大会议厅举行的一场活动中，宗座生命科学院科学部 ( Scientific Section of the Pontifical Academy for Life）成员，耶稣会卡洛‧卡萨洛内神父 (Carlo Casalone)，向在总院工作的所有耶稣会会士与非耶稣会会士，介绍资讯科技界当红的话题――生成式人工智能（Generative Artificial Intelligence），以下简称为“生成式 AI”。他的演说重点为，生成式 AI 在我们工作上的应用。卡萨洛内神父也谈到，使用生成式AI 的伦理意涵及责任。

其实，这不是总院第一次讨论生成式 AI，因为总会长苏萨神父的咨议，在 2023 年末已经讲过这个主题，所以生成式AI的“观念”，对某些人并不陌生。事实上，几乎每个人都听过生成式AI，尽管他们可能不知如何取得或运用生成式 AI。

无论如何，活动结束后，有关生成式 AI 的讨论热烈。我开始收到一些问题，诸如：“我要怎样使用生成式 AI，帮我摘要收到的信件？”或“我能用生成式 AI 做投影片简报吗？”，又或“使用生成式 AI 安全吗？”

最后一个问题可是大哉问，因为资料的隐私和安全是耶稣会罗马总院主要的考量，可能也是在触及资讯科技时，最重要的考量。对我们来说，保护我们处理的资料是第一优先――几乎所有的生成式 AI 助理，就拿微软，谷歌或 Open AI 这三巨头来说，它们全要求在线上 (网络上) 储存及操作正在处理的资料，这就有危及资料安全的风险。

当然还有其他的考量，例如使用生成式 AI 对于道德/伦理/公平性的影响，生成式 AI 供应商的透明度和可靠性，AI 模型可能引起的偏差和歧视，AI 基础设施对环境的冲击等等。

知悉这些后，我们或许应该先问：“我们究竟要不要在工作上使用生成式 AI，尤其总院每天都在处理与人、机构及事件相关的敏感资讯？”就我而言，生成式 AI 是一个有用且非常强大的工具，然而它仍然是个不折不扣的工具。一如卡萨洛内神父在总院的报告中所指，我们身为工具的创造者，在使用它们时，不管是否为科技产品，都要负起最终的责任，而这责任显然扩及生成式 AI 的使用。

生成式 AI 的厉害之处，是凭借它庞大的资料集和原始运算能力，而拥有能力生产出近似人类创意的内容。然而，生成式 AI 应该辅佐人类做决定，而不是破坏或取代我们做决定，也不该用在人们害怕会造成伤害的地方。诚如文章一开头引自智者的话，“他们必须意识到庞大的责任和庞大权力密不可分”。

文：肯尼斯·杨 (Kenneth Yong) 耶稣会总会长办公室 资讯科技中心支援
文/图来源：耶稣会罗马总院