可以用生成式 AI 幫忙摘要信件、準備簡報嗎？工作上使用生成式 AI 安全嗎？耶穌會羅馬總院四月時，邀請宗座生命科學院科學部成員卡薩洛內神父介紹生成式 AI，並說明使用生成式 AI 的倫理意涵及責任。

他們必須意識到龐大的責任和龐大的權力密不可分。
-1793年法國國家會議 (French National Convention)

2024年4月於耶穌會羅馬總院大會議廳舉行的一場活動中，宗座生命科學院科學部 ( Scientific Section of the Pontifical Academy for Life）成員，耶穌會卡洛‧卡薩洛內神父 (Carlo Casalone)，向在總院工作的所有耶穌會會士與非耶穌會會士，介紹資訊科技界當紅的話題――生成式人工智慧（Generative Artificial Intelligence），以下簡稱為「生成式 AI」。他的演說重點為，生成式 AI 在我們工作上的應用。卡薩洛內神父也談到，使用生成式AI 的倫理意涵及責任。

其實，這不是總院第一次討論生成式 AI，因為總會長蘇薩神父的諮議，在 2023 年末已經講過這個主題，所以生成式AI的「觀念」，對某些人並不陌生。事實上，幾乎每個人都聽過生成式AI，儘管他們可能不知如何取得或運用生成式 AI。

無論如何，活動結束後，有關生成式 AI 的討論熱烈。我開始收到一些問題，諸如：「我要怎樣使用生成式 AI，幫我摘要收到的信件？」或「我能用生成式 AI 做投影片簡報嗎？」，又或「使用生成式 AI 安全嗎？」

最後一個問題可是大哉問，因為資料的隱私和安全是耶穌會羅馬總院主要的考量，可能也是在觸及資訊科技時，最重要的考量。對我們來說，保護我們處理的資料是第一優先――幾乎所有的生成式 AI 助理，就拿微軟，谷歌或 Open AI 這三巨頭來說，它們全要求在線上 (網路上) 儲存及操作正在處理的資料，這就有危及資料安全的風險。

當然還有其他的考量，例如使用生成式 AI 對於道德/倫理/公平性的影響，生成式 AI 供應商的透明度和可靠性，AI 模型可能引起的偏差和歧視，AI 基礎設施對環境的衝擊等等。

知悉這些後，我們或許應該先問：「我們究竟要不要在工作上使用生成式 AI，尤其總院每天都在處理與人、機構及事件相關的敏感資訊？」就我而言，生成式 AI 是一個有用且非常強大的工具，然而它仍然是個不折不扣的工具。一如卡薩洛內神父在總院的報告中所指，我們身為工具的創造者，在使用它們時，不管是否為科技產品，都要負起最終的責任，而這責任顯然擴及生成式 AI 的使用。

生成式 AI 的厲害之處，是憑藉它龐大的資料集和原始運算能力，而擁有能力生產出近似人類創意的內容。然而，生成式 AI 應該輔佐人類做決定，而不是破壞或取代我們做決定，也不該用在人們害怕會造成傷害的地方。誠如文章一開頭引自智者的話，「他們必須意識到龐大的責任和龐大權力密不可分」。

文：肯尼斯·楊 (Kenneth Yong) 耶穌會總會長辦公室 資訊科技中心支援
文/圖來源：耶穌會羅馬總院