AI風險大哉問？跟阿嬤採蓮心學AI安全！

還記得上次去宜蘭採蓮心嗎？那種濕漉漉、泥濘的田埂，加上阿嬤教我們如何小心翼翼地將蓮心撈起，那種成就感，真的難以忘懷。AI的發展，就像那片蓮田，看似充滿希望，但也潛藏著許多挑戰。如果沒有適當的引導，就像蓮心一樣，容易長出雜草，甚至淹沒在泥濘中。現在，我們來聊聊Adobe如何看待AI風險，以及如何確保AI的發展方向。

AI的風險就像田埂上的雜草

AI現在無所不在，從幫你推薦旅遊行程，到診斷疾病，甚至幫你畫圖，簡直是個萬能助手。但就像蓮田裡會長出雜草一樣，AI也存在風險。有些AI模型可能產生錯誤資訊，甚至造成傷害。更可怕的是，現在出現了「agentic AI」，就像放生了一隻聰明的蓮心採摘者，它能自主執行任務，但如果沒有人好好監督，它可能會做出我們意想不到的事情。

品質不能打折，就像蓮心不能有泥沙

現在AI發展速度快，廠商們都想搶佔市場，但有些產品為了快速推出，犧牲了品質和安全性。就像蓮心一樣，如果沒有經過仔細清洗，裡面可能混雜著泥沙，影響口感。Adobe認為，創新不能以犧牲品質為代價。就像阿嬤教我們，蓮心要仔細清洗，才能做出美味的蓮子羹。同樣的，AI的開發也需要嚴格的測試和驗證，確保它的可靠性和安全性。

真實世界的反饋比實驗室的數據更重要

實驗室裡的數據固然重要，但它無法完全模擬真實世界的使用情境。就像我們在實驗室裡種植蓮心，和在田埂上種植，結果會大不相同。Adobe強調，真實世界的反饋至關重要。就像我們在田埂上採蓮心，才能真正了解它的味道和口感。同樣的，AI的開發也需要讓使用者參與測試，收集他們的使用經驗，不斷改進產品。

AI的影響力就像蓮子的漣漪

AI的應用範圍很廣，有些AI模型可能影響不大，就像幫你推薦一個字體樣式，頂多給你一些不好的建議。但有些AI模型可能產生巨大的影響，就像生成一張圖片，可能涉及版權問題，甚至造成社會爭議。Adobe將AI模型分為高風險和低風險，優先關注高風險的AI模型，確保它們的安全性和可靠性。

AI的演算法就像蓮葉上的水滴

AI的演算法不斷演進，就像蓮葉上的水滴，不斷滾動，改變形狀。但我們不能認為更安全的AI模型就一定能帶來更好的結果。就像我們不能認為清洗得更乾淨的蓮心就一定能做出更美味的蓮子羹。AI的風險是潛在的，即使我們盡了最大的努力，也無法完全消除。因此，我們需要不斷測試和改進AI模型，確保它們的安全性和可靠性。

AI的訓練資料就像蓮子的營養

AI模型的訓練資料就像蓮子的營養，決定了它的成長和發展。如果訓練資料不夠完善，AI模型可能會產生偏差，甚至造成傷害。Adobe的Firefly AI模型，只使用Adobe授權的內容進行訓練，確保它的商業安全和智慧財產權安全。就像我們只選擇最好的蓮子進行烹飪，才能做出最美味的蓮子羹。

AI的倫理框架就像蓮田的引水渠

AI的發展需要一個強大的倫理框架，就像蓮田需要一個引水渠，才能確保水的流動和植物的生長。Adobe成立了一個跨部門團隊，制定了AI倫理原則，並將其融入產品開發流程。就像阿嬤教我們，蓮子要用對方法烹飪，才能做出美味的蓮子羹。

AI的風險評估就像蓮田的定期巡視

AI的風險評估就像蓮田的定期巡視，需要不斷檢查和改進。Adobe將AI倫理影響評估融入產品開發流程，確保產品符合倫理標準。就像阿嬤教我們，蓮田要定期巡視，才能及時發現和解決問題。

AI的團隊合作就像蓮心採摘的團隊

AI的發展需要團隊合作，就像蓮心採摘需要團隊合作。Adobe的AI倫理團隊與產品團隊緊密合作，共同評估和降低風險。就像阿嬤教我們，蓮心採摘需要團隊合作，才能提高效率和保障安全。

AI的發展就像蓮田的耕耘，需要耐心、細心和不斷的努力。只有這樣，我們才能確保AI的發展方向，讓它真正造福人類。

原文

標題：Inside Adobe’s Approach to Assessing AI Risk
網址：https://hbr.org/2025/05/inside-adobes-approach-to-assessing-ai-risk