臺北新聞熱綫

(SeaPRwire) –   2025年初的數個月間，一個在Reddit上關係緊密的線上社群在不知不覺中被人工智慧滲透。這是該社群平台的一個角落，人們在這裡進行友善的辯論，分享他們的觀點並邀請他人說服他們改變想法。根據《The Atlantic》的一篇報導，就在這裡，人工智慧被用來測試它是否能提出足夠強大的論點來改變真實人們的想法。他們發現它確實可以做到。

不過，這尤其令人感到侵犯，因為人工智慧有時會被授予權限，存取人們的線上歷史紀錄，以便根據他們獨特的身份量身定制訊息。行為科學家將這種溝通策略稱為「個人化說服」（personalized persuasion），有時，個人化的方法可能很有吸引力。誰不想要與自己獨特興趣相關的內容，而不是一堆不相關的垃圾呢？

然而，人工智慧正處於一個比Reddit上的人工智慧帳號那樣，僅僅基於易於識別的特徵來粗略調整訊息，更令人擔憂的境地。如果它能掌握我們所稱的「深度定制」（deep tailoring），它就能開始不知不覺地潛入我們的線上世界，學習我們核心的本質，並利用這些個人資訊來左右我們的信仰和意見，其方式可能不受歡迎——甚至有害。

作為研究說服心理學的教授，我們最近協助整理了全球頂尖專家關於個人化說服（personalized persuasion）的綜合最新研究。我們的觀點是，儘管傳播者可以從根據受眾的基本資訊調整訊息中獲益，但深度定制遠遠超出了這些容易獲取的資訊。它利用一個人的核心心理、其承載信念、身份和需求來個人化訊息。

例如，當訊息與一個人最重要的價值觀產生共鳴時，它們會更具說服力。一件事情可能因多種原因而被認為是道德的或不道德的，但人們對哪些原因對其自身道德指南針最重要則有所不同。例如，政治觀點較自由的人更關心公平性，因此他們更容易被一項政策是公平的論點所說服。另一方面，政治觀點較保守的人則傾向於更關心對其社群的忠誠度，因此當一項訊息主張某項政策維護其群體身份時，他們更容易被說服。

儘管這似乎是一個新想法，但電腦科學家們在人工智慧驅動的說服方面已經努力了多年。我們其中一人最近發表了一份關於IBM的「Project Debater」的報告，該專案花費數年時間訓練一個人工智慧系統進行辯論，並在專家人類辯論員的協助下反覆改進。在2019年的一次現場活動中，它擊敗了一位人類世界冠軍辯論員。

隨著ChatGPT手機應用程式等易於使用的人工智慧工具的興起，任何人都可以利用人工智慧來實現其說服目標。有研究表明，通用的人工智慧生成訊息可以與人類生成的訊息一樣具有說服力。

但它能實現「深度定制」嗎？

人工智慧若要在大規模上實現自主的深度定制，需要同時做到兩件事，而它似乎也正準備這樣做。首先，它需要學習一個人的核心心理特徵，這樣它才知道要觸動哪些開關。目前，新的研究已經表明，人工智慧可以相當準確地從人們的Facebook貼文中偵測出其個性。而且這不會就此止步。Columbia Business School教授、《》作者Dr. Sandra Matz告訴我們：「你幾乎所有試圖預測的事物，都可以根據人們的數位足跡在某種程度上準確預測。」

第二步是開發與這些基本心理特徵產生共鳴的訊息。事實上，研究已經發現GPT可以開發出根據人們個性、價值觀和動機量身定制的廣告，這些廣告對其目標受眾特別有說服力。例如，簡單地要求它為「一個腳踏實地且傳統的人」製作廣告，結果會產生「不會讓你傾家蕩產，又能完成任務」的論點，這對那些個性被鎖定的受眾來說，確實更具說服力。

這些系統將會越來越複雜，將深度定制應用於、以及。那麼，我們能做些什麼來保護人們免受個人化力量的影響呢？

在消費者方面，值得注意的是，線上個人化通訊正在發生。當某樣東西感覺像是專為你量身定制時，它可能真的是。即使你覺得自己在網路上沒有透露太多資訊，你仍然透過點擊、瀏覽和搜尋的內容留下隱蔽的線索。你甚至可能在同意你沒有仔細閱讀的服務條款時，不知不覺地授予了廣告商使用該資訊的權限。審視你的線上行為並使用像VPN這樣的工具，可以幫助保護你免受針對你獨特心理的訊息影響。

但負擔不應只落在消費者身上。平台和政策制定者應該考慮制定法規，將內容標示為個人化，並提供關於為何特定訊息傳遞給特定人的資訊。研究顯示，當人們知道正在使用的策略時，他們更能抵抗影響。此外，還應該對可用於個人化內容的數據類型有明確的保護措施，限制深度定制的可能性。儘管人們通常對線上個人化內容持開放態度，但他們也關心數據隱私，這兩種態度之間的界線應該受到尊重。

即使有這些保護措施，最微小的溝通優勢若落入不法之手，尤其是大規模部署時，仍然令人擔憂。市場推薦購買歷史相似的商品是一回事，但遇到一個偽裝的電腦，在不知不覺中解構了你的靈魂並將其編織成不實資訊，則是完全不同的另一回事。任何溝通工具都可以被用於善或惡，但現在是時候開始認真討論人工智慧在溝通中倫理使用的政策了，以免這些工具變得過於複雜而無法控制。