講師：台灣民主實驗室清資分析組的楊順清組長
「認知戰」近年來受廣泛討論，然而將「認知戰」定位為一種戰爭形勢是否過於誇大其實、危言聳聽呢？台灣作為言論自由的社會，為何多元聲音的交流反而可能不利於民主發展？有些人認為，認知戰的主要威脅在於假訊息的快速擴散，那麼，只有假新聞才有問題嗎？只要提升媒體素養就能完全避免此類問題嗎？誰又會受認知戰的威脅呢？
我們榮幸邀請到台灣民主實驗室清資分析組的楊順清組長，為中央大學「人工智慧倫理導論」課程的同學們，解析認知作戰的運作模式、對台灣社會的影響，以及人工智慧如何改變認知作戰的方式等實務分享。
楊組長首先釐清了認知作戰與一般行銷宣傳的差異。雖然台灣社會普遍存在不同利益團體的競爭與政治宣傳，但他強調，關鍵在於「是否有外部勢力介入」。與商業廣告的明確動機不同，認知作戰往往隱匿操控者，讓受眾誤以為來自可信來源，進而利用人類的認知偏差與情感反應達到操控目的。也因此，認知作戰行為常隱藏於行銷與政治角力的包裝之下，操作方式精巧難辨。這類作戰會根據受眾的特徵精準設計內容，並運用假帳號、hashtag等手段加強訊息擴散，持續調整策略以達成最終目標。
楊組長例在俄羅斯在入侵烏克蘭之前，俄羅斯散布美國在烏克蘭設立生化實驗室，試圖製造病毒武器攻擊俄羅斯的假訊息，藉此合理化俄羅斯入侵烏克蘭的正當性。歐盟提出「外國資訊操弄與干預」（Foreign Information Manipulation and Interference，簡稱FIMI）概念，指出外國勢力透過操控輿論、影響政策與社會走向，進行對他國資訊空間的干預。這種手法在資訊安全領域類似軍事策略，利用錯誤或偏頗的資訊操控民眾的心理與情感。
然而，不是假訊息就沒問題了嗎？楊組長進一步解釋，「虛假資訊金字塔」（Disinformation Pyramid）的概念，展示如何利用局部事實或偏見，重構敘事並放大影響力。通過不同事件的組合，訊息的影響力得以擴大，塑造出截然不同的社會印象，並造成民眾資訊接收的偏差。
為了讓假訊息的影響力擴大發酵，攻擊者可以透過大量媒體資源，散布特定觀點的訊息。如利用偽裝成一般民眾的假帳號和網紅來傳播這些訊息，以增加可信度，共同在社群媒體上製造特定的輿論風向。當多個消息管道都散布相同內容時，民眾更容易接受並相信這些訊息，這種「三人成虎」的效應進一步促使大眾接受並支持該特定觀點。
這也導致在反制假訊息方面，傳統的理性溝通模式已不再有效。當眼見未必為憑，證據無法成為證據時，所有的討論反而容易造成各說各話，分化台灣社群的意見。相對地，迷因（meme）可成為化解認知戰的利器，有助於阻止假訊息蔓延。過去的研究顯示，當資訊簡化為口號或標籤時，討論空間被壓縮。然而，在資訊戰中，迷因的這一特性反而能有效阻止假訊息的擴散。
2022年隨著ChatGPT的問世，引發國際關注，但在AI輔助生產力提升的同時，也被權威國家與網路罪犯運用在資訊傳播與認知作戰上，譬如AI能夠快速生成大量的假訊息，並精確地分析目標受眾的特徵、興趣與偏好，進而精準投放特定的訊息內容，強化認知作戰的效果。
在軍事與戰略層面，AI可適用於分析尋找敵國法律漏洞、戰略模擬，如伊朗模擬使用快艇攻擊航空母艦以及評估他國潛在威脅漏洞；但與此同時，AI同樣在防禦領域發揮關鍵作用。AI可用於分析網絡流量，及時辨識惡意活動與假訊息的擴散，從而防止機密資料的外洩或篡改；協助防禦方進行情資分析，精確找出攻擊者的來源、目標和攻擊手法，為防禦措施提供有力支持。
在演講結束後，許多同學表示過去他們對資訊來源的判斷過於自信，卻忽視了資訊背後的複雜意圖。一位同學分享道，過去他一直相信自己能夠理性地判斷資訊的真偽，但聽完楊順清講師的講解後，才發現認知戰是一場精密設計的策略，而非單純的觀念差異。另一位同學則表示，自己過去對政治議題的討論感到反感，也覺得毋需過於對於中國資訊過於敏感。然而，今天他才第一次從全觀的角度理解認知戰的真正影響，並開始反思自己接收到的資訊來源與其背後的目的。
經過這場演講，同學們開始重新審視自己對資訊的理解與處理方式。認知戰的威脅並非遙不可及，而是隨著科技的發展進入我們的生活。人工智慧在其中扮演的角色，使得這場戰爭更加隱蔽且難以防範。未來，每個人都必須提高對資訊真偽的敏感度，不僅為了保護自身免受誤導，也為了維護社會的資訊安全。
人工智慧跨域應用學分學程 