印度大選開票大致完成,莫迪執政聯盟勝選但席次縮水,這次選舉的一個問題就是選舉中深度偽造(deepfakes)和操縱選民的影音益發普遍,AI生成的內容已在世界各地的政治運動和選舉中大量出現,導致對民主過程的完整性以及虛假資訊和錯誤資訊破壞力的擔憂。

在選舉中使用AI生成內容是一個複雜的問題,需要從多個角度仔細考慮。AI建立的個性化內容可以增強政治運動的影響力,候選人和政黨可以利用這些技術,根據不同受眾量身定做資訊,將演講翻譯成各種語言,並加上視覺效果和動畫。但是同樣的工具也可能被濫用來製作誤導或徹底虛假的內容,從而破壞選舉過程的公正性,讓選民混亂。

缺乏全面的AI選舉使用法規和保障措施加劇了這一問題,儘管一些AI公司已採取措施來防止產生錯誤資訊,但這些措施往往很容易被規避。還有許多公司將利潤置於道德考慮之上,缺乏明確的指導方針和執法機制,讓惡意行為者利用這些技術謀取私利。

AI生成內容可能會放大現有的偏見和兩極分化,針對特定受眾量身定做資訊並強化某些敘事,AI也會助長回音效應,進一步加劇社會在政治上的分裂。這可能會導致公眾話語的混亂,削弱共同事實和客觀現實的基礎,最終破壞民主的根基。

AI本身並無善惡,關鍵在於使用的目的和背後的意圖。儘管會被濫用,但AI也可以用於打擊虛假資訊和錯誤資訊。例如AI驅動的事實核查系統和內容審核工具可以檢測和標記深度偽造和其他被操縱的內容,為虛假資訊的傳播提供剎車。

科技公司有責任將道德考慮和公眾利益置於短期利潤之上,他們應投資開發檢測和驗證AI生成內容的強大系統,實施更嚴格的防止濫用工具的保障措施。

民間組織和獨立監督機構在提高人們對AI生成內容在選舉中的潛在風險的認識、宣導負責任的AI使用、以及讓政府和企業負起責任方面可以發揮作用。

媒體素養和批判性思維讓公民有能力了解AI生成內容,教育計畫應著力於培養公眾認知,有能力評估深度偽造和被操縱內容,建立懷疑和查核事實的文化。

在選舉中使用AI生成內容是一個影響深遠的複雜問題,關係到民主過程的完整性和公眾對資訊來源的信任。解決這一挑戰需要各利益團體共同努力,包括政府、科技公司、民間組織和公眾,制定健全的法規和道德準則、提高媒體素養和批判性思維,如此才可以發揮AI的益處,同時在選舉時降低其潛在風險。

(作者為台北商業大學前校長)

#印度大選 #莫迪執政聯盟 #勝選 #席次縮水 #虛假錯誤資訊 #AI #深度偽造