一句提示詞毀掉一場演說！AI 時代最可怕的，不是技術，而是停止查證
AI重點
文章重點整理：
- 重點一：加拿大議員誤念AI提示詞，議會演說變成全球笑柄。
- 重點二：法律文件若未查證，AI幻覺可能導致罰款與停職。
- 重點三：生成式AI常編造似真內容，使用者仍需閱讀與判斷。
以下是更自然、流暢的版本，讀起來比較像議會演說，而不是一連串簡短的重點
這不是 ChatGPT 畫面上的提示，而是一位加拿大省議員在議會裡，當著所有人的面，一字不漏念出來的內容。
當新聞曝光後，全世界都笑了。大家笑的不是 AI，而是一位民意代表竟然連自己即將說出口的文字，都沒有重新讀過一次。
這起事件，也讓我想起自己不久前的一次經驗。
當時，我請 AI 協助整理一位人物的背景資料。它回答得條理分明，還補上完整生平與經歷，看起來幾乎無懈可擊。
直到我開始交叉查證，才發現那個人根本不存在，整份資料都是 AI 一本正經編造出來的。我終於明白，AI 最可怕的地方，不是偶爾答錯，而是它能把虛構說得像真相。
最近幾起國際新聞，更讓我確信一件事：AI 可以幫我們完成很多工作，但閱讀、查證和判斷，最後還是得由人自己完成。
否則，一個看似方便的工具，很可能讓自己成為下一則新聞的主角。
加拿大議會的一場尷尬，全世界都看見了
加拿大新布藍茲維省（New Brunswick）省議員比爾．奧利佛（Bill Oliver），日前在議會討論「倡議專員辦公室」相關法案時，原本應該發表一段政策演說。
沒想到，他卻直接念出 AI 修改講稿時留下的提示：「以下是更自然、流暢的版本，讀起來比較像議會演說，而不是一連串簡短的重點。」
只要使用過 ChatGPT 或其他生成式 AI 的人，一眼就知道，那不是演講內容，而是 AI 留給使用者的操作提示。
真正令人錯愕的，不只是漏刪一句文字，而是整份講稿很可能從頭到尾都沒有重新閱讀。
當一位肩負公共責任的民意代表，把 AI 輸出的內容直接搬上議會，最後被全球媒體報導的，不是他的政策主張，而是一場令人尷尬的失誤。
法庭裡，AI 幻覺換來的是罰款與停職
如果議會上的失誤還能成為茶餘飯後的話題，法庭上的 AI 幻覺，代價就完全不同了。
美國密西西比州阿伯丁市一場合約糾紛案件中，法官夏里恩．艾考克（Sharion Aycock）審理案件時，發現雙方提交的法律文件，都引用了根本不存在的判例。
更令人意外的是，原告、被告共四位律師都涉及不當使用 AI。
其中律師凱瑟琳．威爾森（Kathleen Wilson）坦承，她利用 AI 完成法律文件草稿，卻沒有察覺裡面引用了多個虛構判例。
法官直言，不知道 AI 會胡亂編造內容，不能成為理由，最後分別開出一千至三千五百美元罰款，有人甚至遭停職兩年。
類似情況也發生在英國。英國內政部曾在一起庇護案件中引用疑似 AI 生成、內容失實的摩洛哥政策文件。
承審法官表示，若內政部真的使用 AI 製造出的假資料作為證據，將會是「極其嚴重的失誤」。
AI 不會站上法庭。真正承擔後果的，永遠都是把名字簽在文件上的人。
Google AI 一本正經地告訴你：屈原的老婆姓陳
除了法律領域，文化知識也可能被 AI 帶偏。
最近，有網友詢問 Google AI：「屈原的老婆姓什麼？」
AI 給出的答案竟然是：姓陳。
理由是，她被後人尊稱為「屈陳氏」。
看到這裡，多數人立刻知道，那只是「屈臣氏」的諧音冷笑話。
沒想到，AI 還替這個笑話補上完整故事，表示她領了撫卹金後開了連鎖店，含辛茹苦把孩子養大，一生沒有再婚，因此被稱為「屈陳氏不二嫁」。
整段回答讀起來有頭有尾，甚至像引用了某段歷史資料。
在 AI 看來，一萬個人在網路上重複一個笑話，有時候比一本史書更像真相。
Google 雖然加註了「AI 回覆可能有誤」，真正需要判斷真假的人，仍然是每一位使用者。
一對老夫妻，為了一座不存在的纜車開了三百公里
AI 幻覺最大的問題，在於它可能直接影響現實世界。
馬來西亞一對老夫妻看見一支畫面精美的觀光宣傳影片，影片介紹當地新建了一座壯觀纜車，沿途景色十分迷人。
夫妻倆深信不疑，特地開車三百公里前往朝聖。
抵達目的地後，他們才知道，那座纜車從頭到尾都不存在，整支影片都是 AI 製作的。
有人覺得這只是一起烏龍事件，但如果下一次 AI 偽造的是醫療資訊、投資建議，甚至災害消息，影響的就不只是一次白跑三百公里而已。
AI 很聰明，但它仍需要一位會思考的人
面對 AI 帶來的資訊亂象，世新大學新聞系副教授許志明提出一個我很喜歡的比喻。
他形容 AI 就像一隻剛來到人類世界的九尾狐。
能力驚人，學習速度很快，卻還不熟悉人類社會的文化脈絡，不知道哪些是史實，哪些是反串，哪些只是網友故意開的玩笑。
因此，與 AI 對話，不只是提出問題，更需要提供足夠的語境。
例如先說明希望得到的是歷史考證、民間傳說，還是幽默創作；也可以補充背景條件，例如詢問「從歷史文獻角度來看，屈原是否有配偶」，都能幫助 AI 在龐大的資料中縮小搜尋範圍，提高回答品質。
一句好的提示詞，很多時候反映的，不只是操作技巧，更反映提問者整理資訊與思考問題的能力。
AI 可以幫你起草，但人生沒有免責聲明
這幾年，我一直在校園裡和學生談閱讀，也在社群分享許多與 AI 有關的觀察。愈接觸這些案例，我愈覺得，AI 帶來最大的改變，未必是寫作速度，而是它不斷考驗每一個人判斷資訊真假的能力。
加拿大議會的一場尷尬、美國法庭的判決、Google AI 的冷笑話、馬來西亞老夫妻三百公里的空跑，看起來是四則互不相關的新聞，背後卻共同提醒我們一件事：科技愈方便，人愈需要保持清醒。
科技公司可以在回答下方留下一句「AI 回覆可能有誤」。
可是，我們的人生沒有這一行小字。
當你把名字簽在文件上、把文章發出去、把講稿念出口，所有責任，都會回到自己身上。
身為一位老師，也是一名長期創作的內容工作者，我反而比以前更相信閱讀的價值。因為閱讀，不只是認得文字；查證，也不只是搜尋資料。
它們共同守護的，是一個人判斷真偽、辨別是非，以及願意為自己所說、所寫、所相信的一切負責的能力。
AI 可以陪我們工作，也可以協助創作。
但真正決定一篇文章是否可信、一個觀點是否站得住腳、一個決定是否值得相信的人，始終還是我們自己。
精華 FAQ
-
新布藍茲維省議員比爾．奧利佛在發言時，直接念出AI修改講稿留下的提示詞，讓原本的政策演說變成全球媒體報導的笑話，也凸顯他可能沒有重新閱讀內容。
-
文中提到密西西比州案件中，多位律師引用不存在的判例，結果遭法官罰款，甚至有人停職2年；英國內政部若用AI假資料，也被認為是極其嚴重的失誤。
-
作者用Google AI誤答屈原妻子、馬來西亞夫妻追尋不存在纜車等案例提醒讀者，AI能幫忙起草但不能代替查證，最終仍要靠人閱讀、判斷與為內容負責。
喜歡這篇文章嗎？歡迎贊助作者，好內容值得更多人支持。
贊助說明
為了鼓勵作者持續創作更好的內容，會員可以使用「贊助」功能實質回饋給喜愛的作者。可將您認為適合的點數贈送給作者，一旦使用贊助點數即不得撤銷，單筆贊助最低點數為30點，最高點數沒有上限。
U 利點數 1 點 = NTD 1 元。
您當前剩餘 U 利點數：0點；前往購買點數
