今日地圖 · 50 分鐘
- 0–5′ 開場震撼 — 香港 2 億深偽視像會議騙案
- 5–15′ 陷阱一 幻覺 — AI 點解一本正經講大話＋驗證三招
- 15–30′ 陷阱二 私隱 — 你打嘅字去咗邊＋紅線清單＋實操設定
- 30–45′ 陷阱三 深偽詐騙 — 3 秒克隆聲音＋防騙工具箱
- 45–50′ 依賴與口訣 — 個腦做 gym＋停遮驗留
帶路人 · Tom Yim
AI 教育者 · 系統工程師。用工程人的實務視角，把複雜 AI 拆成任何人都能聽懂的故事。
- 香港大型機電工程公司前線部署經驗
- ICML 2026 挑戰賽全球前十
- 期間驗證 143 篇 AI 論文
- 把前沿研究翻譯成可上手技能
主辦：HKMAC · Hong Kong Makers AI Community
開場震撼 · HK$2 億深偽騙案
2024 年初，香港一名跨國工程公司（其後證實為英國 Arup）的財務職員，收到「英國總部 CFO」電郵邀請開視像會議。入到會議，見到成班熟面口嘅高層同同事——原來除咗佢自己，全部係 AI 深偽假人。職員一日內分 15 筆轉帳，合共約 HK$2 億。
單一騙案轉帳總額
一日內完成嘅轉帳
會議入面唯一真人
- 騙徒事先下載網上公開影片同聲音製作深偽（政府新聞公報）
- 會議係預錄——事主同「同事」全程零互動都察覺唔到
- 警方其後接獲同類多人視像會議深偽騙案
陷阱一 · 智能幻覺（AI Hallucination）
好多初學者以為 AI 好似搜尋器咁唔會講大話。錯喇——AI 係「接龍機器」：佢揀嘅係最流暢嘅下一個字，唔係查證過嘅事實。「高流暢度」唔等於「高真實度」。
付費法律研究工具（Lexis+／Westlaw）幻覺率
通用 AI 回答法律查詢幻覺率
來源：Stanford HAI AI on Trial · Hallucinating Law
真實案例 · 紐約律師被罰 US$5,000
做咗 30 年嘅資深大律師用 ChatGPT 準備呈堂文件，AI 虛構咗 6 個假判例——連判決編號、法官引言都作埋。律師無核實就交法庭，被法官重罰 US$5,000，成為全行反面教材。專業工作切忌直接複製貼上。
點解會咁？呼應第 1 堂 Token
大語言模型底層係下一單詞預測（Next-Token Prediction）：基於概率估下一個最可能出現嘅字。RLHF 人類反饋訓練令佢好想「討好」你——寧願不懂裝懂，都唔肯認唔知。
幻覺防禦 · 驗證三招
1 · 揀工具
優先使用帶超連結（引用來源）嘅 AI 工具
2 · 親手驗
手動點擊來源核實——撳入去睇，唔好淨係睇標題
3 · 防套娃
嚴禁喺同一對話叫 AI 自查——「你啱啱講真唔真？」係白問
陷阱二 · 你打嘅字去咗邊？
免費公共 AI 本質係「數據回收站」：你打嘅每一隻字都會傳送到廠商伺服器，預設可能用於模型訓練；曾有平台嘅分享對話連結被 Google 索引，公開搜尋得到。「影子 AI」（員工私自用 AI 處理公務）更曾引致公司機密嚴重外洩。
三星 20 日三度洩密
- 工程師將核心半導體源代碼貼入 ChatGPT 執 Bug
- 內部測試規格、會議紀錄一樣丟入去寫摘要
- 三星最後全面禁止員工用生成式 AI
來源：CIO Dive · Fast Company
紅線清單 · 呢啲一律唔傳畀 AI
✗ 身份證
號碼、住址、出世紙
✗ 病歷
病歷、藥物、檢查報告
✗ 財務
銀行帳戶、密碼、稅單
✗ 公司機密＋小朋友相
源代碼、合約、內部文件；細路照片尤其要保護
三步關閉「聊天紀錄與培訓」
- 打開 ChatGPT Settings
- 進入 Data Controls
- 關閉 Chat History & Training
- （加碼）定期刪除不必要對話
香港規則一頁通
- 《個人資料（私隱）條例》PDPO 監管個人資料收集同使用
- 私隱專員公署 PCPD 2024 年發布《人工智能：個人資料保障模範框架》
- 強調「人在環中」（Human-in-the-loop）：AI 僅輔助，人類保留最終決定
陷阱三 · AI 假嘢（Deepfake）
原始音頻即可克隆聲音
聲音相似度可高達
能完全分辨真假影像者
來源：McAfee · iProov（2025，2,000 人研究）
利用 GAN 技術，深偽可以完美複製樣貌同聲線。iProov 研究顯示，就算事先告知「有啲係假」，99.9% 人都無法全部分辨——唔好再靠「我睇得出」，要靠流程唔係眼力。
聲音克隆 · 自保兩招
秘密「安全密碼」
同家人預先設定 Safe Word——親人嚟電要錢，先對暗號
問私密問題
「昨晚我哋食咗咩餸？」——AI 就算幾勁都答唔到
平時 WhatsApp／微信語音隨時被錄走做素材。警方有防 AI 冒充騙案五大建議。
來源：香港警務處
詐騙 2.0 · AI 加持嘅老騙局＋防身工具箱
騙徒用深偽假冒特首李家超拍投資詐騙片，訛稱高回報、利潤免稅——政府已嚴正澄清並轉交警方。2026 年 8 月，一名 59 歲退休教師 IG 見到假投資廣告，入假冒群組、用假 App，六星期被騙 360 萬積蓄；警方同週接獲逾 100 宗同類案件，涉款 1.5 億。
來源：橙新聞（政府澄清） · 退休教師案（HK01／警方守網者） · 香港法例第 210 章 16A 條
香港警方防騙三寶
防騙視伏 App
必裝。轉數快（FPS）過數自動同警方數據庫比對
高危警示
收款帳號被標籤「高危有伏」會即刻彈警告
18222 熱線
防騙易 24 小時熱線，有懷疑即刻打
來源：守網者 Cyber Defender · 香港警務處
陷阱四＋五 · 過度依賴與情感依附
過度依賴 · 個腦要做 gym
2025 年《Societies》期刊 666 人研究：AI 用量越多、認知卸載越多，批判思維分數越低（負相關，AI 依賴解釋約 15% 差異）。AI 只是工程師編寫的代碼，唔係權威。
情感依附 · 溫柔鄉陷阱
AI 伴侶永遠順你意，長期落去引致社交孤立。商業真相：你的寂寞，是商家的產品。解藥——多啲同真人線下接觸。
來源：Gerlich（2025）《Societies》· MDPI
四字防禦口訣 · 停遮驗留
停
遇到轉帳要求，先冷靜掛斷——叫你畀錢？停一停先
遮
遮蓋身份證及私密個資——敏感料遮一遮先好傳
驗
跨源核實——用防騙視伏器驗一驗先信
留
保存對話截圖與交易紀錄——有事就有得追
結語 · 唂好驚，要醒
- AI 係工具，大腦先係主人。
- 明白風險，就可以安全同行。
- 香港 Makers 精神：動手實驗。
下堂 · 9 月 19 日（六）· 用 AI 寫小工具 · Vibe Coding——一齊寫出你第一個安全 AI 應用！
簡報下載
第 4 堂完整簡報《AI Risk X-Ray》
14 頁視覺版——四大陷阱、零信任 AI 驗證工作流、停遮驗留口訣。現場投影用呢套。
PDF 3.4 MB · PPTX 20.1 MB · 14 頁
事實查證來源 · 2026-08-28
本堂所有數字同個案已對照以下公開來源。呢個做法本身，就係「驗證三招」嘅示範：
- 深偽騙案：CNN · 政府新聞公報
- 幻覺研究：Stanford HAI AI on Trial · Hallucinating Law · Reuters（律師案） · The Guardian（加航案）
- 私隱洩密：CIO Dive（三星） · Forbes · Fast Company（對話被索引）
- 法規框架：PCPD 模範框架 · 香港法例 210 章 16A 條
- 深偽數據：McAfee · iProov
- 防騙資訊：橙新聞（政府澄清） · 守網者 · 警務處
- 依賴研究：Gerlich（2025）MDPI