近年各大科企都加強打擊兒童色情，不過有時也會「殺錯良民」。據《紐約時報》報道，美國在家工作的電腦軟件工程師 Mark，2021 年 2 月某個周五晚間發現幼齡兒子陰莖疼痛、腫脹發炎，於是透過視像讓醫生診症，護士要求提供照片讓醫生先行參考。不料兩天後 Mark 收到 Google 通知，指他散布傷害內容嚴重觸犯使用規定，甚至可能觸法，帳號已遭關閉。
Mark 稱 Google 認定他涉嫌對兒童性虐待或性剝削，拍給醫生診斷的照片，可能被 Google 當做兒童色情圖片。之後他填寫申訴申請表格，解釋因為兒子私處發炎，才拍照給醫生做為看診參考，但 Google 回應稱不會恢復其帳戶，卻沒有進一步解釋。
Mark 不但電子郵箱 (Gmail) 等帳號無法取回，還失去通訊錄及照片、十多年來的電郵、跟朋友和舊同事的訊息紀錄，以及兒子出生頭幾年的文件。由於他使用 Google Fi 電訊服務，因此就連手機號碼也被停用，被迫在另一電訊商重新上台，又因為原有的電郵地址和手機號碼已封鎖，Mark 無法取得登入其他互聯網帳戶所需的驗證碼，不能使用許多網絡服務。
比這樣的情況更糟的是，三藩巿警察局以已經對他展開調查，但因為 Mark 的手機號碼停用，就連負責的探員也一度無法聯絡他。盡管後來警方報告證明 Mark 不涉犯罪，但仍無法取回帳號。
住在侯斯頓的 Cassio 亦遇到類似的情況，他的兒子同樣因為私處發炎，兒科醫生要求提供照片作為診症參考，Cassio 拍攝的照片自動備份於 Google Photos，給醫生的照片則透過 Google 簡訊服務傳送，結果同樣被 Google 判定他上載兒童色情內容，帳戶因而被封。
Google 2018 年開發出一種工智能工具，可以識別前所未有的兒童剝削圖像，使用者所拍的照片，從他們的手機自動上傳到 Google 伺服器時，包括備份到 Google 雲端，該項技術會對圖像進行標記。之後 Google 的內容審核員會審查經人工智能標記的照片，以確認它們是否符合美國聯邦政府對兒童性虐待材料的定義。
數碼隱私倡議組織「電子邊疆基金會」(Electronic Frontier Foundation) 科學技術專家 Jon Callas 表示，這些案例都是值得注意的警訊，未來恐怕還會出現數十個、數百個甚至數千個更多案例。由於遭到指控內容非常敏感，許多因為冤枉而帳號被砍的民眾，可能不願意把經歷說出來讓他人知道。
【相關報道】
即刻【按此】，用 App 睇更多產品開箱科技影片
Source：紐約時報