Google1項允許使用者在衛星地圖上生成AI合成影像的新功能,在上線短短一天後便因引發嚴重的假訊息疑慮而遭撤除。
Google於週四宣佈,已將旗下Imagen 2影象生成模型整合至Google 地球,讓使用者能「輸入任何想看到的內容」。這項工具允許任何人生成偽造的AI合成影像,並將其疊加在真實的Google 地球地圖上。然而,研究人員迅速展示這項功能的潛在風險,例如生成伊朗境內假的核電廠影像,或在墨西哥邊境附近顯示難民營的虛假衛星圖。《美國國家公共電台》(NPR)指出,記者、人權倡議者及開源分析師對此決定感到震驚,其中1人表示:「濫用與假訊息的機會簡直無窮無盡。」
《加拿大廣播》(Radio-Canada)報導,這項工具可能助長假訊息傳播,甚至讓政府得以否認施暴。《金融時報》(Financial Times)引述保全專家說法指出,生成式工具恐侵蝕人們對衛星影像的信任,而這些影像目前被廣泛用於驗證衝突損害與各類事件。在各界批評聲浪下,Google迅速暫停並撤回這項AI衛星影象生成功能。