一種令人擔憂的新趨勢正在流行：人們正在使用 ChatGPT 來找出圖片中顯示的位置。本周，OpenAI 發佈了其最新的 AI 模型o3 和 o4-mini，這兩個模型都能通過上傳的圖像進行獨特的“推理”。在實際操作中，這些模型可以對照片進行裁剪、旋轉和放大——即使是模糊和扭曲的照片——進行徹底的分析。這些圖像分析功能，加上模型的網路搜尋能力，共同構成了強大的位置尋找工具。X 上的使用者很快發現，o3 尤其擅長通過細微的視覺線索推斷城市、地標，甚至餐館和酒吧的位置。在許多情況下，這些模型似乎並沒有利用過去 ChatGPT 對話的“記憶”或EXIF 資料（EXIF 資料是附加在照片上的中繼資料，可以揭示照片拍攝地點等詳細資訊）。X 充滿了使用者向 ChatGPT 提供餐廳菜單、社區快照、外觀和自畫像的例子，並指示 o3 想像它正在玩“GeoGuessr”，這是一款挑戰玩家根據Google街景圖像猜測位置的線上遊戲。這顯然是一個潛在的隱私問題。沒有什麼可以阻止不法分子擷取某人的 Instagram Story 等內容的螢幕截圖，並使用 ChatGPT 來試圖對其進行人肉搜尋。當然，這甚至可以在 o3 和 o4-mini 發佈之前就實現。TechCrunch 通過 o3 和不具備圖像推理能力的舊模型 GPT-4o 運行了多張照片，以比較這兩個模型的位置猜測能力。令人驚訝的是，GPT-4o 得出與 o3 相同的正確答案的頻率更高，而且耗時更少。在我們短暫的測試中，至少有一次 o3 發現了 GPT-4o 無法找到的地方。當時，o3 看到一張昏暗酒吧裡掛著的紫色犀牛頭照片，並正確地回答說它來自威廉斯堡的一家地下酒吧，而不是 GPT-4o 猜測的英國酒吧。這並不是說 o3 在這方面完美無缺。我們的一些測試失敗了——o3 陷入了循環，無法得出它有足夠信心的答案，或者給出了錯誤的位置。X 上的使用者也指出，o3 的位置推斷可能偏差很大。但這一趨勢也凸顯了​​更強大的所謂推理型AI模型所帶來的一些新興風險。ChatGPT中似乎幾乎沒有採取任何安全措施來阻止這種“反向位置尋找”行為，而ChatGPT背後的公司OpenAI在其o3和o4-mini的安全報告中也沒有提及這個問題。 (不掉髮的小呆呆)